Избранное

SubStat

в работе (тесты)

Экспериментальное хранилище памяти на спайковой нейросети — population-coded концепты, cap фан-аута, snapshot-персистентность.

Go
Spiking neural network
Population coding
Snapshot persistence
BrainCore

← Избранное

Идея

А что если память — не строки и индексы, а сеть, которая возбуждается? SubStat — исследовательский спайк (прототип в Claude Science, позже влит в BrainCore), который хранит и вспоминает информацию как паттерны активации над спайковой нейросетью, а не как записи в таблице.

Как это работает

Population coding — каждый концепт это распределённый ансамбль нейронов, а не один адрес. Recall деградирует мягко: потерял несколько нейронов — память всё ещё на месте.
Recall = spreading activation — запрос сеет волну активации по графу синапсов; загоревшиеся концепты и есть ответ.
Cap фан-аута на этапе создания — тяжёлый урок. Если разрешить синапсам формироваться свободно, граф взрывается комбинаторно с ростом хранилища. SubStat ограничивает фан-аут в момент создания синапса, так что сеть остаётся ограниченной, сколько бы ты в неё ни залил.
Snapshot-персистентность — вся сеть сериализуется в снапшот и восстанавливается целой после рестарта. Синапсы переживают смерть процесса.

Почему это важно

Это другой ответ на вопрос «что такое память для AI-агента?» — не Ctrl+F по эмбеддингам, а ассоциативный субстрат, где связанные идеи буквально сшиты вместе. Идеи population-coding и spreading-activation перекочевали в recall-путь BrainCore.

Статус и цифры

Исследование / work-in-progress — влит в BrainCore. Что сделало проект настоящим, а не игрушкой, в цифрах:

Кап фан-аута 48 на нейрон на этапе создания → синапсы ограничены ≤ N×48, никогда не комбинаторны.
Hub-heavy learn 5.4 с → 329 мс после scaling-overhaul; 184 концепта = 14K синапсов (не миллионы); дашборд рендерится за 2–8 мс.
Персистентность доказана вживую: рестарт → «восстановлено 7 концептов, 590 синапсов» → ответ на вопрос без переобучения.
17 SNN-тестов вкл. Export/Import round-trip; прогон против LoCoMo eval-батареи (7 + ~24 пробы, 9 категорий, судья gpt-4o-mini).

Уроки

Биологическая правдоподобность соблазнительна и дорога. Выигрыш был не «мозги — это круто», а ограниченный фан-аут, сделавший спайковое хранилище tractable.
Персистентность не опциональна. Память, забывающая всё при рестарте, — это демо, а не хранилище.