Угасание памяти у ИИ-агентов

Идея о том, что воспоминания ИИ-агента должны со временем угасать, если их активно не подкреплять, построена по модели кривой забывания Эббингауза из когнитивной психологии. Без угасания память агента накапливается бесконечно, становится зашумлённой и дорогой в поиске. С угасанием система естественным образом выводит на первый план свежие и часто используемые знания, позволяя устаревшей информации растворяться.

Как это устроено

Каждое воспоминание получает период полураспада - отрезок времени, по истечении которого его сила падает вдвое. Воспоминание с периодом полураспада в 7 дней, к которому не обращались 14 дней, сохраняет 25% силы. Когда проходит достаточно времени без извлечения, сила падает ниже порога, и запись можно удалять.

Подкрепление при извлечении работает в обратную сторону: каждый раз, когда воспоминание извлекается, период его полураспада увеличивается. Возникает естественная обратная связь: полезные воспоминания усиливаются за счёт использования, а нерелевантные - угасают. Некоторые реализации (например, hippo-memory) поддерживают и явную обратную связь: отметка о том, что извлечение помогло, ещё сильнее продлевает период полураспада, а отметка о бесполезности ускоряет угасание.

Закрепление ошибок даёт воспоминаниям с метками ошибок или багов больший начальный период полураспада. Логика простая: повторять ошибки обходится дорого, поэтому системе стоит удерживать выводы из неудач дольше, чем обычные наблюдения.

Почему это важно для агентных систем

Наивный подход к памяти агента - режим append-only: сохранять всё подряд и искать по мере необходимости. Поначалу это работает, но со временем деградирует:

• Результаты поиска забиваются устаревшей информацией, которая ранжируется наравне с актуальными фактами
• Бюджет токенов расходуется на нерелевантный контекст
• Накапливаются противоречия: кодовая база меняется, а старые воспоминания остаются

Угасание решает все три проблемы, делая свежесть и частоту использования частью сигнала релевантности, а не полагаясь только на ключевые слова или семантическое сходство.

Консолидация

Биологическая память консолидируется во время сна: краткосрочные эпизоды сжимаются в долгосрочные паттерны. Та же идея применима к агентам: периодически сканировать эпизодическую память, находить кластеры из 3 и более связанных записей и объединять их в единое стабильное "семантическое" воспоминание. Отдельные эпизоды затем могут угасать обычным путём, пока сформированный паттерн сохраняется.

hippo-memory реализует это через hippo sleep - цикл консолидации, который производит угасание, слияние и очистку в рамках одной транзакции. Stash развивает ту же идею биологической консолидации дальше: фоновый девятиэтапный конвейер прогоняет сырые эпизоды через факты, связи, причинно-следственные цепочки, паттерны, противоречия, цели, паттерны сбоев и проверку гипотез. Там, где Hippo останавливается на переходе от эпизодов к паттернам, Stash расширяет ту же метафору на причинно-следственные рассуждения и самокоррекцию.

Уровни уверенности

Одно лишь угасание не отражает надёжность. Воспоминание может быть свежим, но сомнительным, или старым, но проверенным. Уровни уверенности (verified, observed, inferred, stale) добавляют второе измерение. Агент, видя "observed (2 weeks ago, 60% strength): deploy takes ~3 min", может оценить и свежесть, и надёжность, прежде чем действовать.

Применимость к этой вики

В этой вики используется другая модель: без автоматического угасания, с обновлениями под управлением человека и циклом lint'а, помечающим устаревший контент. Но суть проблемы та же: знания накапливаются, и часть из них устаревает. Угасание - один из подходов; периодический пересмотр - другой. Мог бы подойти и гибрид: автоматическое угасание для временного контекста (статус проекта, активные баги) и ручная курация для долговременных знаний (концепции, архитектура).

Связанные страницы

• agent-memory-strategy-decision-tree - практическое дерево из пяти вопросов, помогающее решить, к какому слою памяти (working, semantic, episodic, procedural) относится каждая категория информации.
• ai-cannot-forget-forgive - контрастный тезис: машинная память вообще лишена встроенного угасания, а забывание - это адаптивное сжатие, которого субстрату не хватает.