Определение ИИ-психоза, часть 2: продуктивный ИИ-психоз

Джефф Кларк - психиатр, публикующий в блоге jeffs.blog короткую серию заметок о том, что означает понятие "ИИ-психоз". Эта вторая часть вышла 8 сентября 2026 года. В первой части, которой нет в vault, он разделил этот термин на три ситуации: подлинные психотические эпизоды, связанные с использованием LLM (он называет это истинным ИИ-психозом и считает скорее вариантом уже существовавшего психоза, а не новым синдромом); гипервовлечённость в работу с ИИ-инструментами, сопровождающуюся более мягким отрывом от реальности (тема этой статьи); и дезадаптивные отношения с чат-ботами, имитирующими человеческую привязанность (обещано в следующей публикации).

Определение

Продуктивный ИИ-психоз - это генерация огромного объёма результатов работы ИИ без заметного роста реальной ценности своего труда, а иногда и с её разрушением. Разработчик в таком состоянии выдаёт тысячи строк в день, от которых мало практической пользы, тогда как по-настоящему продуктивный специалист может провести день за удалением кода или исправить ошибку изменением одного символа. Кларк проводит аналогию с любимым писателем, который обычно пишет приличные 1000 слов в день и вдруг начинает выдавать по 100 000: бережное отношение к тексту не переживёт такой объём. В сноске он оговаривается, что софт отличается от романов шаблонным кодом и ограниченным словарём.

Он аккуратно определяет, где именно кроется проблема. Больше кода и больше текста действительно могут приносить больше пользы. Дефект заключается в восприятии: человек перестаёт адекватно оценивать качество собственной работы. Именно поэтому Кларк берёт термин из психиатрии. Субъект испытывает мягкий отрыв от реальности, который автор описывает как сбой критического мышления, а не как бред.

Почему агентные инструменты усугубляют проблему

Интерфейсы чатов - это тот ИИ, с которым знакомо большинство людей, и Кларк считает, что они редко приводят к подобному. Риск исходит от агентных инструментов вроде Claude Code, которые прогоняют список задач по кругу, пока приложение не будет готово. При должной дисциплине результаты его поражают. Без неё инструменты с полной уверенностью принимают чудовищно плохие решения: создают несколько новых файлов ради однострочного исправления, отчитываются об успешном фиксе, пока программа ломается ещё сильнее, или медленно переписывают с нуля задачи, решённые десятилетия назад. Его описание современных моделей: наполовину сеньор-инженер, наполовину двухлетний ребёнок с кувшином красного сока Kool-Aid, бегающий по белому ковру, - оба говорят с одинаковой уверенностью и не всегда замечают, что что-то пролили.

Второй образ Кларка и несёт в себе основной аргумент. Разработка с ИИ ощущается как самый щедрый игровой автомат в истории: почти каждое нажатие рычага приносит крупный выигрыш, большинство проигрышей малы и очевидны, и "время от времени проигрыш выглядит в точности как победа". Без навыка, концентрации и терпения отсеивать фальшивые выигрыши ошибки накапливаются и превращаются в хаос.

Как развивается состояние

Кларк разбирает путь гипотетического инженера. Инструмент выполняет некоторые задачи в сотню раз быстрее, поэтому человек дёргает рычаг, запускает новые машины, пока крутятся первые, отлавливает случайные баги, настраивает машины для проверки машин, расширяет их возможности и строит сети ботов. Амбиции растут до идеи создать компанию-единорог силами одного человека. Сон уходит, общение с людьми уходит, критики объявляются недальновидными, а любые огрехи якобы исправят следующие модели. Вопрос о том, полезно ли хоть что-то из сделанного, откладывается в спешке "сбежать из вечного андеркласса".

Автор признаётся, что сам прошёл часть этого пути. Иллюзия развеялась, когда он понял, что не в состоянии разобраться в собственном проекте: десятки созданных файлов, ни малейшего представления о том, как они работают, и никакой возможности добавить новые возможности без переписывания всего с нуля. Разработчики, с которыми он общался и которые смогли выбраться из этого состояния, все ставят во главу угла человеческое суждение, сон и жизнь за пределами работы.

Причины (в порядке гипотезы)

Эту часть Кларк прямо называет догадками и высказывается с осторожностью. Вариативное подкрепление, когда награда выдаётся по непредсказуемому графику, - один из сильнейших механизмов управления поведением, и это неотъемлемое свойство LLM-инструментов. Он предполагает, что люди с СДВГ или трудностями с самоконтролем находятся в группе повышенного риска, как и те, у кого высока открытость новому опыту и низка добросовестность. Кларк не знает точно, кто более уязвим - джуниоры или сеньоры; он склоняется к джуниорам, хотя свидетельства об известных разработчиках с похожими симптомами встречаются часто. Свою роль играют хайп и нарратив о том, что ИИ заменит любые рабочие места. Это особенно болезненно для тех, кто пытается найти работу после сокращений и оценивается по метрикам, где объём выработки по-прежнему поощряется. Наконец, есть вкус, который он предпочитает называть мастерством: оценка того, является ли продукт полезным, качественным, желанным или приятным, - это диалог между людьми, и внутри LLM её не найти.

Сноски задают полезные рамки. Единичные примеры - это не статистика. Обвинение в ИИ-психозе оправдано далеко не всегда, а претензия "это не соответствует моим стандартам качества" существовала задолго до генеративного ИИ. Убеждения, разделяемые внутри сообщества (например, про вечный андеркласс, сверхразум или пузырь ИИ), не являются бредом. Кроме того, Кларк скептически относится к заявлениям о стократном росте продуктивности: несколько минут работы с моделью могут сэкономить целый день, но средний прирост оказывается гораздо скромнее, если учесть затраты на контроль и остальные узкие места (координацию, понимание потребностей клиента, доступ к ресурсам, корпоративные правила).

Контекст в базе

В ceo-ai-psychosis это слово впервые было применено к руководителям (бессонная оркестрация агентов у Гарри Тана и признание Карпатого о собственном "состоянии психоза"); Кларк же проводит клиническую границу, которой там не хватало, отделяя дефект самооценки от настоящего психоза. specsmaxxing - пример от первого лица, вплоть до описанной Кларком стадии создания машин для проверки других машин. Механизм игрового автомата фигурирует в agentic-coding-fatigue как гача-петля, а в building-syntaqlite-ai - как петля зависимости; ai-superpowers-focus-followthrough иллюстрирует стадию раздутых амбиций на практике, когда одновременно запускаются 40 пет-проектов.

Главный тезис о том, что люди не могут адекватно оценить результаты собственной работы с ИИ, обосновывается в fooling-yourself-with-ai через обнаруженный METR разрыв между субъективной и реальной скоростью, а ai-sycophancy-loop показывает одну из причин, почему эта оценка сбоит. tokenmaxxing описывает поощрение за метрики объёма, названное среди причин. Момент, когда Кларк перестал понимать собственный проект, совпадает с утратой ситуационной картины из ironies-of-automation, а back-to-coding-by-hand рассказывает о человеке, который столкнулся с тем же и вернулся к ручному коду.