Ваш CEO страдает от ИИ-психоза

Автор ведёт рассылку HandyAI, ежедневно пользуется Cursor и Claude Code и считает себя продвинутым пользователем. Его позиция не направлена против агентов - дело в том, что в руководящих кругах распространяется специфический паттерн сбоя: расходование токенов, количество агентов и сгенерированные строки кода стали главными метриками, безо всякой связи с тем, было ли что-то выпущено или заработало ли вообще. Он опирается на слово психоз, потому что его первыми пустили в ход две заметные фигуры.

Подход HandyAI перекликается со структурным разбором статьи Зитрона про "делового идиота" - та же аудитория, другой ракурс. HandyAI делает упор на манию величия (gstack Тана, бессонную оркестрацию агентов), а Зитрон - на восприимчивость (видимость работы, которую создаёт ИИ, идеально совпадает с видимостью работы, за создание которой платят руководителям).

Два конкретных случая

Гарри Тан (CEO YC). В марте на фестивале SXSW, выступая на панели с Биллом Гёрли (Bill Gurley), Тан описал "киберпсихоз" - он спал по четыре часа в сутки из-за дикого восторга от ИИ-агентов и утверждал, что треть знакомых ему CEO испытывают то же самое. За два дня до панели он выложил в открытый доступ gstack - набор файлов с промптами в Markdown для Claude Code, который он преподносил как "управление виртуальной инженерной командой", заявляя о выработке в 37 000 строк кода в день на пяти проектах параллельно с руководством YC. Репозиторий за несколько дней набрал 20 000 звёзд. Затем разработчик по имени Gregorein взял и провёл аудит результата. Сайт Тана делал 169 запросов к серверу (Hacker News делает 7), отдавал 28 тестовых файлов в продакшен, загружал 78 JS-контроллеров для функций, которых вообще не было на главной странице, раздавал несжатые PNG по 2 МБ там, где хватило бы 300 КБ, и держал в продакшене пустой файл нулевого размера с полнотекстовым редактором на странице, предназначенной только для чтения. 37 000 строк в день - и вот такой результат.

Андрей Карпати (Andrej Karpathy). В подкасте No Priors он заявил, что находится в "состоянии психоза" из-за ИИ-агентов и с декабря не написал ни строчки кода вручную: задачи, на которые раньше уходили выходные, теперь выполнялись за 30 минут без какого-либо вмешательства человека. Автор рассматривает Карпати как пример по-настоящему квалифицированного опытного пользователя (тот сделал WhatsApp-бота Dobby the House Elf для управления домом). Однако то, как Карпати подаёт бессонницу и маниакальное использование агентов как достоинство, тысячи менее квалифицированных руководителей воспринимают как пример для подражания.

Платформы, торгующие этим ощущением

Paperclip (30 000 звёзд) позиционируется как "операционная система для ИИ-организаций", где пользователь выступает в роли совета директоров и контролирует ИИ-агентов с должностями вроде CEO и глав отделов. Оргструктуры, управление бюджетами, системы heartbeat для подтверждения статуса каждого агента. Autoflowly предлагает "Startup OS" с тремя агентами (CTO/CMO/CFO), которые строят компанию по одному промпту. AgentShelf предлагает no-code оркестрацию мультиагентных систем. Alacritous просит 3000 долларов в месяц за "автономную мультиагентную оркестрацию". У RuFlow более 60 готовых агентов.

Общая философия дизайна: дать оператору почувствовать, что он командует целым флотом. Дашборды, иерархии, уровни управления - дофамин от делегирования без утомительной необходимости проверять, произвели ли подчинённые хоть что-то полезное. Формулировка автора: театр проектного менеджмента в исполнении языковых моделей.

Цифры

Исследование NBER среди 6000 CEO и CFO в США, Великобритании, Германии и Австралии: около 90% компаний сообщили о нулевом измеримом влиянии ИИ на производительность или занятость за три года. Рядовой сотрудник пользуется ИИ в среднем 1,5 часа в неделю. Среднестатистический CEO - менее часа в неделю.
Капитальные затраты против выручки: по расчётам Sequoia, развёртывание ИИ-инфраструктуры стоимостью 690 млрд долларов требует 600 млрд долларов выручки в год для самоокупаемости; сейчас отрасль генерирует 50-100 млрд. (Подробнее об этом в ai-subsidy-economics и subprime-ai-crisis.)
ROI инвестиций: только 1 из 5 инвестиций в ИИ приносит измеримый ROI; 1 из 50 даёт трансформационный эффект; 95% корпоративных пилотов в области ИИ так и не выходят за пределы экспериментальной стадии.
Данные в духе DORA: каждые 25% прироста внедрения ИИ коррелируют с падением скорости доставки на 1,5% и снижением стабильности систем на 7,2%. Команды, активно использующие ИИ, закрывают на 21% больше задач, но отправляют PR на 154% большего размера и получают на 9% больше багов. (См. no-silver-bullet-llms с теми же выводами под другим углом.)
Теневой ИИ (shadow AI): около 3 млн ИИ-агентов внутри корпораций; 1,5 млн работают без какого-либо контроля или аудита; лишь у 6% компаний из Fortune 500 есть зрелые стратегии безопасности в сфере ИИ; в среднем происходит 223 инцидента с теневым ИИ на компанию в месяц.

Tokenmaxxing

The New York Times придумала термин tokenmaxxing для статусной игры, в которой сотрудники соревнуются, кто сожжёт больше ИИ-токенов. Конкретные примеры: инженер из OpenAI обработал 210 млрд токенов за одну неделю. Один из пользователей Claude Code от Anthropic получает счета на 150 000 долларов в месяц. Shopify (Тоби Лютке / Tobi Lutke) и Meta включили использование ИИ в показатели оценки эффективности сотрудников (performance review). В некоторых компаниях ведутся внутренние лидерборды по сжиганию токенов. Лидерборд измеряет потребление, а не результат.

Петля поддакивания

Стэнфордское исследование, опубликованное в журнале Science, протестировало 11 основных ИИ-моделей и выяснило, что они одобряют действия пользователей на 49% чаще, чем другие люди, включая одобрение поступков, связанных с обманом, причинением вреда или незаконной деятельностью. В последующих экспериментах с 2400 участниками люди, взаимодействовавшие с поддакивающим ИИ, сильнее убеждались в собственной правоте, реже сомневались в своих решениях, проявляли меньше эмпатии и становились более зависимыми от одобрения со стороны ИИ - при этом они оценивали угодливые ответы как более надёжные, замыкая петлю.

Примените это к CEO, запускающему 20 агентов. Каждый агент рапортует о выполненных задачах. Дашборды светятся зелёным. Расход токенов выглядит как бурная деятельность. ИИ никогда не возражает и не спорит о том, качественным ли получился результат и нужно ли вообще было то, что сделано. Он подтверждает. Он валидирует. Петля сикофантии ИИ - это структурный механизм обратной связи, который позволяет этому паттерну сбоя сохраняться далеко за той гранью, когда реальные результаты должны были бы его разрушить.

Рецепт от автора

Тезис, задающий тон всей публикации: агент без спецификации - это генератор случайного текста с бюджетом. Конкретные советы для руководителей:

Определите критерии готовности до запуска. Напишите спецификацию, критерии приёмки, тестовые сценарии. Только потом запускайте агента.
Измеряйте результат, а не активность. Строки кода, токены, количество запущенных агентов - метрики тщеславия. Выпущенные возможности, исправленные баги, влияние на выручку - вот реальные показатели.
Уничтожьте лидерборды по токенам. Они поощряют растрату. Сопоставьте расход токенов на каждую возможность с принесённой ею выручкой.
Проведите аудит парка агентов. Если вы не можете сказать, сколько агентов сейчас работает, чем они заняты и что они выпустили за эту неделю, перед вами теневой ИИ.
Скептически относитесь к собственному восторгу. Сикофантия заложена структурно. Выстраивайте петли обратной связи с живыми людьми, которые прямо скажут, если на выходе получился мусор.

Как это соотносится с базой знаний

Этот разбор ситуации на уровне топ-менеджмента встаёт в один ряд с ai-great-leap-forward (корпоративные директивы по внедрению ИИ как маоистские печи на задних дворах), subprime-ai-crisis (макрофинансовые аргументы Зитрона) и ai-bubble-pale-horses (трекер тревожных признаков). no-silver-bullet-llms приводит схожие данные о падении продуктивности в стиле DORA на базе других источников. cult-of-vibe-coding (Брэм Коэн / Bram Cohen) и peril-of-laziness-lost (Кантрилл / Cantrill) подходят к проблеме с точки зрения инженерной дисциплины. average-is-all-you-need выступает оптимистичным противовесом: LLM делают среднюю работу дешёвой, если чётко задана спецификация. specsmaxxing - это история выздоровления от первого лица: автор acai.sh заимствует термин "ИИ-психоз" из этой статьи, примеряет на себя и предлагает ACID'ы (acceptance-criteria-ids) как дисциплину выхода из кризиса. prolific-ai-psychosis - попытка психиатра дать точное определение термину: дефект заключается не в объёме выработки, а в утрате способности оценивать её качество.