Кто управляет агентами?

Анонимное эссе на off-policy.com, опубликованное под слагом "don't go quietly into the AI night" и построенное вокруг одного вопроса: кто управляет агентами? Его аргументация не направлена против ИИ. Она выступает за ИИ и против концентрации власти над ним, что ставит её ближе к elena-verna-job-2027, чем к текстам с отказом от технологий в anti-llm-discourse. Ближе к концу автор признаётся, что его компания создаёт именно тот продукт, который описывается в эссе, так что материал одновременно служит и программным манифестом, и коммерческим питчем.

Два сценария будущего

В основе структуры лежит развилка. Первый путь - ИИ как божество, созданное и контролируемое узким кругом "жрецов" (clergy) - лабораториями, которые обучают frontier-модели, получают привилегированный доступ и решают, какими возможностями позволено пользоваться всем остальным. Это "жречество" предупреждает о массовой безработице (Amodei о начальных позициях офисных работников, Altman о клиентской поддержке, Suleyman о профессиональном труде) и обещает, что изобилие и перераспределение благ всё компенсируют - "милостью машин и тех, кто ими управляет". В таком мире крошечная группа выступает посредником между машинным интеллектом и всеми остальными, а большинство людей лишь потребляют решения и продукты, не участвуя в процессе. Второй путь: миллиарды людей, каждый из которых учится управлять собственными способными агентами.

Доказательством концентрации автор считает цепочку ограничений возможностей моделей. Разработку лекарств урезают из-за риска биологического оружия, генерацию софта - из-за киберугроз, а в прогнозируемом будущем математические расчёты ограничат из-за рисков для криптографии, а генерацию контента - из-за угрозы дезинформации. При этом правительства требуют ограничений, лаборатории их поддерживают, а избранные партнёры сохраняют доступ. Результатом автор называет двухуровневую систему: передовой ИИ для избранных и урезанный ИИ для всех остальных. (Приводимые примеры смешивают реальные события 2025-26 годов с датированными на будущее, к которым стоит относиться как к гипотезам, - блокировки в рамках экспортного контроля, уровни доступа к моделям, регулируемые государством.)

Разрыв и есть главный аргумент

Самый сильный раздел текста - эмпирический, а не риторический. Разработка ПО служит опережающим индикатором, поскольку разработчики получили агентов на год раньше остальных работников умственного труда. Среди них менее 1% продвинутых пользователей (super users) достигли ускорения в 100x (главный пример - переписывание Bun с Zig на Rust за 11 дней, когда один инженер запускал до 64 параллельных экземпляров Claude Code), тогда как медианный разработчик не сдвинулся с места. В эссе цитируется рандомизированное исследование METR, где в начале 2025 года опытные разработчики с ИИ работали на 19% медленнее, а повторный замер в феврале 2026 года выявил лишь "очень слабые свидетельства" ускорения. Каждый релиз моделей и новых возможностей лишь увеличивает этот разрыв: опытный пользователь переходит на новый уровень, а медианный запутывается ещё сильнее.

Из этого автор выводит утверждение о распределении, которое и является его основным тезисом: горстка аномальных 10x-специалистов почти не меняет средний показатель; чтобы сдвинуть среднее, нужно сделать медианного человека в 2 раза эффективнее (2x). Компания, чья единственная стратегия внедрения ИИ сводится к сокращению штата, "использует экспоненциальную технологию ради линейной цели". Это то же беспокойство о характере распределения, что и на странице llm-as-average-democratizer, но направленное в противоположную сторону: если там ставится вопрос, поднимает ли ИИ нижнюю планку, то здесь утверждается, что текущая траектория поднимает только потолок.

Рецепт: каждый становится менеджером агентов

Совет по разработке продуктов: проектировать интерфейсы для медианного пользователя, а не для эксперта, чтобы пользователь приобретал рассудительность и контроль, - "проектируйте для человека, управляющего агентом, а не для агента, заменяющего человека". Организационный совет: перестать продавать (и перестать покупать) замену команд. Лучше всего управлять агентами способны те, кто сейчас выполняет работу, потому что они владеют предметной областью, а переносимые управленческие навыки вполне обычны - формулировать намерения, проверять чужую работу, отвечать за результат. Дайте каждому сотруднику по одному агенту, один на один, а затем позвольте хорошим руководителям масштабироваться до команды, а затем и до целого отдела агентов.

Здесь текст пересекается с кластером страниц вики о контроле над ИИ. Лестница "стань менеджером агентов" - это оптимистичное зеркальное отражение skill-atrophy-supervision-paradox: она предполагает, что навыки надзора уже есть и их достаточно просто направить на агентов, тогда как парадокс показывает, что активное использование агентов разрушает именно те навыки чтения и критики, которые необходимы для надзора. Она также перекликается с agent-principal-agent-problem: мысль Crawshaw о том, что агенты разрушили сигнал о затраченных усилиях между исполнителем и ревьюером, - это ровно та дыра в ответственности, которую рефрен эссе "подконтрольный, управляемый, подотчётный" пытается закрыть, закрепляя за каждым агентом владельца-человека. И это осознанный противовес ceo-ai-psychosis: если оркестрация агентов топ-менеджерами лишь имитирует управление, не давая реального результата, этот текст предлагает спустить управление на уровень линейных специалистов (IC), способных на деле проверить работу.

Суверенные агенты (и коммерческий питч)

Финальный тезис: агенты должны быть "суверенными". Компания владеет и управляет их идентичностью, правами доступа, памятью, навыками, артефактами и журналами аудита; эти активы переносимы, контролируемы и недоступны никому без вашего разрешения. Главное предупреждение звучит так: "если агентами управляет не ваша команда, ими управляет ваш вендор" - внедрение агентских решений от вендора отдаёт доступ и данные, автоматизируя и вытесняя саму вашу компанию. Различие между агентом, принадлежащим человеку, и агентом вендора перекликается с agents-vs-daemons: автор ратует за агентов с понятным человеком-владельцем в контуре управления, а не за автономные фоновые процессы, исполняющие чужую командную цепочку.

С чем не согласились в треде на HN

В обсуждении вскрылись противоречия, которые эссе так и не разрешает. Timwi указал на нестыковку между "ИИ для миллиардов" и агентами, которые "недоступны никому без вашего разрешения": это предполагает 8 миллиардов человек, каждый из которых руководит компанией в условиях капиталистической конкуренции; Terr_ ответил, что это обычный питч демократизации ПК (личная собственность, закрытая для посторонних). kristianc воспринял вопрос "кто управляет агентами" как очередную точку корпоративной тревожности в сфере безопасности в духе "теневого IT" (Shadow IT), которая всегда неизбежно приводит к появлению касты жрецов и платформы управления за сотни тысяч долларов - меткое замечание с учётом того, что автор как раз продаёт такую платформу. ekidd отметил, что концепция автора сама по себе неустойчива, если модели станут намного умнее: нельзя раздать каждому по персональному Скайнету, а управление сущностью, которая умнее тебя, даёт мало пользы, поэтому человек-менеджер тоже окажется вытеснен.

Самой устойчивой темой дискуссии стала ответственность. Предложение simonw - ввести концепцию DRI (Directly Responsible Individual, непосредственно ответственное лицо) и закрепить эту роль исключительно за человеком, который волен использовать сколько угодно агентов: клубок матричных вычислений нельзя отправить на план повышения производительности (PIP). Другие участники уточнили причину: у человека есть временные предпочтения и физическое тело, которое можно уволить или посадить в тюрьму, и именно эта уязвимость делает ответственность реальной. Это как раз тот механизм, на который эссе намекает формулой "подконтрольный, управляемый, подотчётный", но так и не формулирует прямо. Фоном к этому несколько комментаторов привели отрезвляющий аргумент против цивилизационного масштаба эссе: современные агенты в большинстве случаев до сих пор не могут нормально составить расписание в календаре.