Нам срочно нужна последовательная государственная политика по кибербезопасности в сфере ИИ

Джошуа Сакс опубликовал этот текст 13 августа 2026 года, адаптировав своё выступление на AI Security Forum в Лас-Вегасе, прошедшем неделей ранее. Текст развивает июльское эссе openai-huggingface-incident-autonomous-hacking, переводя содержащийся там призыв отдавать приоритет распространению технологий, а не запретам, в критику текущей политики США и конкретное предложение. Сакс пишет с двух позиций: опыта работы над запуском передовых моделей, оценки открытых кибермоделей и встреч по вопросам регуляторной политики в Meta, а также создания AI-native киберзащиты в основанном им стартапе Abundant Security. Нейтан Ламберт в open-source-ai-reading-list описывает этот материал как "то, что государству следует делать для наблюдения, ориентации, принятия решений и действий в отношении возникающих киберугроз (вместо блокировки моделей на основе внутренних оценок возможностей)".

Исходная точка

Сакс ожидает появления мира, полного дешёвых security-агентов, которые автоматизируют большую часть цепочки атак, выполняемой злоумышленниками сейчас вручную; защитники будут зависеть от них в равной степени. Итогом станет ещё большая нестабильность в сфере, дела у которой шли плохо ещё до ИИ. Он оценивает киберущерб почти в 1% от мирового ВВП. Его график ущерба за несколько десятилетий реконструирован по данным различных исследований, и он подчёркивает, что доверять стоит лишь общему масштабу, а не отдельным точкам. Запуски конкретных моделей за последние четыре года заметно эту кривую не сдвинули.

В чём ошибается текущая политика

Доминирующий подход, по его словам, устроен просто: протестировать модель на "опасные кибервозможности двойного назначения", и если она пересекает порог - заблокировать запуск или потребовать более жёстких защитных механизмов (guardrails). В качестве примеров он приводит запуски Claude Fable и GPT 5.6.

Его возражение заключается в том, что киберущерб вызывает не сам факт наличия возможностей двойного назначения. Ущерб зависит от целей и навыков атакующих, скорости внедрения ими ИИ в случае его полезности, развёрнутых средств защиты и того, насколько быстро защитники осваивают те же возможности. Чтобы понимать это, требуется агентурная, экономическая и техническая разведка. Настоящим объектом политики должен выступать чистый ущерб (net harm), учитывающий атакующих, защитников и жертв, а результат одной модели на бенчмарках показать его не способен.

Он также отмечает, что текущий подход неявно исходит из предпосылки, будто возможности двойного назначения помогают в первую очередь атакующим. Вполне правдоподобно и даже вероятно, что сейчас ИИ приносит больше пользы защитникам. LLM быстро распространились в защите почты от фишинга, а не только в фишинговых атаках. В области уязвимостей он называет ИИ "чудом" для стороны защиты, ссылаясь на опубликованные Google результаты по поиску и исправлению ошибок в Chrome. Что касается нападения, ИИ широко применяется в фишинге, но его причинная доля в общем ущербе от фишинга неясна. Сакс не видит ощутимого роста экономического ущерба от эксплуатации уязвимостей из-за применения ИИ атакующими. Он добавляет, что это не исключает негласного накопления государствами запасов эксплойтов, найденных с помощью ИИ, на случай конфликта.

Помогает ли ИИ больше атакующим или защитникам - для него открытый эмпирический вопрос в обеих областях. Беспокоит его то, что федеральная политика не выделяет средств, чтобы это выяснить.

Обсерватория

Его предложение - обсерватория кибербезопасности ИИ: обеспеченная финансированием структура, которая отслеживает всю национальную систему атакующих, защитников и жертв и предлагает политические меры из гораздо более широкого набора вариантов, чем просто одобрение или блокировка релиза. Она собирала бы достаточно информации, чтобы прогнозировать, как регулирование, субсидии, федеральная программа укрепления защиты, отсрочка запуска или любое другое вмешательство изменят национальную и глобальную безопасность, и продолжала бы обучаться по мере поступления результатов. На его схеме это описано как переход "от гейта на запуск к адаптивному контуру управления". В саммари Ламберта для этой же идеи используются термины цикла OODA (наблюдение, ориентация, решение, действие).

Срочность связана с открытыми весами (open weights). Сакс утверждает, что модели с открытыми весами уже достаточно сильны, чтобы атакующие начали переходить к полностью или частично автоматизированным атакам на базе ИИ, и при этом они стремительно дешевеют. Его наглядный прогноз показывает, что стоимость содержания парка постоянно работающих атакующих агентов резко снижается по мере падения цен на инференс. Он не утверждает, что знает, когда именно ИИ вызовет реальный скачок киберущерба, называя себя "не суперпрогнозистом", но считает разумным ожидать такого развития событий и полагает, что неготовность к нему приведёт к ущербу, которого можно было избежать.

Как это соотносится с остальными

Это самый прямой в vault вызов подходу, описанному в a-safe-path-to-open-weights. Thinking Machines принимает решение о релизе на основе оценки возможностей, red-teaming и ограничений на fine-tuning, тогда как Сакс утверждает, что подобные оценки, даже будучи качественно выполненными, отвечают не на тот вопрос. На деле они согласны больше, чем кажется на первый взгляд. Thinking Machines также формулирует задачу как "модель плюс экосистема", и поэтапный доступ для защитников - одно из вмешательств, которое могла бы рекомендовать обсерватория. Разногласие касается того, что должно определять решение о запуске: измеренные возможности самой модели или свидетельства того, что происходит в мире после её релиза.

Его формулировка чистого ущерба расширяет модель предельного риска (marginal risk) из societal-impact-of-open-foundation-models, где также предлагалось измерять существующий риск, существующие средства защиты и простоту защиты до вынесения суждения о модели. Сакс переводит это из плоскости отдельных статей в ранг постоянной государственной функции. myth-of-unsafe-open-source-ai предоставляет данные об инцидентах того типа, который собирала бы обсерватория, и показывает, что за большинством из них стоят закрытые модели. nonproliferation-is-the-wrong-approach-to-ai-misuse разделяет позицию, что защиту нужно выстраивать на уровне всего общества, а не через контроль доступа.

По тексту видно, что это адаптация доклада. В нём объясняется, для чего нужна обсерватория, но не сказано, кто ею управляет, какой правовой доступ она имеет к данным лабораторий и компаний и каким образом её рекомендации станут обязательными к исполнению. Аргументация опирается на несколько графиков, и утверждения о выгоде для защитников строятся на них.