Аргументы против open source ИИ откровенно слабы

Том Бедор (Tom Bedor) написал этот текст в июле 2026 года, спустя несколько дней после релиза kimi-k3, который спровоцировал очередной раунд споров о том, имеют ли модели с открытыми весами право на существование. Его цель - позиция журналистов, политиков и frontier-лабораторий, считающих открытые модели угрозой, требующей сдерживания. Он открывает статью цитатой Дина Болла (Dean Ball) из OpenAI:

Один из вероятных исходов мира, где доминируют модели с открытыми весами, - полный ИИ-коммунизм... вместо рыночного продукта ИИ становится "общественным благом"

Сжатая версия позиции frontier-лабораторий в изложении Бедора: открытые модели опасны и антиамерикански, ящик Пандоры должны открывать только ответственные привратники (желательно мы), а доступ должны получать лишь доверенные пользователи (наши самые прибыльные клиенты). Это едкий пересказ, но он точно выделяет три тезиса, которые эссе затем последовательно разбирает: опасность, национальные интересы и контроль доступа.

Везде в тексте под "open source моделью" имеются в виду открытые веса. Бедор отмечает эту неточность в сноске, не пытаясь её оправдывать.

Две поправки к контексту

Первая поправка: open source ПО уже лежит в основе любого проприетарного продукта, включая сами frontier-модели. Бедор описывает привычную многоуровневую структуру: чтобы создать Uber, нужны среды исполнения языков, веб-серверы, инструменты для работы с данными и сотни других компонентов, почти ни один из которых не обеспечивает бизнесу уникального преимущества. Поэтому коммерческие игроки кооперируются на нижних уровнях и конкурируют выше. Его трактовка сопротивления проста: frontier-лабораториям очень хочется, чтобы модели не превратились в нечто настолько обыденное, что конкурировать на их уровне потеряет смысл.

Вторая поправка: у попыток запрета open source ПО уже есть история, и она весьма печальна. Он подробно разбирает пример с криптографией. Фил Циммерманн (Phil Zimmermann) выпустил PGP в 1991 году, когда правительство США приравнивало стойкое шифрование к вооружению, и навлёк на себя уголовное расследование. Netscape разрешили поставлять на международный рынок только умышленно ослабленный SSL, причём эту урезанную сборку было достать проще, чем внутреннюю американскую, поэтому многие американцы в итоге пользовались именно ей. Ограничения не удержали шифрование от распространения по миру; они лишь создали помехи тем, кто им подчинялся. В конечном счёте суды постановили, что публикация исходного кода криптографии защищена свободой слова, и экспортные правила смягчили.

Сужение цели до "китайских" моделей, по его мнению, не делает задачу контроля выполнимой, поскольку границы этой категории размыты. Считается ли модель китайской, если она получена дистилляцией из американской, как утверждают сами frontier-лаборатории? Остаётся ли она китайской после того, как американец провёл её fine-tuning? Страница qwen-gpt-reasoning-prefills описывает небольшую попытку эмпирически проверить подобное обвинение в дистилляции. llm-distillation охватывает эти обвинения и приводимые доказательства. Вопрос fine-tuning'а тоже не гипотетический: us-scrutiny-of-chinese-model-use рассказывает про Composer 2 от Cursor на базе Kimi и Thomson-1 от Thomson Reuters на базе Qwen - как раз те модели, национальную принадлежность которых, по словам Бедора, однозначно определить невозможно.

Кому ещё нужны открытые веса

В публичных дискуссиях принято считать, будто открытые модели есть смысл финансировать только правительству Китая. Бедор приводит четыре коммерческие группы, у каждой из которых есть собственные стимулы. Nvidia продаёт то, что Дженсен Хуанг (Jensen Huang) называет фабриками токенов, и компании всё равно, откуда берутся эти токены - из frontier-модели или из дешёвой открытой; именно поэтому она сама выпускает семейство Nemotron. Американские стартапы делают ставку на коммодитизацию: Thinking Machines Lab выпустила Inkling, исходя из идеи, что защитный ров (moat) кроется в сервисах вокруг модели, а не в самой модели. Корпоративные заказчики захотят более дешёвые модели для простых задач и более точный контроль над поведением системы перед клиентами. А Google и Meta достаточно внимательно следят за новым рекламным продуктом OpenAI, чтобы коммодитизация открытых моделей без рекламы стала для них дешёвым способом задушить чужой рекламный бизнес ещё в зародыше.

В vault'е есть несколько примеров в пользу тезиса о коммодитизации. rl-finetune-beats-frontier - самый наглядный: fine-tuning открытой модели на 9B параметров через GRPO за 500 долларов обошёл все конфигурации frontier-моделей в задаче проверки каталога, оказавшись в 68 раз дешевле. telnyx представляет собой бизнес, существующий исключительно благодаря открытым весам. local-ai-is-not-opus выступает противовесом, доказывая несостоятельность тезиса "локальный Qwen почти догнал Opus", хотя дообученная локальная модель всё равно окупается в малом бизнесе. Со стороны самих моделей представлены страницы deepseek и neutrino-1-8b.

Гонка без финишной черты

Самый короткий раздел у Бедора оказывается и самым метким. Разговоры о "проигрыше в ИИ-гонке" никогда не определяют её цель. Лучшая модель? Больше всего проданных токенов? Он сравнивает это с "интернет-гонкой" - фразой, которую никто не использовал, потому что она была бы бессмысленной: мир адаптировался к новой технологии, а не мчался наперегонки высаживаться на Луну. В той мере, в какой государства вообще здесь конкурируют, речь идёт об интеграции технологического перехода и росте экономики, а в этой плоскости бесплатные модели выступают ресурсом, а не угрозой.

Три аргумента страха

Экономический аргумент принадлежит Скотту Гэллоуэю (Scott Galloway): Китай догоняет Запад по качеству, снижает цену на две трети и забирает себе рынок, ровно как это было с солнечными панелями, сталью, электромобилями и аккумуляторами. Возражение Бедора заключается в том, что эта аналогия работает только при наличии физической цепочки поставок. У солнечных панелей и стали есть звенья, которые не могут выжить по отдельности, - никто не станет поставлять кремниевые пластины солнечного качества в страну, где нет производства панелей, - а в программном обеспечении таких ограничений нет. Китайская открытая модель не уничтожает американский бизнес по fine-tuning'у; она снабжает его сырьём.

Аргумент о пропаганде он признаёт лишь отчасти. Вполне естественно ожидать, что китайские модели будут выходить с прокитайским уклоном. Но это не повод их запрещать: веса открыты, и любой, кого этот уклон не устраивает, может провести дообучение и выложить модель заново. Он сомневается, что модель с репутацией прокитайской сможет обойти внутри США аналогичную модель с проамериканской репутацией.

К аргументу о бэкдорах применяется та же логика, что и к шифрованию. Скрытые вредоносные закладки в весах в принципе возможны. Однако ИИ не меняет структуры рынка уязвимостей, где добросовестные участники закрывают бреши, а злоумышленники их эксплуатируют, и самый быстрый способ обнаружить закладку - дать всем возможность исследовать артефакт. Ограничение инструмента бьёт прежде всего по защитникам.

Что эссе оставляет без внимания

Контраргументы направлены на политическую и экономическую сторону вопроса и практически обходят тему безопасности. Тезис "open source модели опасны" рассматривается скорее как недобросовестное заявление, чем как утверждение с конкретным механизмом угрозы: здесь ничего не говорится об усилении вредоносных возможностей (capability uplift) или о том, что опубликованный набор весов невозможно отозвать назад так же легко, как пропатчить облачную модель. Итоговая позиция Бедора сводится к тому, что вопрос в любом случае бессмыслен: open source ИИ слишком мощен и плохо поддаётся контролю, поэтому попытки его задавить останутся лишь шумом.

Тема безопасности освещена в vault'е по другим источникам, большинство из которых собрано на странице open-source-ai-reading-list. a-safe-path-to-open-weights представляет собой фреймворк лаборатории по выпуску весов после тестирования, societal-impact-of-open-foundation-models описывает метод предельного риска (marginal risk), а myth-of-unsafe-open-source-ai и nonproliferation-is-the-wrong-approach-to-ai-misuse доказывают, что сдерживание - неподходящий инструмент. В статье banning-open-source-ai-would-be-a-mistake, вышедшей месяцем ранее у Нейтана Ламберта (Nathan Lambert) и Кевина Сюй (Kevin Xu), приводится аргументация, схожая с позицией Бедора, но опирающаяся на историю рынков, а не на экспортный контроль, и принимающая концепцию гонки, которую Бедор отвергает.

В сноске содержится дополнительная мысль, которую стоит выделить. Отвечая на статью Дерека Томпсона (Derek Thompson) в Stratechery, Бедор оспаривает утверждение, будто тот, кто удерживает лидерство на frontier'е, автоматически доминирует и на остальных сегментах рынка, представляющих собой "тот же frontier минус n месяцев". На странице open-closed-model-gap собраны замеры этой величины n. Доступ к капиталу менее важен при разработке небольших моделей, а у frontier-лабораторий нет стимула создавать дешёвые модели, когда им выгоднее переводить пользователей на более дорогие тарифы. Он также не согласен с тем, что claude-code и Codex обладают высокой удерживающей способностью (stickiness) в фундаментальном смысле, сравнивая их с Coke и Pepsi: люди перестают переключаться между ними просто потому, что нет особого повода, а не потому, что не могут, и небольшого разрыва в цене или надёжности достаточно, чтобы клиенты ушли.