Open source в сфере ИИ - путь вперёд

Марк Цукерберг опубликовал это письмо в ньюсруме Meta 23 июля 2024 года одновременно с релизом Llama 3.1 405B (которую он назвал первой open source ИИ-моделью уровня frontier) и обновлёнными версиями на 70B и 8B. Это самое ясное изложение причин, по которым Meta открыла Llama, почему Нейтан Ламберт и включил его в свой open-source-ai-reading-list. Аргументация состоит из трёх частей - для разработчиков, для Meta и для мира - и открывается аналогией: крупные компании эпохи высокопроизводительных вычислений создавали свои закрытые Unix, а Linux победил их все, сначала за счёт цены и свободы модификации, а затем по возможностям и безопасности.

Как и в большинстве текстов на эту тему, в письме говорится "open source", хотя имеются в виду open weights. Лицензирование и данные для обучения не обсуждаются.

Прогноз

Цукерберг намечает траекторию: Llama 2 соответствовала моделям прошлого поколения, Llama 3 конкурировала с лучшими, а "начиная со следующего года мы ожидаем, что будущие модели Llama станут самыми передовыми в индустрии".

Этого не произошло. К маю 2026 года в тексте Билла Гёрли from-open-source-software-to-open-source-strategy отмечается, что Llama 4 показала слабые результаты на запуске в 2025 году, модель класса frontier Llama 4 Behemoth отложили на полку, Цукерберг в июле 2025 года заявил, что модели с потенциалом суперинтеллекта не будут выходить в открытом виде, а подразделение Meta Superintelligence Labs в апреле 2026 года выпустило закрытую модель Muse Spark. Вердикт Гёрли: сегодня это письмо "читается совсем иначе". В open-models-in-perpetual-catch-up Ламберт замечает, что открытые модели, вокруг которых сейчас идут споры, создаются в Китае, хотя годом ранее это были бы модели Llama. В meta-platforms описаны организационные потрясения вокруг этого же поворота.

Для разработчиков

В этом разделе излагается то, что Цукерберг слышит от разработчиков, CEO и чиновников. Организации хотят обучать, дообучать и дистиллировать собственные модели того размера, который нужен для конкретной задачи, не раскрывая свои данные посторонним. Они не хотят зависеть от провайдера закрытых моделей, который может изменить модель, поменять условия или прекратить обслуживание, как не хотят и привязываться к одному облаку с эксклюзивными правами. Некоторые данные вообще нельзя отправлять в облачный API. Ещё один фактор - стоимость: он утверждает, что Llama 3.1 405B на собственной инфраструктуре обходится примерно вдвое дешевле GPT-4o. Чтобы показать, что экосистема уже существует, перечисляются партнёры по запуску: Amazon, Databricks и Nvidia для fine-tuning'а и дистилляции, Groq для быстрого инференса, все крупные облачные провайдеры, а также Scale AI, Dell и Deloitte для внедрения в enterprise-сегменте.

Для Meta

Эту часть последующие авторы цитируют чаще всего. Формирующий опыт Цукерберга - разработка под платформы Apple с сопутствующими комиссиями, произвольными правилами и блокировками продуктов, поэтому он не хочет, чтобы Meta оказалась заперта в закрытом ИИ-стеке конкурента. Он приводит четыре причины, почему выпуск Llama обходится дёшево. Экосистема инструментов, оптимизаций под кремний и интеграций развивается, только если модель используют другие; останься Llama внутренней разработкой Meta, её ждала бы судьба закрытых Unix. Конкуренция настолько острая, что один отдельный релиз почти не лишает преимущества. Meta не продаёт доступ к моделям, поэтому открытость не бьёт по доходам так, как у закрытых провайдеров (по его словам, именно поэтому такие провайдеры лоббируют в госорганах ограничения против open source). И Meta уже поступала так раньше: публикация чертежей серверов и дата-центров через Open Compute Project сэкономила ей миллиарды, а PyTorch и React принесли доработки от внешнего сообщества.

Гёрли трактует пример Open Compute схожим образом: как коммодитизацию входящих ресурсов, а не безвозмездную раздачу. Ламберт в what-comes-next-with-open-models сомневается, что аргумент "коммодитизируй дополнения" продолжает работать, когда создание конкурентоспособной модели обходится в миллиарды долларов.

Для мира и безопасность

Цукерберг утверждает, что open source распределяет преимущества ИИ шире, не даёт власти сконцентрироваться в руках нескольких компаний и обеспечивает большую безопасность. Он разделяет вред на непреднамеренный и преднамеренный. Непреднамеренный вред (куда, по его словам, относится большинство опасений: от вредных медицинских советов до сценариев вышедшего из-под контроля ИИ) у открытых моделей должен быть ниже благодаря возможности детального анализа, а в качестве защитного слоя предлагается Llama Guard. Для преднамеренного вреда базовый ориентир - даёт ли модель больше возможностей, чем обычный поиск в вебе. В борьбе с отдельными злоумышленниками его ответ - баланс сил: если доступ к моделям сопоставимых поколений есть у всех, организации с большими вычислительными мощностями смогут сдерживать тех, у кого ресурсов меньше, подобно тому как системы Meta выявляют менее технически оснащённых атакующих в её соцсетях.

В отношении таких государств, как Китай, он утверждает, что закрытие моделей не сработает. Геополитические противники сильны в шпионаже, веса помещаются на флешку, а большинство технологических компаний от этого не защищены. Мир закрытых моделей оставит лучшие разработки горстке крупных корпораций и геополитическим соперникам, тогда как стартапы, университеты и малый бизнес останутся ни с чем. Его альтернатива - сильная открытая экосистема, в которой ведущие американские компании тесно сотрудничают с правительством и союзниками, удерживая долгосрочное преимущество первопроходца.

О чём письмо умалчивает

В разделе о безопасности упускается свойство, отличающее open weights от открытого ПО: релиз нельзя отозвать, а защитные надстройки вроде Llama Guard остаются необязательными для всех, кто запускает веса самостоятельно. Аргумент о балансе сил исходит из того, что защитники и атакующие получают от одного и того же поколения моделей примерно равную отдачу, и именно этот вопрос пытаются детально разобрать более поздние работы, такие как societal-impact-of-open-foundation-models и a-safe-path-to-open-weights. Утверждение, что open source "развивается быстрее закрытых моделей", подаётся как то, что "многие видят", без доказательств, а двухлетние данные с тех пор указывают на стабильное отставание открытых моделей.

Бизнес-раздел устарел иначе, чем прогноз. Причины Цукерберга были привязаны к специфическому положению Meta, и как только это положение изменилось, изменилась и политика релизов компании. В работе Айрин Солайман 2023 года gradient-of-generative-ai-release уже ставился вопрос, подтолкнёт ли ранняя открытость Meta с OPT другие крупные компании к открытым релизам; это письмо казалось утвердительным ответом, но откат Meta в 2026 году перечеркнул его.