Почему я создаю открытые языковые модели

Нейтан Ламберт написал это эссе 30 октября 2024 года - в свой 30-й день рождения и к концу первого года работы в Allen Institute for AI (Ai2). Это скорее личное эссе, а не аргументация для политиков, и добрая половина текста служит призывом к найму. В списке open-source-ai-reading-list Ламберт относит его к проекту ATOM Project как объяснение того, почему открытые модели двигают исследования и ведут к полезным результатам. Читать его на фоне его публикаций 2025-2026 годов интересно главным образом из-за того, чего в нём нет: Китай не упомянут ни разу.

Открытость без Meta

Претензия Ламберта к привычным аргументам в пользу open source в ИИ заключается в том, что они напоминают попытку минимизировать ущерб: самый громкий их сторонник - крупная технологическая компания, преследующая собственные интересы. Meta выпускает Llama, чтобы коммодитизировать смежные продукты и ослабить конкурентов, и Ламберт называет такую стратегию правильной для самой Meta. Эссе Цукерберга он считает убедительным, но отмечает, что внимательного чтения заслуживает только раздел о том, почему открытый исходный код полезен миру, поскольку выгода для Meta и для разработчиков и так очевидна.

Его беспокоит, что одна коммерческая компания контролирует большую часть того, что открытый ИИ представляет собой на практике, тогда как её лицензии и риторика не соответствуют принципам open source. Какое бы определение ни закрепилось в индустрии, оно "должно работать без Meta, которая может в любой момент прекратить выпуск моделей и использует лицензии с широкими запретами". Это опасение оказалось оправданным. К ноябрю 2025 года в рамках ATOM Project статус Meta был обозначен как "неясный", с комментарием "гробовая тишина после фиаско с Llama 4".

Если не брать в расчёт Meta, подлинным мотивом для открытого ИИ он считает страх перед тем, что развитие технологий пойдёт не туда. Истории, которые рассказывают люди, сводятся к повторению ошибок рекомендательных систем и социальных сетей: речь идёт скорее о безответственных, чем о злонамеренных участниках, выпускающих мощные технологии без надзора.

Что должна дать открытость

Перечень ожидаемых преимуществ у Ламберта затрагивает большинство привычных тем. Программное обеспечение становится безопаснее, так как уязвимости в open source привлекают внимание исследователей пропорционально охвату проекта, в то время как закрытый мир порождает собственные сбои уровня CrowdStrike; xz-utils-incident служит у него примером пойманного бэкдора в открытом ПО. Больше заинтересованных сторон могут работать над отдельными подзадачами обучения, как в его собственной совместной работе с исследователями теории общественного выбора. Больше людей получают доступ к ИИ, организации могут сохранять свои данные, а прибыль достаётся создателям конечных продуктов, а не владельцам платформ вроде Apple, Google и Meta. Регуляторы получают прямой доступ к системам, а не опосредованный через корпорации.

Более оригинальный аргумент касается культуры. Для многих пользователей модели ИИ становятся субъектом отношений, а не просто каналом взаимодействия, поэтому ценности, заложенные в модель, значат больше, чем в случае поиска или маршрутизации. Культура Anthropic делает Claude самобытным, но по мере масштабирования компании это втягивает её в культурные войны. Тезис Ламберта в том, что open source "деэскалирует культуру": контроль не становится демократическим, поскольку обучать модели могут позволить себе немногие организации, однако принятые решения остаются на виду, и мир может к ним адаптироваться.

Он также отвергает деление на чёрное и белое. В здоровой открытой экосистеме остаётся множество закрытых моделей, открытость - это спектр, а надзор не зависит от формата публикации модели. О рисках он говорит кратко, ссылаясь на Капура, Боммасани и других (societal-impact-of-open-foundation-models) в подтверждение того, что риски дезинформации, биобезопасности и фишинга, предсказанные экспертами для открытых моделей, не подтвердились, хотя и признаёт, что некоторые типы моделей публиковать не стоит.

Союзники, которых он называет, тоже заслуживают внимания. Он указывает на тексты Дина Болла (Dean Ball) в блоге Hyperdimensional как на одно из немногих качественных обоснований открытого ИИ. В июле 2026 года arguments-against-open-source-ai открывается цитатой Дина Болла, предупреждающего, что мир с доминированием моделей с открытыми весами рискует скатиться в "полный ИИ-коммунизм". Эта более поздняя цитата отражает обновлённую позицию Болла.

Исследования как белый рис

Вторая половина текста описывает повседневную работу. Ламберт называет её "исследованиями как белый рис" (white rice research): Ai2 выпускает добротные модели, которые немного уступают Llama от Meta, делает их удобной базой для чужих разработок и документирует каждый шаг, чтобы другие группы могли подхватывать незавершённые идеи. Поддержка больших репозиториев данных на Hugging Face - скучная работа, но именно она делает результаты надёжными на протяжении многих лет. Модели olmo правильнее воспринимать как исследовательскую инфраструктуру, а не как самостоятельные артефакты. Иногда Ai2 удаётся сделать что-то первыми, и в качестве примера он приводит датасет для мультимодальной модели Molmo.

В более субъективной оценке он называет Ai2 тем, чем изначально казалась OpenAI: организацией с достаточными ресурсами, чтобы обучать крепкие модели ("пусть пока и не на 400B параметров"), объяснять их устройство и поддерживать сопутствующие инструменты.

Препятствия вполне конкретны. Веб закрывает свои архивы от поисковых роботов ИИ (тенденция, измеренная в consent-in-crisis-ai-data-commons). Ai2 пригодилось бы в десять раз больше вычислительных мощностей. В его собственной области открытый RLHF отстаёт от закрытых лабораторий на годы, а лучшему открытому датасету для настройки предпочтений (preference tuning) уже больше года. Индустриальное постобучение ушло вперёд к вещам уровня o1 от OpenAI, а открытые инициативы "едва держатся на плаву".

Реальных союзников тоже мало. Когда Ламберт встретился с Яном Лекуном (Yann LeCun), ему запомнились слова Лекуна: "Мне нужна помощь в нашей борьбе за правое дело". Бигтех финансово в любом случае продолжит создавать крупные модели, поэтому предельный вклад (marginal impact) выше именно в открытой работе, где небольшая группа людей обеспечивает основную часть прогресса по OLMo. Призыв к опытным специалистам по обучению моделей предельно прямолинеен: ждать вестинга опционов в бигтехе слишком долго, а "гораздо больший предельный вклад можно внести на позициях, где результаты работы открыты".

В сопоставлении с более поздними публикациями

Аргументация эссе носит внутренний и гражданский характер: концентрация власти, безопасность, доступ к исследованиям, культура. Год спустя в ATOM Project практически те же цели были переосмыслены как национальное соперничество с Китаем, а к 2026 году статьи banning-open-source-ai-would-be-a-mistake и six-months-to-live-for-open-models уже защищали открытые модели от ограничений со стороны властей в Вашингтоне. Линейка Olmo действительно выросла. Публикации об OLMo (olmo-accelerating-the-science-of-language-models, olmo-2-furious, olmo-3-technical-report) отражают этот рост, и к концу 2025 года Ламберт называл Olmo 3 32B Think лучшей полностью открытой языковой моделью из когда-либо созданных.