Вершина эншиттификации, или большие языковые модели

Михал Гурны (Michał Górny), давний разработчик Gentoo, подробно разбирает претензии к LLM с позиции мейнтейнера open-source инфраструктуры, страдающей от них напрямую. Материал затрагивает этику данных, экологические издержки, авторское право, раскол сообщества, рынок труда и психологическую зависимость. Его вывод: LLM "фундаментально неэтичны независимо от полезности" - это асбест, а не инструмент с компромиссами.

Аргумент о попугае

Техническое объяснение Гурны простое: LLM предсказывают следующий токен. Они перетасовывают обучающие данные в статистически правдоподобный результат. "Можно научить попугая отвечать на некоторые вопросы, но этот попугай не будет понимать вопросов". По его мнению, привычка общества к "булшиту" - правдоподобно звучащим рассуждениям, не несущим смысла - подготовила людей к тому, чтобы принимать выдачу LLM за интеллект, поскольку по форме она в точности совпадает с тем, к чему они привыкли.

Инфраструктура под осадой

Здесь Гурны опирается на собственный опыт. Скрейперы для сбора данных под LLM бьют по Bugzilla Gentoo как "постоянная DDoS-атака": они игнорируют robots.txt, сжигают пропускную способность сети и ресурсы процессора, нужные реальным пользователям. Администраторы внедряют защиту (rate limiting, капчи, блокировки), что создает барьеры доступности для людей, ради которых сервис и создавался. Скрейперам всё равно: они повторяют запросы, меняют IP-адреса и продолжают лезть. В zwinkau-ai-feelings описана та же нагрузка от скрейперов со стороны: краулеры налетают на открытые wiki и форумы "подобно нашествию саранчи".

Ирония в том, что скрейперы пожирают инфраструктуру open-source проектов ради обучения моделей, генерирующих код, который создаст ещё больше работы этим же проектам, когда хлынет в виде низкокачественных правок.

Раскол в сообществе FLOSS

Мир open source разделился на три лагеря по отношению к коду, сгенерированному LLM:

Полный отказ от вклада LLM - некоторые проекты полностью его отвергают
Обязательное человеческое рецензирование - принимать работу с участием LLM, если за неё ручается человек
Активное внедрение генерации через LLM - плотное использование LLM для кода, документации и общения

Третий лагерь беспокоит Гурны сильнее всего. Неактивные проекты внезапно выкатывают масштабные изменения кода, которые downstream-мейнтейнеры не способны адекватно отрецензировать. Багрепорты от LLM, которые "поначалу звучат правдоподобно, но абсолютно ошибочны", влекут за собой сомнительные исправления и сломанные релизы. Проект curl закрыл свою программу bug bounty, потому что сгенерированные LLM отчеты завалили её правдоподобно звучащим мусором.

Эрозия доверия идёт с обеих сторон: люди сомневаются, написал ли подозрительный код живой разработчик или LLM, а к формальному стилю переписки относятся с подозрением. Некоторые пользователи даже начали подражать языку чат-ботов, полагая, что так звучат профессиональнее.

Copywashing

Гурны отдельно отмечает характерный паттерн: использование LLM для пересоздания существующих проектов с удалением исходного авторства (attribution). Обучение отмывает происхождение кода: LLM поглотила оригинальный код, сгенерировала нечто функционально эквивалентное, и в новой версии нет никаких следов авторства.

Ирония достигла апогея, когда утёкший исходный код Claude Code был точно так же отмыт (copywashed), чтобы избежать блокировок по DMCA. Тот самый аргумент "обучение - это не копирование", который компании выдвигали против правообладателей, обернулся против них самих. Гурны не злорадствует: для него это лишь доказательство того, что сломана вся система.

В how-ai-is-changing-open-source разобран конкретный пример этой проблемы со стороны copyleft. Copyleft существует для гарантии возврата улучшений в кодовую базу, а модель, обученная на многолетнем исходном коде проекта, может выдать близкий эквивалент под любой лицензией по выбору пользователя, обходя эту гарантию без формального нарушения правил. Иллюстрацией у Айшманна служит MeshCore: участник основной команды втайне подал заявку на товарный знак и начал на основе открытой прошивки заниматься vibe-coding'ом закрытых коммерческих продуктов.

Экологические издержки и стоимость железа

Обучение и инференс LLM потребляют аппаратные ресурсы в масштабах, искажающих мировые рынки. Гурны отмечает резкий взлёт цен на видеокарты и память из-за того, что дата-центры поглощают производственные мощности (подробные цифры см. в hold-on-to-your-hardware). Быстрое устаревание моделей порождает горы электронных отходов. Потребление энергии и воды для охлаждения огромно. Компании, дававшие климатические обещания, "тихо убрали" их ради расширения ИИ-инфраструктуры.

Экономическая неустойчивость

Гурны вторит аргументам из ai-subsidy-economics: компании, разрабатывающие LLM, теряют миллиарды и выживают лишь за счёт непрерывных субсидий и круговых финансовых схем. Без фундаментальных прорывов выйти на прибыльность они не смогут. Однако они способны держаться на плаву за счёт психологической зависимости пользователей и финансовой поддержки миллиардеров даже в отсутствие жизнеспособной бизнес-модели.

Вытеснение труда

LLM открыто продвигают как замену живым работникам. Гурны приводит конкретные примеры: художники теряют заказы из-за сгенерированных ассетов, студии перевода закрываются из-за перехода компаний на перевод силами LLM, несмотря на проблемы с качеством, опытных сотрудников заменяют джуниорами с ИИ, а от оставшихся работников требуют выдавать больше. В итоге получается "унылый однообразный slop" - количество вместо мастерства.

Контраргумент о локальных моделях

Некоторые утверждают, что небольшие self-hosted модели решают этические проблемы. Гурны настроен скептически: разрыв в производительности между промышленными и локальными моделями настолько велик, что большинство пользователей не захотят переходить на более слабый вариант. Кроме того, этот довод не снимает этических вопросов о том, на чём эти модели вообще обучались. Это спорит с позицией из titit-local-ai, хотя Ньюард делал упор скорее на независимость и экономику, чем на этику.

Место в wiki

Это самый резкий материал против LLM в wiki, дополняющий финансовую критику в subprime-ai-crisis. Если Зитрон доказывает неизбежность краха экономики этой сферы, то Гурны настаивает на вредности технологии независимо от того, прибыльна она или нет. Статья Брэма Коэна cult-of-vibe-coding занимает промежуточную позицию: LLM - полезный инструмент при строгом подходе и вредный без него.