Критика LLM

К середине 2025 года позиция "против ИИ" перестала быть маргинальной и оформилась в узнаваемый жанр со своими стилистическими направлениями. На этой странице представлена карта текстов вики из кластера критики LLM: о чём на самом деле спорит каждый автор и какие соседние работы пересекаются между собой куда меньше, чем кажется на первый взгляд.

В этом массиве выделяются как минимум пять поджанров, и большинство публикаций попадает ровно в один из них. Если читать их так, будто все они отстаивают одну и ту же мысль, структура рассуждений теряется.

Экономический и финансовый аргумент

Ставка здесь делается на то, что ИИ в его нынешней модели капитализации - это пузырь, и лопнет он из-за сухих цифр, а не из-за настроений. subprime-ai-crisis (Edward Zitron) - развёрнутая версия этой позиции: субсидии на каждом звене цепочки, отсутствие прибыльного конечного клиента и прогноз последовательности краха. ai-bubble-pale-horses представляет собой актуальный чеклист тревожных сигналов с отметками о том, какие из них уже сработали. hold-on-to-your-hardware прослеживает вторичный эффект этой динамики на рынке потребительской памяти DRAM/NAND и накопителей HDD.

Авторы этих текстов не доказывают, что технология плоха. Они утверждают, что не сходится экономика. Неявный прогноз здесь в том, что весь дискурс потеряет актуальность сам собой, как только иссякнут деньги.

fooling-yourself-with-ai (louwrentius) находится в этом блоке лишь наполовину. Арифметика субсидий там вполне стандартна: подписка за $200 приносит провайдеру убыток уже при утилизации выше ~11%, а при полной нагрузке стоила бы около $14 000 по расценкам API. Однако второй его тезис не вписывается в привычные рамки: субъективные отзывы о собственной продуктивности нельзя считать доказательством пользы инструмента, которым вы сейчас пользуетесь, поскольку нет контрольной группы и невозможно исключить предвзятость по отношению к тому, что держишь в руках. Разработчики в эксперименте METR субъективно ощущали ускорение, хотя по замерам оказались примерно на 19% медленнее.

Инженерный аргумент и культура ремесла

Суть аргумента: использование LLM в программировании измеримо вредит результату, даже когда субъективно кажется, что работа идёт быстрее. no-silver-bullet-llms (James Bennett) применяет фреймворк Брукса о сущностной и привнесённой сложности и ссылается на данные DORA и CircleCI, демонстрирующие рост нестабильности систем. peril-of-laziness-lost (Bryan Cantrill) указывает на утраченную добродетель: ограничения человеческого времени раньше вынуждали добиваться простоты, тогда как ничем не сдерживаемая генерация порождает раздутый код. cult-of-vibe-coding (Bram Cohen) рассматривает ту же проблему на уровне рабочих процессов: отказ читать код, сгенерированный ИИ, превращает dogfooding в сектанство.

building-syntaqlite-ai описывает эту же ситуацию в жанре автобиографии: провал vibe coding, дисциплинированное переписывание с нуля и цикл зависимости.

reviewing-ai-code (Thomas Depierre) - самый фальсифицируемый текст в этой категории: он берёт стандартную защиту "просто проверяйте код ИИ как работу стажёра" и сопоставляет её с эмпирическими исследованиями ревью кода. Автор показывает, что пропускная способность ревью (code-review-throughput-limits) ограничивает реальную отдачу от LLM на уровне гораздо ниже обещанного ускорения, а ревьюеры ИИ-кода находят меньше дефектов, хотя чувствуют себя увереннее. Депьер прямо перечисляет, какие именно данные заставили бы его изменить мнение, благодаря чему текст приглашает к дискуссии, а не закрывает её.

a-voice-from-nowhere (zanlib) защищает инженерное ремесло с позиций папской энциклики, что выделяет текст на общем фоне: он опирается на религиозный документ, не требуя от читателя признания его авторитета. Цель критики здесь не корректность, а понимание: сгенерированный результат может быть формально безупречен во всех отношениях, но всё равно производить впечатление пустоты.

i-will-never-use-ai (Anthony Manning-Franklin) примечателен тем, что сводит инженерные, экономические, институциональные и социологические аргументы в единый манифест из девяти пунктов с полным отказом от использования ИИ - от первого лица, декларативно и без риторических лазеек. В частности, идея деградации навыков расширяет проблему skill-atrophy-supervision-paradox с роли проверяющего на отдельного пользователя.

who-teaches-you (Bastian Gruber) переносит спор о ремесле из плоскости кода в плоскость обучения: LLM способна объяснить тему, но у неё нет преемственности традиции и понимания конкретного ученика. programming-is-art-orchid (Orchid) решает вопрос ремесла через мотивы, разделяя тех, кто пишет код ради денег, и тех, для кого это искусство, кто никогда не отдаст его агентам.

Институциональный аргумент и правила сообществ

Небольшое число проектов оформило неприятие LLM на уровне правил. simonw-zig-anti-ai документирует запрет из трёх строк в проекте Zig (никаких LLM для issue, PR и комментариев) и логику Loris Cro (contributor-poker): время на ревью рассматривается как инвестиция в воспитание надёжных контрибьюторов, чем LLM быть не может по определению. i-dont-want-your-prs (Dawid Ciężarkiewicz) предлагает переосмысление форматов участия в open source: промпты и форки вместо PR, поскольку экономика ревью пуллреквестов сломалась. phk-goodbye-bikesheds (Poul-Henning Kamp) - самый мрачный текст в институциональном блоке: автор считает ревью кода от LLM временной модой, но доказывает, что проверка возраста, аттестованные вычисления и европейское законодательство об ответственности положат конец модели единственного мейнтейнера-BDFL. Это юридическая смерть культуры FOSS, которую запреты как раз и пытаются защитить.

Социологический и культурный аргумент

Эти материалы показывают, что ущерб наносится не коду или финансам, а людям и институтам. ai-great-leap-forward - статья-метафора: корпоративные директивы по внедрению ИИ сравниваются с выплавкой стали на задних дворах, приписками в отчётах, антидистилляцией и утратой институциональных знаний. ceo-ai-psychosis (HandyAI о Garry Tan) вскрывает структурное подхалимство, из-за которого руководство считает оркестрацию агентов продуктивной без реального результата; базовым механизмом здесь выступает ai-sycophancy-loop. agentic-coding-fatigue (0xsid) описывает ситуацию со стороны рядового разработчика: усталость от постоянных решений, темп гача-игр и жёсткий лимит в 4-5 продуктивных часов в день.

llm-enshittification (Michał Górny / Gentoo) - самый масштабный разбор в этом слоте: инфраструктура open source под скрейпингом уровня DDoS-атак, раскол сообщества FLOSS из-за правил приёма правок, copywashing, вытеснение специалистов и экологический вред. Позиция Гурного: "фундаментально неэтично независимо от практической пользы".

programming-still-sucks (stvn) - нарративный взгляд со стороны разработчика: тон пьяного монолога на дне рождения, метафора горящего корабля и образ Сары, которая в трюме в одиночку держит на плаву cron-задачу (и всю компанию). Тезис автора носит системный характер и касается не столько ИИ как такового: AI didn't take our jobs. Greed did. Фрагмент об исчезновении позиций джуниоров бьёт прямо по попыткам решить skill-atrophy-supervision-paradox: институт наставничества, готовивший квалифицированных руководителей, попросту уничтожили. Текст перекликается с ai-great-leap-forward (утрата институциональных знаний) и ceo-ai-psychosis (показуха руководства на фоне тонущего корабля внизу).

tech-backlash-denial (Brian Merchant) выходит за рамки одних лишь LLM. Протесты против дата-центров, камер Flock и умных очков Meta с ИИ автор трактует как единое рациональное движение против главной цели бигтеха - экспансии и присвоения общественных данных ради частной выгоды. Попытки индустрии списать всё на психологические операции, происки Китая или медиа он называет банальным отрицанием реальности.

Риторический отказ от диалога

Отдельная ниша, представленная буквально единичными текстами: прямой отказ вступать в дискуссию. Канонический пример - i-am-an-ai-hater (Anthony Moser): перечислить факты вреда, отвергнуть этикет политкорректного смягчения, вскрыть суть социальной манипуляции ("вам нужно разрешение") и выйти из комнаты. Риторическим якорем служит цитата Миядзаки: "оскорбление самой жизни".

Такой приём редко удаётся без скатывания в банальную истерику. Текст Мозера держится за счёт трёх вещей: абзац со ссылками опирает эмоции на задокументированные факты, фраза "вам нужно разрешение" вскрывает негласную цель оппонента, а авторитет Миядзаки задаёт твёрдую этическую рамку. Без этих опор подобный отказ превратился бы в простой выплеск раздражения.

Маркировка и раскрытие авторства

Более новый и мягкий сегмент: авторы не требуют перестать пользоваться инструментами, а лишь настаивают на явном указании происхождения контента. no-ai-statements (James Zhan) отстаивает декларацию человеческого авторства по аналогии с бирками ручной работы, указывая на сбои автоматических детекторов в обе стороны и трактуя такую метку как манифест, а не как проверяемый факт (human-made-disclosure). readme-not (William Woodruff) предлагает зеркальный подход - маркировать машинное происхождение (slop-marker-convention). Общая предпосылка раскрыта в ai-detector-arms-race: различить происхождение по внешнему виду невозможно, а попытки сделать это приводят к худшему исходу, когда авторы вычищают форматирование и детали из собственного текста, чтобы пройти автоматические детекторы.

checking-for-human-writing (Mo Shehu) спорит с самой предпосылкой этого направления. Авторство никогда не определялось тем, чьи именно пальцы нажимали клавиши. Требование писать исключительно самому превращается в тест физических возможностей тела, а не ума: в качестве сложного примера автор приводит парализованного человека, управляющего курсором движениями языка и разворачивающего краткие заметки в полные фразы. Единственными критериями остаются замысел, суждение и ответственность: кто сформулировал идеи, кто отбирал итоговый вариант и кто готов отвечать за результат.

clankerfree-directory переносит декларирование с отдельных авторов на целые проекты, собирая каталог хостингов и кодовых баз, заявляющих об отказе от генеративного ИИ. artisanal-programmer-label (purplesyringa) предлагает закрепить разделение в названиях профессий: "программирование с помощью ИИ" против "инженерии ПО без ИИ".

Этот блок отличается от остальных тем, что он вполне совместим с активным применением ИИ. Логике Жана вполне подошёл бы мир, где моделями пользуются все, но открыто об этом заявляют. Это единственная часть общего массива, которую могут принять даже те, кто не согласен с остальной критикой.

Чем этот жанр не является

Перед нами не монолитная идеология. Авторы экономических разборов вовсе не обязательно разделяют взгляды тех, кто пишет о политике. Беннетт и Кантрилл - инженеры-скептики, которых волнует качество софта; Мозер и Гурный рассуждают в категориях политики и этики; Зитрон - финансовый журналист. Попытка свести их к единой позиции разрушает структуру аргументации.

Это пока и не движение с общей инфраструктурой. Запрет в Zig остаётся редким исключением, на которое многие ссылаются. В большинстве своём тексты представляют собой индивидуальные наблюдения конкретных авторов, а не скоординированный бойкот.

Попытки примирения

Позиция между полным отказом и безоговорочным восторгом: авторы полностью принимают аргументы критиков, но продолжают использовать LLM, пытаясь выстроить дисциплинированный срединный путь. Канонический пример - llm-critics-are-right-use-anyway (Jeremy Theocharis): он соглашается с претензиями по авторским правам, экологии, пузырю, кризису доверия в OSS, проблемам подготовки джуниоров и геополитическим рискам. Однако затем он показывает, что LLM лишь усиливают то, что у вас уже есть, а не компенсируют отсутствующие знания, поэтому ценность инструмента целиком зависит от способности человека критически оценить результат. Опорная идея текста, credibility-as-slop-test, предлагает конструктивный критерий качества без опоры на внешние признаки, о необходимости которого говорится ниже. simonw-vibe-coding-agentic (признание Уиллисона в том, что граница между vibe coding и классической инженерией в его собственной практике стёрлась) примыкает сюда же как честный отчёт изнутри.

Эта группа отличается от лагеря "адаптируйся или умри": Теохарис не учит карьерной стратегии, а описывает рабочую практику специалиста, который согласен с критиками, но находит инструмент полезным.

С середины 2026 года это самое быстрорастущее направление в массиве текстов, и сейчас оно делится на варианты в зависимости от позиции автора и уровня его внутреннего конфликта:

• Прикладной инструментальный подход. tao-apps-coding-agents (Terence Tao) - спокойный полюс: признавая, что код от агентов содержит ошибки, Тао всё равно применяет их, но строго для вспомогательных визуализаций, где корректность можно оценить на глаз. Это уже второй лауреат Филдсовской премии (после Гауэрса в chatgpt-5-5-pro-mathematical-research), описывающий прагматичное и контролируемое применение.
• Снижение вреда. know-thine-enemy (Amy J. Ko) - принятие всех аргументов критиков в более жёстком политэкономическом контексте: трёхмесячный эксперимент эксперта фиксирует потери в концентрации, радости от работы, деньгах и ценностях, сохраняя инструменты лишь как способ выживания, а не предмет одобрения. Самый пессимистичный текст в подборке.
• Подход без чувства вины. control-the-ideas-not-the-code (antirez) полностью снимает внутренний диссонанс: построчное ревью вывода LLM никогда не было по-настоящему ценным занятием, так что пора перестать им заниматься и сосредоточиться на архитектуре. not-understanding-your-codebase (Goedecke) развивает эту мысль: неполное понимание кода - честная норма для больших масштабов, а "теория программы" Наура - лишь одна из инженерных ценностей, которой жертвуют ради скорости и ротации, а вовсе не священная догма.

zwinkau-ai-feelings формулирует эту позицию в чистом виде: шесть эмоций, от радости до отвращения, без привязки к конкретному рабочему процессу.

Сквозная идея здесь - credibility-as-slop-test: каждый автор в этой нише оставляет инструмент только там, где он лично способен отличить хороший результат от плохого, а различия сводятся к ширине этой зоны и отношению к происходящему.

Контрдискурс: адаптируйся или умри

Параллельный массив текстов - не относящийся к критике LLM, но важный для понимания контекста - отстаивает противоположное: не отказываться от инструментов, а перестраивать карьеру под них. Канонический пример - elena-verna-job-2027, написанный с позиций growth-маркетинга и управления продуктом, а не разработки. Текст интересен тем, что не отрицает проблемы, обозначенные критиками: предостережения против ai-sycophancy-loop, осторожность с бесконтрольным применением агентов шестого уровня и фраза "ИИ просто помогает быстрее делать неправильные вещи" звучат как признание правоты скептиков. Однако Верна обходит эти риски через дисциплину ai-native-tiers и поддержание вариативности карьерных траекторий.

Сопоставлять выводы Верны с этим кластером продуктивнее, чем просто противопоставлять их: инженеры-скептики фиксируют потери, а она описывает, что делать, когда предотвратить эти потери невозможно.

who-manages-the-agents (off-policy.com) входит в этот же контркластер с точки зрения разработки и структуры организаций. Текст признаёт проблемы концентрации влияния и разрыва в навыках: деление на 100x-суперпользователей и топчущуюся на месте медиану опирается на те же данные METR, что и no-silver-bullet-llms, а тезис об ответственности отвечает на вызовы agent-principal-agent-problem. Однако автор предлагает не спасать редкие навыки в карьере, а делегировать управление агентами каждому сотруднику. Если Верна делает ставку на гибкость отдельного специалиста, то здесь предлагается трансформация всей организации (а в финале упоминается продукт, который её продаёт).

Чего не хватает в критике

В существующем массиве текстов заметны пробелы:

• Глубокий технический анализ того, какие условия необходимы для успешной разработки с помощью LLM. Пробел частично закрыт: статья programming-differently-difficult (Jeremy Osborn, CACM) прошла рецензирование, опирается на литературу по когнитивным аспектам программирования, а не на отдельные истории, и приводит аргументы против собственного оптимизма (разрыв в понимании у Шихаба, нестабильность учебных результатов у Аланази). Автор избегает как слепого энтузиазма, так и полного отрицания: его тезис в том, что сложность не снизилась, а сместилась с воспроизведения по памяти на оценку и суждение (recall-to-judgment). Ближе всего к этому внутри самого кластера подошёл текст llm-critics-are-right-use-anyway: приёмы вроде /grill-me, Pitch и состязательных субагентов дают частичный практический ответ, пусть и на уровне рабочих процессов, а не фундаментальной теории. Стоит отметить, что chatgpt-5-5-pro-mathematical-research (Гауэрс) даёт такой разбор для математических исследований - задокументированный случай, когда LLM предложила "оригинальную и остроумную" идею, подтверждённую автором исходного метода. Это область математики, а не инженерии, но именно такой пример закрывает нехватку аргументированного позитивного опыта от авторитетного специалиста.
• Аналог концепции contributor-poker для сфер за пределами кода - позитивное описание того, что именно теряется, когда посредником в отношениях становится ИИ.
• Чёткий экономический анализ изнутри самих ИИ-лабораторий. Финансовые разборы пока пишут исключительно внешние наблюдатели.

См. также

Упомянутые выше публикации, а также ai-sycophancy-loop, tokenmaxxing, llm-as-average-democratizer, cult-of-vibe-coding, building-syntaqlite-ai со смежными формулировками проблем.