EnglishРусский Map

Голос из ниоткуда

Wiki summaryllm-skepticismagentic-codingaccountabilityphilosophy ↳ show in map Markdown
title
Голос из ниоткуда
type
summary
summary
zanlib об энциклике Льва XIV: сгенерированный результат копирует форму мысли, но не стоящий за ней путь
tags
llm-skepticism, agentic-coding, accountability, philosophy
sources
a-voice-from-nowhere
created
2026-07-29
updated
2026-07-29
lang
ru
translation_of
a-voice-from-nowhere
source_updated
2026-07-29
translated
2026-09-01
translator
lllm/antigravity/gemini-3.7-flash-medium

Эссе от июля 2026 года на zanlib.dev, написанное после того, как первая энциклика папы Льва XIV Magnifica humanitas (15 мая 2026 года) разошлась по X, LinkedIn, Hacker News и стала первой в истории ссылкой на домен .va на lobste.rs - её вывели в топ и добросовестно обсуждали. Автор - поляк и католик, о чём говорит прямо, и считает такую реакцию главным, на что стоит обратить внимание: энциклики адресованы "всем людям доброй воли" и должны выдерживать проверку за пределами Церкви исключительно по существу, как это уже удалось Laudato Si', когда её цитировали экологические комиссии ООН и научные статьи по климату.

Он решил отказаться от полного построчного разбора. Вместо этого он выделяет одно свойство этих инструментов, о котором говорит энциклика и на которое, по его мнению, индустрия разработки ПО молчаливо сговорилась закрывать глаза.

Аргументация

Технологии никогда не бывают нейтральными, а у их создателей есть вполне конкретный характер. Ключевой пункт - §9 энциклики: технология "перенимает черты тех, кто её разрабатывает, финансирует, регулирует и использует". Сама мысль о том, что инструмент отражает характер своих создателей, стара. Но конкретный характер здесь иной. Люди, создающие эти системы, - наследники западного рационализма и разделения субъекта и объекта, укоренившегося настолько глубоко, что оно уже даже не осознаётся как отдельная позиция: убеждённость в том, что если отбросить предрассудки, настроение, обстоятельства и предвзятость, останется объективный мир в чистом виде. Автор подкрепляет это ссылкой на Пирсига: рациональность, с помощью которой когда-то спасались от непосредственного окружения, победила настолько полно, что теперь уже романтики пытаются сбежать от неё самой.

Поза наблюдателя из ниоткуда - это тоже позиция. §100: "кажущаяся объективность ответов может привести к тому, что мы упустим из виду отражённые в них культурные установки тех, кто их проектировал и обучал". Нам предлагают вовсе не отсутствие точки зрения, а точку зрения, спрятанную настолько надёжно, что её носители скрыли её даже от самих себя.

Но уверенность модели куда более пуста, чем неудавшаяся объективность человека. Здесь эссе перестаёт пересказывать энциклику и переходит к собственному тезису. Когда человек стремится к объективности и терпит неудачу, за текстом всё равно видно само это стремление. За сгенерированным текстом и сгенерированным кодом никакого стремления нет.

Стоящий за этим путь. Рамку задаёт §99: эти системы имитируют функции человеческого интеллекта и часто превосходят его по скорости, но их мощь завязана на обработку данных, и они "не понимают того, что производят". Собственный образ эссе берёт из 6-й главы книги "Дзэн и искусство ухода за мотоциклом", где Пирсиг разбирает мотоцикл несколькими разными способами. Эти разделения не впаяны в саму машину. Водитель делит её по функциям, механик - по узлам сборки, продавец запчастей - по заводской номенклатуре деталей, и каждый делает выбор исходя из того, что он уже понимает, какие поломки видел своими глазами и что лично для него важно. Инструкция, идущая в комплекте с мотоциклом, скрывает всё это за обезличенным голосом стороннего наблюдателя, будто за ним никто не стоит. Но за ним стояли люди. "Мотоциклы не находили лежащими в поле. Люди заставили их работать, и этот процесс оставил след".

Этот след и есть путь: структура мысли, лежащая в основе всего, что делает человек. Вы сортируете песчинки определённым образом, и эта сортировка принадлежит вам.

У машины нет пути, и - вот несущая часть аргумента - она его имитирует. Форма воспроизводится без понимания, которое её породило. Отсюда специфическое беспокойство при чтении сгенерированного контента: он может быть верным во всех значимых смыслах, он выглядит правильно, но всё равно читается так, будто за ним ничего нет.

Оговорка, сохраняющая честность рассуждения. Путь отсутствует не полностью. Генерация чего-либо требует ввода знаний, а входные данные - обычно prompt - представляют собой созданный человеком артефакт, за которым стоит точно такой же путь мысли. Проблема в том, что читатель получает результат, а не входные данные. Чем больше разрыв между последней точкой приложения человеческого суждения и готовым артефактом, тем труднее разобрать, каким был этот путь и был ли он вообще.

Почему читать это утомительно. При чтении вы рефлекторно ищете структуру: почему сделано так, а не иначе, какие варианты рассматривались и были отброшены, где автор сомневался в собственных предпосылках. Когда невозможно отличить внимательного автора от стохастического попугая, вы не знаете, есть ли вообще эта структура в тексте. Вы ищете то, о чьём существовании даже не уверены, и это выматывает так, как никогда не выматывает плохо написанный, но созданный человеком текст.

Вторая эрозия: утрата пути внутри работника

Если инструмент стирает путь в самом результате работы, то в человеке, выполняющем эту работу, он стирает его медленнее, но неуклонно. Исходный тезис даёт §140: скорость и лёгкость получения ответов грозят угасанием самого желания задавать вопросы. Здесь же приводится Платон, писавший, что самые глубокие вещи постигаются лишь со временем и трудом, когда идеи "высекаются", как кремень о кремень, пока не вспыхнет искра.

Автор эссе описывает трёхэтапное угасание случайных открытий (serendipity). Раньше поиск решения проблемы в руководстве или документации означал, что вы попутно натыкались на несвязанные вещи и полусознательно откладывали их в памяти. Google частично убрал это, указывая ровно на нужный раздел, но вы всё равно попадали на целую страницу и могли скользнуть взглядом по сторонам. Ответ чат-бота обрезан строго под запрос - без полей и без отступлений. Когда окно чата становится единственным интерфейсом к кодовой базе, вы никогда не видите того, что окружает diff'ы.

Итог носит сугубо практический, а не сентиментальный характер: когда вы перестаёте понимать, что делает ваш код или где проходят границы системы, вы больше не можете её поддерживать. А если вся команда теряет связь с тем, что работает на серверах, - тушите свет. Здесь автор ссылается на эссе Декса Хорти (Dex Horthy) Why Software Factories Fail - ту же работу, на которой основан разбор SlopCodeBench в benchmarking-opus-5-slopcodebench.

Это те же cognitive-debt и dont-outsource-learning, к которым подошли с другой стороны. Аргументация Османи опирается на три исследования с ЭЭГ и тестами на понимание; здесь же всё строится на феноменологии того, чем раньше были чтение и поиск. Они сходятся в описании одного и того же механизма: обучение происходило именно в преодолении трудностей. Энциклика добавляет к этому утверждение о том, что угасает само желание спрашивать, а не просто навык.

Подпись и то, что она скрывает

Заключительная часть посвящена ответственности, и это самый конкретный фрагмент эссе. В §105 звучит требование обеспечить "возможность определить, кто обязан нести ответственность за решения, обосновывать их, контролировать их и при необходимости оспаривать их и устранять любой причинённый вред".

В качестве контрпримера автор приводит свой опыт работы в крупной консалтинговой компании, где каждая строчка вела к конкретному человеку: коммиты с номерами тикетов в Jira, тикеты с подтверждением от предметного эксперта, проверившего бизнес-логику, тикеты внутри эпиков, утверждённых менеджером. При серьёзных сбоях на звонок приходила вся эта цепочка. Коллеги считали это нездоровым и ратовали за постмортемы без поиска виновных.

Его краткий вердикт тому, что пришло на смену: "Сегодня у нас как раз такие: "Ой, Claude так написал. У вас он тоже есть, просто попросите его поправить prompt'ом"".

Далее описан механизм, с помощью которого эта цепочка незаметно разрывается. Люди прикладывают реальные усилия, чтобы дистанцироваться от результата работы машины. Некоторые коллеги не признаются, что коммит написан ИИ, потому что такое признание вызовет вопрос, понимали ли они задачу вообще, - поэтому они подписывают его своим именем и опускают Co-Authored-By. А намекать, что работа коллеги сгенерирована, невежливо, ведь такой намёк означает, что он не думал сам. Поэтому никто ни о чём не спрашивает. Теряется не личность автора, а уровень, на котором ещё сохранялось понимание до того, как результат был передан дальше, и существовало ли это понимание вообще.

Самая жёсткая формулировка энциклики на этот счёт касается войны: "недопустимо доверять смертоносные или иные необратимые решения искусственным системам" (§198). Эссе обобщает этот принцип: в любой системе цепочка ответственности должна замыкаться на человеке - хотя бы из уважения и элементарной вежливости. Проблема с голосом из ниоткуда в том, что он позволяет цепочке обрываться в пустоте, создавая для всех окружающих видимость, будто она замыкается на вас.

Финальный перевёртыш: технологии перенимают характер своих создателей, и тревожить нас должен не столько перенятый ими характер, сколько то, с какой готовностью мы сами научились писать голосом, не признающим за собой вообще никакого создателя.

Как это соотносится с остальной базой знаний

В базе знаний уже есть большая часть элементов, которые собирает это эссе, и стоит точно определить, какой именно тезис здесь нов.

Распознавание: заметка credibility-as-slop-test показывает, что по внешнему виду нельзя определить, была ли вложена в текст мысль, и предлагает перенести вопрос с текста на готовность автора рисковать собственной репутацией. Данное эссе упирается в тот же тупик, но не предлагает аналогичного выхода - оно останавливается на истощении от поиска структуры, которой может не существовать. slop-marker-convention - это ответ со стороны создателя контента, а описанное здесь удаление Co-Authored-By представляет собой ровно ту же конвенцию, вывернутую наизнанку: намеренный отказ от маркировки по причине (избежать сомнений в собственной компетентности), которую предложения по маркировке никак не учитывают.

Прямая противоположная позиция изложена в checking-for-human-writing: там утверждается, что авторство вообще никогда не жило в пути, стоящем за словами. Шеху признаёт, что письмо от руки фокусирует мысль, но отказывается возводить это в критерий человечности: всё, что можно спросить с готового текста, - это кто хотел его высказать, кто отбирал итоговое содержание и кто готов отвечать за последствия публикации. Он спорит об ответственности за результат там, где это эссе спорит о том, что способен различить в тексте читатель, поэтому эти позиции сталкиваются только в том случае, если считать, что одна из них отвечает на оба вопроса сразу.

Атрибуция: agent-identity-attribution предлагает инфраструктурное решение, выдавая агентам собственные ключи и подписанные цепочки событий. Но у этого подхода есть предел, о котором как раз и говорит эссе. Подписи фиксируют кто, но никогда не покажут, сколько мысли было вложено; фокус эссе направлен на понимание, а не на идентичность, и криптография до него попросту не дотягивается.

Ревью: control-the-ideas-not-the-code утверждает, что построчное чтение сгенерированного кода - пустая трата времени, а контролировать нужно проектирование. Это совместимо с эссе лишь при условии, что именно на этапе проектирования прокладывается и остаётся различимым путь мысли, - что соответствует предложению antirez'а по DESIGN.md, с которым автор эссе, вероятно, согласился бы. reviewing-ai-code и cult-of-vibe-coding занимают противоположную сторону. Отличие этой статьи от всех перечисленных в том, что она в первую очередь говорит не о корректности кода. Она допускает, что сгенерированный результат может быть полностью корректным во всех практических смыслах, но при этом оставаться нечитаемым в том самом специфическом значении, которое имеет значение.

Сохранение: оговорка самого автора о том, что prompt является артефактом, несущим в себе путь мысли, наводит на идею архивирования входных данных. В memorizing-session-transcripts описан отрицательный результат наивной реализации этой идеи: сырые логи сессий оказались просто шлаком, а всё действительно ценное уже было отжато в сообщения коммитов, описания PR и документацию. Иными словами, практикой, способной реально сохранить путь, оказывается режим строгой прослеживаемости, существовавший у клиента автора из консалтинга, а не хранилище логов.

anti-llm-discourse систематизирует весь жанр; данный текст относится скорее к категории мастерства и понимания, чем к экономической или этической, и выделяется в этой группе тем, что выстраивает аргументацию на основе религиозного документа, не требуя от читателя признания его авторитета.

Ссылки

Linked from