Что я чувствую по поводу ИИ (Zwinkau)

Короткая недатированная заметка на сайте Андреаса Цвинкау beza1e1.tuxen.de: по абзацу на каждое чувство и вердикт в одну строку. Автор скорее декларирует позиции, чем аргументирует их, и ценность текста - в компактной фиксации того, как один разработчик совмещает сразу несколько таких взглядов.

Первым идёт удивление тому, насколько хорошо работают нейросети. LLM генерирует токен за токеном, словно повинуясь интуиции, без алгоритма планирования или рассуждений внутри, "но некоторое планирование и рассуждение всё же возникает". Это та же механистическая картина, которую Тед Чан использует в ai-is-not-conscious-chiang, доказывая отсутствие разума в машине; Цвинкау отталкивается от того же описания, но вместо скепсиса восхищается.

Страх: аргумент Юдковского о том, что сверхразумный ИИ неизбежно уничтожит человечество, "кажется безупречным", и никто всерьёз не изолирует ИИ в песочницах, потому что с доступом наружу он слишком полезен.

Отвращение к ИИ-компаниям, разрушающим открытый веб. Краулеры и агенты налетают на открытые вики и форумы "как нашествие саранчи", из-за чего открытые сообщества становится тяжело поддерживать, - проблема, описанная в llm-enshittification на примере Bugzilla у Gentoo.

Грусть за художников, вынужденных конкурировать с дешёвым и быстрым slop'ом в ремесле, которое и без того требовало самопожертвования.

Злость на политические системы, неспособные обуздать капитал. Автор предпочёл бы видеть власть у демократического правительства, а не у миллиардеров; он считает, что проблема сводится к необходимости согласованно принимать определённые решения, и отмечает, что большинство людей этого даже не осознаёт. Сюда же относится и экологический ущерб от ресурсов, потребляемых ИИ-компаниями.

Радость от жизни в эпоху открытий. Разработка ПО была "радикально и навсегда преобразована в 2026 году", наблюдать за этим крайне увлекательно, а инструменты позволяют ему создавать код, изображения и музыку, которых иначе бы не появилось.

Его вывод: на технологическом уровне ИИ выглядит позитивно, а на общественном - мрачно. В подвале заметки добавлено, что он использовал Mistral как рецензента, но каждое слово набрал сам.

Место в контексте

Заметка не укладывается в какую-то одну категорию anti-llm-discourse. Она признаёт вред, о котором пишут социологические авторы, но при этом автор с удовольствием пользуется инструментами. Это сближает её с текстами о примирении - llm-critics-are-right-use-anyway и know-thine-enemy, - но без подробностей рабочих процессов и без попыток оправдать такую позицию. Подвал статьи представляет собой более детализированное human-made-disclosure, чем простая строка "no AI": оно отделяет рецензирование от авторства, хотя, как утверждается в checking-for-human-writing, эта грань менее важна, чем то, кто принимал решения.