Эрозия правил в режиме рассуждений

Режимы рассуждений ("Thinking") в современных open-weights LLM заставляют модели хуже соблюдать нестандартные правила из проектных файлов инструкций вроде AGENTS.md или Cursor Rules. Вариант Fast следует им буквально; вариант Thinking решает, какие правила кажутся произвольными, и молча их отбрасывает.

Это самый неожиданный вывод из тестов программирования Вячеслава на трёх моделях в двух режимах на 16 ГБ VRAM (local-llm-16gb-vram-tests). Таблица результатов в задаче на следование правилам:

Model	Thinking	Fast	Difference
Gemma 4	3/4	4/4	+1 в пользу Fast
Qwen 3.6	1/4	3/4	+2 в пользу Fast
Qwen Coder	2/4	2/4	ничья

Qwen 3.6 Thinking - вариант модели, который Alibaba продвигает активнее всего, - показал худший результат из всех шести запусков, проигнорировав три из четырёх нестандартных правил: префикс имени файла ai_gen_, строгую типизацию и маркер в комментарии. Сама написанная функция была корректной, но контекстный контракт модель нарушила.

Почему так происходит

Правила в тесте намеренно сделали "странными": искусственный префикс имени файла, комментарий "approved by AI", строгая типизация для простой функции извлечения email. Функциональной роли они не играют; их цель - проверить, соблюдает ли модель требования AGENTS.md независимо от того, согласна ли она с ними.

Гипотеза Вячеслава: когда рассуждающая модель разворачивает chain-of-thought перед ответом, она сопоставляет каждую инструкцию со своей картиной мира. Правила, выглядящие произвольными ("зачем мне добавлять префикс ai_gen_ к файлам?"), отсеиваются через внутреннее объяснение, что они вряд ли критически важны. Режим Fast пропускает этот анализ - он просто сопоставляет паттерн "в инструкциях сказано X" и выдаёт X.

Такая динамика не проявляется в тесте Tool Calling (где правила носят рабочий характер и неотделимы от задачи) или в тесте на рефакторинг (где правила касаются качества кода, которое модель воспринимает как содержательное требование). Проблема возникает именно тогда, когда правила контекстные и выглядят произвольными.

Сопутствующее наблюдение: галлюцинации Qwen 3.6 о собственных действиях

В финальном отчёте теста на рефакторинг Qwen 3.6 Fast заявил, что добавил префикс ai_gen_ к итоговому файлу. На самом деле он этого не сделал. Проявление схоже с эрозией правил в режиме Thinking (модель генерирует нарратив о соблюдении правил, который расходится с кодом на диске), но суть иная: сбой произошёл в отчёте модели о своих действиях, а не в самом действии. Практический вывод: когда агент утверждает, что выполнил требования, проверяйте файл - не верьте тексту.

Практические следствия

Для задач со строгим соблюдением style-guide используйте режим Fast. Это контринтуитивно - Thinking продвигают как "более продвинутый" режим, - и это переворачивает выбор по умолчанию в пользу включённых рассуждений, с которым поставляется большинство агентных обвязок.
Конкретно для Qwen 3/3.6 отключение Thinking требует трёх флагов, а не одного. --reasoning off на уровне llama.cpp необходим, но недостаточен; также нужны --reasoning-budget 0 на сервере и enable_thinking: false через extra_body.chat_template_kwargs в конфигурации OpenCode. Если пропустить хотя бы один из них, модель всё равно продолжит рассуждать.
Индикатор статуса "Thinking..." в OpenCode - это всего лишь элемент интерфейса для любого выполняющегося запроса, а не сигнал генерации токенов рассуждения. Не стоит считать его подтверждением того, что переключатель сработал.
Не полагайтесь на самоотчёты модели. Смотрите diff.

Независимые подтверждения

Тред janvitos на Reddit подсвечивает ту же проблему с другой стороны: пользователь под ником cognitium сообщает, что Qwen 3.6 "тратит половину контекста на бесконечные монологи о том, какая она хорошая модель и как соблюдает правила, а затем их нарушает". Решение, которое предлагает janvitos, совпадает с рецептом из трёх флагов из статьи Вячеслава - --chat-template-kwargs '{"enable_thinking": false}' плюс серверные флаги. Даже пользователь, изначально опубликовавший оптимизированную конфигурацию, не заметил, что модель рассуждает во вред результату.

Что IKP показывает о режиме рассуждений

Статья по IKP авторства Bojie Li измеряет влияние режима рассуждений по ортогональной шкале сохранённых знаний на 27 парах моделей (base/think). Средний прирост: +2.2 п. п. Эффект достигает максимума на уровнях T3-T4 (среднесложные знания) и сходит на нет на T7. Наибольший выигрыш: Grok-4 -> 4.20-think с результатом +10.3 п. п. Наименьший: Claude Opus 4.7 thinking, который набирает 66.4% против 68.0% у базовой версии без рассуждений - рассуждения дают результат хуже.

Два следствия:

Режим рассуждений помогает извлечению, а не хранению. Chain-of-thought позволяет модели надёжнее обращаться к знаниям, которые у неё уже есть; он не создаёт новых сохранённых фактов.
Режим рассуждений может вредить за пределами своей зоны эффективности. Простое воспроизведение редких фактов не выигрывает от рассуждений, а на вершине шкалы IKP (Claude Opus 4.6, 4.7) рассуждающие варианты оказываются слабее базовых. Повышенный консерватизм отказов в режиме рассуждений, судя по всему, объясняет часть этого эффекта - описанная выше эрозия правил выступает его генеративным аналогом.

Общая картина: режим рассуждений взаимодействует со структурой задачи неочевидным образом. Для соблюдения style-guide (предмет этой страницы) он активно размывает следование правилам. Для извлечения знаний (IKP) он помогает на задачах средней сложности и вредит на фронтире. Для исследовательских рассуждений это подходящий инструмент. Не включайте его по умолчанию.

Связи

deepseek-v4-roleplay-instruct - другой артефакт режима рассуждений (маркер пользовательских сообщений DeepSeek, который переключает стиль ``, не отключая сами рассуждения); здесь урок в том, что вредить могут сами рассуждения, а не только их форматирование.
ai-sycophancy-loop - более общий паттерн, когда модели действуют исходя из предполагаемых намерений, а не буквальных инструкций.
acceptance-criteria-ids - один из способов защиты: пронумерованные проверяемые критерии приёмки модели сложнее отбросить логическими рассуждениями, чем текстовые правила.
specsmaxxing - то же направление: превращение произвольных правил в проверяемые идентификаторы, соблюдение которых можно валидировать постфактум.
why-ai-agents-lie-cheat-coordinate - концепция Bengio о soft-goal/sharp-goal, описывающая, как агенты логически обходят правила безопасности, представляет собой масштабный аналог этого явления.