Сдвиг от вспоминания к суждению

Тезис из статьи Джереми Осборна (Jeremy Osborn) для CACM programming-differently-difficult: ИИ-ассистенты для написания кода берут на себя ту половину программирования, что связана с извлечением знаний из памяти, оставляя человеку этап оценки. В итоге сложный вопрос меняется с "как мне это написать?" на "имеет ли это вообще смысл?". Общая когнитивная нагрузка не снижается - она смещается с извлечения данных из долговременной памяти на рассуждение.

Почему это перенос, а не снижение

Исторически программирование упиралось в память. Десятилетия исследований (Brooks, Pennington, Soloway и работы Siegmund с использованием фМРТ) показывают: эта работа держится на оперативной памяти и долговременном воспроизведении синтаксиса, идиом и паттернов, а ментальные модели здесь тяжело строятся и легко рушатся при переключении контекста.

Ассистент забирает на себя поиск и воспроизведение информации. Чтобы использовать API, больше не нужно точно помнить его структуру. Но ассистент не способен решить, корректен ли полученный результат: для этого нужна ментальная модель системы, куда этот код встраивается. Поэтому человеку остаётся то, что всегда было сложнее: архитектурные рассуждения, анализ последствий и оценка семантической корректности кода, который синтаксически уже безупречен.

Два эффекта второго порядка делают баланс хуже, чем кажется на первый взгляд. Генерация ускоряется, а валидация замедляется и требуется чаще, так что время просто перераспределяется, а не исчезает. К тому же способность оценивать чужой код формируется именно той практической работой, которую теперь пропускают, - см. skill-atrophy-supervision-paradox.

Парадокс доступности

Самое полезное следствие: барьер для написания кода снижается, а барьер для написания хорошего кода растёт.

Обе стороны этого утверждения реальны, поэтому споры о том, демократизирует ли ИИ программирование, никак не утихают. Люди, которые срезались бы на синтаксисе и идиомах обработки ошибок, теперь получают точку входа - и это чистая правда. Но навык, определяющий качество, теперь сводится к суждению и оценке, а научить суждению труднее и осваивается оно дольше, чем любое запоминание. Нельзя натренировать карточками понимание того, "подходит ли сюда эта архитектура".

Данные, на которые ссылается Осборн, указывают на то же самое: Шихаб и соавторы (Shihab et al.) выяснили, что студенты с Copilot быстрее выполняли задачи в существующей кодовой базе, но признавались, что не понимают, почему предложенный код работает. Метаанализ Аланази (Alanazi) выявил рост эффективности лишь при незначительных и нестабильных успехах в обучении. Задачи закрываются быстрее, но без явного прироста в навыках, которые эта практика должна развивать.

Аналогия с медициной

Диагностические приборы сняли необходимость помнить наизусть редкие клинические детали, но повысили ставки при интерпретации данных и поиске ошибок. Экспертиза сместилась с памяти на рассуждение. Никто не утверждает, что медицина от этого стала простой - сложность стала другого рода, и изменились требования к подготовке врачей.

Где это проявляется ещё

Эта концепция служит когнитивно-научным фундаментом для ряда практических аргументов в вики, к которым здесь пришли другими путями:

• И control-the-ideas-not-the-code, и vibe-engineering рекомендуют отказаться от построчного код-ревью и сосредоточить внимание на проектировании. Это работает, только если дефицитным ресурсом является именно оценка архитектурных решений, о чём здесь и говорится.
• В reviewing-ai-code та же предпосылка приводит к противоположному выводу: если узким местом становится валидация, а code-review-throughput-limits ограничивают её пропускную способность, то и общий объём выпуска тоже ограничен.
• llm-as-average-democratizer описывает тот же сдвиг со стороны результата: когда правдоподобный средний уровень обесценивается, остаётся лишь отличать хорошее от правдоподобного.
• programming-as-theory-building - гораздо более ранняя версия той же мысли у Наура (Peter Naur): программа - это теория в головах программистов, а наружу передаётся лишь артефакт.

Ограничения такой модели

Она предполагает, что способность оценивать можно отделить от памяти, но доказательств этому мало. Результаты Солоуэя (Soloway), которые приводятся в пользу этой идеи, скорее свидетельствуют об обратном: программисты справлялись лучше, когда конструкция совпадала с внутренним планом, извлечённым из долговременной памяти. Это наводит на мысль, что суждение частично и есть накопленная память. Если так, то поколение, не сформировавшее базу знаний в памяти, рискует не развить и способность к оценке, которая должна была её заменить, и парадокс доступности станет ещё острее.

Связанные страницы

• programming-differently-difficult - источник
• skill-atrophy-supervision-paradox - что именно разрушает способность к оценке, на которую опирается этот сдвиг
• measuring-ai-coding-productivity - почему разрыв между эффективностью и обучением трудно измерить
• recall-to-judgment - аналог организационного сдвига из agent-principal-agent-problem на уровне индивидуального мышления