Технические специалисты сегодня спешно перестраивают рабочие процессы под новые, резко выросшие нормы продуктивности (в 5 раз выше прежних), одновременно испытывая на себе когнитивный долг от кода, сгенерированного агентами. С каждым новым релизом моделей разрыв увеличивается, а люди всё больше превращаются в узкое место цикла разработки, приближаясь к устареванию в роли «кодеров».

Пока должностная инструкция программиста переписывается заново, письмо остаётся на удивление незатронутым. LLM научились очень хорошо генерировать код, но качество их прозы вызывает отторжение. Они всегда следуют одному и тому же роботизированному ритму и клише, разбрасывая одну и ту же затёртую лексику. Они берут живой, пусть и несовершенный текст, и превращают его в пластиковую бездушную словесную кашу под видом «улучшения прозы». Их письмо не передаёт ни реального понимания, ни инсайта. Похоже, у всех вырабатывается инстинктивное отторжение к ИИ-текстам. Они застряли в зловещей долине — и, возможно, застрянут там надолго.

Есть растущая уверенность в том, что LLM ещё долго не будут представлять угрозу для хороших писателей. Этот прогноз опирается на три наблюдения ниже — стоит проверить, где логика может дать сбой.

Плато в прозе

Застой LLM в написании текстов — не от недостатка усилий. AI-лаборатории уже серьёзно пытались улучшить качество прозы и упёрлись в стену. Гиганты индустрии LLM с радостью выпустили бы модель с лучшими писательскими способностями, чтобы завоевать маркетинг, копирайтинг и издательское дело при нулевых предельных издержках.

Достаточно посмотреть на модели изображений, голоса и даже видео. Они быстро стали хороши, потому что масштабируются увеличением параметров и вычислительной мощности. По сравнению с их стремительным прогрессом текстовые модели крепко застряли на уровне выразительности, глубины и подлинности. Последние 20% здесь преодолеть невероятно сложно (это касается и моделей изображений, голоса, видео).

Письмо — это «злая» задача

В теории систем «злая» задача (wicked problem) — это задача, у которой нет чёткой формулировки, ясного правила остановки и объективно верного решения. Письмо — предельный случай такой задачи: контекст постоянно меняется, текст никогда не бывает по-настоящему завершён редактированием, а истинная метрика успеха фундаментально субъективна.

Если расположить разные области деятельности вдоль этого спектра «злостности», становится понятно, почему ИИ доминирует в одних сферах и производит откровенный мусор в других:

  • Математика находится на левом краю спектра. Спецификации лаконичны, а проверка бинарна и автоматизирована. Поскольку петля обратной связи полностью замкнута, модели ИИ могут быстро решать математические задачи и автоматически доказывать результаты.
  • Код опирается на формальную логику и обратную связь через тесты. LLM способна генерировать рабочий код, потому что компиляторы, юнит-тесты и верификаторы моделей мгновенно выявляют ошибки. Проверка в значительной степени механическая.
  • Структурированные области вроде права и финансов также имеют явные границы, поскольку регулируются нормативными рамками и оцениваются по эмпирическим данным.
  • Письмо находится на противоположном крае спектра. У этой задачи нет чётко определённой спецификации, нет эталона истины или объективной проверки результата. Конечная мера успеха — это резонанс, возникающий в чужом сознании. Именно поэтому AI-модели не могут добиться прогресса в хорошем письме.

Письмо может быть AI-полной задачей

В отличие от программирования, которое представляет собой взаимодействие одного разума с детерминированным компилятором, проза — это задача двух разумов, управляемая теорией разума (Theory of Mind). Она требует способности непрерывно моделировать внутреннее психическое состояние читателя в реальном времени. Чтобы писать просто и убедительно, нужно отслеживать, что читатель уже знает, управлять его когнитивной нагрузкой предложение за предложением и предсказывать, как аргумент будет воспринят.

Поскольку у LLM нет активной ментальной модели конкретного человека-читателя, они лишь оптимизируют статистическую вероятность следующего слова на огромном массиве данных. Они не способны сопереживать читателю-человеку, поскольку у них нет человеческого прожитого опыта. И у них нет никакой личной заинтересованности в результате.

Сравнительное преимущество и дорогостоящие сигналы

Чтобы подвести итог, стоит обратиться к Давиду Рикардо и классической экономике. Закон сравнительного преимущества гласит: даже если одна сторона способна производить всё эффективнее другой, обеим сторонам всё равно выгодно специализироваться там, где их относительные издержки упущенной выгоды наименьшие. Иными словами, даже если у ИИ есть абсолютное преимущество в скорости печати и объёме генерации при нулевых предельных издержках, человеческий труд по-прежнему определяется тем, где наши ограниченные ресурсы будут потрачены с наименьшими потерями.

Издержки упущенной выгоды от того, что человек тратит своё ограниченное когнитивное время на типовые и повторяющиеся задачи, теперь бесконечно высоки. Вместо этого человеческие усилия оказываются наиболее ценны там, где ИИ проваливается — в навигации по «злым» задачам и в стремлении к творчеству.

Здесь экономика встречается с эволюционной биологией: «человеческое доказательство работы» становится предельным дорогостоящим сигналом. В природе дорогостоящий сигнал (вроде хвоста павлина или рогов лося) работает именно потому, что его производство затратно и его невозможно подделать. По мере того как сеть насыщается ИИ-мусором, экономическая ценность полностью смещается в сторону подлинного человеческого голоса.

В отличие от технических специалистов, писателям не нужно менять ровным счётом ничего в своей работе, чтобы реализовать своё сравнительное преимущество и захватить этот дорогостоящий сигнал. Пока ИИ снимает случайную сложность программного обеспечения, обнажая его неотъемлемую сложность, технические специалисты с трудом адаптируются. Но хорошие писатели всегда боролись с неотъемлемой сложностью коммуникации на этом «злом» рубеже — и она их не коснулась. А возможно, и само программирование постепенно превращается в форму творческого письма, становясь всё более концептуальным и архитектурным.