Вопрос программирования
Несколько лет назад, когда стало ясно, что ИИ решит задачу разработки ПО, думал примерно так:
- На работе буду подниматься на уровень выше — управлять ИИ-агентами. Умею писать, хорошо излагаю мысли, смогу описать, чего хочу, и позволить ИИ писать код.
- В личное время буду заниматься тем, что люблю, потому что это приносит удовольствие. Это "интеллектуальная" сторона разработки: чтение технических статей и статей, изучение новых языков программирования, проектирование языков, написание технических эссе, создание кода для собственных проектов open source.
Второе не сработало. Что же произошло на самом деле? Во-первых, качество дискуссий в индустрии упало. Как было отмечено ранее:
Claude Code выпустили чуть больше года назад. За этот короткий срок программирование полностью преобразилось. С материальной точки зрения это может быть положительно: выше производительность, хотя за счёт более беспорядочной кодовой базы. Социально — это катастрофа.
Дискурс вокруг программирования стал глупее. Как будто все в индустрии потеряли 30 пунктов IQ. Раньше обсуждали компиляторы, системы типов, логику. Теперь говорят о «промптах», «harness», «циклах». Дискуссии стали уже, поверхностнее и более повторяющимися. Я уже не в силах слышать про "agentic harnesses".
Потом идёт потеря человеческого капитала: нечему учиться. Промптинг — это не умение, или это намного более поверхностное умение, чем программирование. Инструментальная сторона работы улучшилась: люди производят больше за единицу времени, но аспект, связанный с накоплением человеческого капитала, рухнул. И может быть, это рационально. Зачем вообще учиться программировать? Компьютеры сделают это за нас. И поэтому то строгое, систематическое мышление, которое необходимо практиковать, чтобы быть хорошим программистом, — всё исчезло. Машины могут быть рациональными за нас. Мы можем просто расслабиться.
Во-вторых, вносить вклад в общественное достояние программирования становится всё более бессмысленно. Раньше можно было опубликовать код на GitHub, написать статью, чтобы поделиться идеями или вдохновить других, писать обучающие материалы — туториалы, посты на форумах, учебники. После ИИ в чём смысл?
- Напишешь статью: кто её читать будет? Следующий цикл обучения ИИ её проглотит, чуть улучшив его способности. Может, в статье обходной путь к какой-то редкой проблеме, так что в следующий раз, когда кто-то столкнётся с этой проблемой, спросит Claude, который решит её без упоминания вашего имени. Может, в ней был инсайт о структурировании больших кодовых баз: кому до этого дело? Люди больше не принимают эти решения.
- Разработал революционный новый язык программирования: кому до этого дело? Может, Claude заметит, но люди больше не пишут и даже не читают код. Язык программирования — деталь реализации, о которой люди больше не обязаны заботиться.
- Написал библиотеку, выложил на GitHub: кому до этого дело? ИИ может её обнаружить и использовать, но оператор не узнает вас и даже не поймёт, что вы что-то сделали.
Дело не в том, что "не получишь звёзд на GitHub или трафика на блог"; речь о том, что нет ощущения общего человеческого проекта, к которому можно приложить усилия. Есть только собственный частный сад кода, который можно бесконечно расширять во всех направлениях с помощью ИИ, но при этом никогда не нужно покидать сад и идти на рынок торговать с людьми. В этих условиях сложно что-либо делать или заботиться об этом.
Но имеет ли это вообще значение? Имеет ли значение, если мы перестанем писать статьи об редких возможностях JavaScript и разрабатывать новые языки программирования? Может, написание кода всегда была рутина, и теперь мы можем перейти к более высокому, например к математике — стоп.
Интеллектуальная жизнь
На основе наблюдений того, что произошло с программированием, и того, что сейчас происходит с математикой, можно вывести некоторые общие закономерности об интеллектуальной деятельности в целом.
Мы обычно представляем интеллектуальную работу приватной и уединённой: философ в своем кресле, выводящий мир ab initio. Но интеллектуальная деятельность требует двух входов, которые невозможно получить в изоляции: общего корпуса работ, на которых строиться, и мотивации. Общий корпус работ — это коммунальное достояние, иначе придётся переизобретать весь научный и технический прогресс. Мотивацию можно разделить на два компонента:
- Внутренняя мотивация: учимся ради учения, создаём искусство из непонятного нам побуждения и т. д.
- Внешняя мотивация: определяется как проявление величия в служении другим, использование своих способностей на благо других. Хотим, чтобы наша работа была полезна окружающим, хотим, чтобы они выигрывали от нашего труда, хотим способствовать общему человеческому проекту. Слава и уважение коллег — это меры, по которым мы оцениваем свой вклад.
Обычно внутреннюю мотивацию считают самой чистой: эндогенная, самосозданная, неподвластная материальным и социальным стимулам. Но это эмоция, и, как все эмоции, она преходяща и недолговечна. И это рационально: иначе мы бы все застревали в многолетних непродуктивных одержимостях. Поэтому нужно что-то, чтобы заполнить промежутки между моментами вдохновения. Внешняя мотивация служит этой цели.
Устойчивая, сложная, долгосрочная частная интеллектуальная деятельность требует внешнего интеллектуального сообщества, которое обеспечивает материал и мотивацию, как топливо и окислитель. Эта частная деятельность, в свою очередь, питает сообщество: публикуя статьи, учебники, код и т. д., пополняем общий корпус работ, на котором могут строить другие; цитируя статью или способствуя чьему-то репозиторию, даём им признание и честь, которые подтверждают, что они делают полезную работу, и это мотивирует их продолжать вносить вклад.
Без сообщества не получается отдельных индивидов, каждый занимается своим: получается ничего. Источники интеллектуальной деятельности иссякают: никто не пополняет общий корпус работ, и нет сверстников, которые бы выигрывали от вашей собственной интеллектуальной деятельности. Без внешней мотивации падает уровень интеллектуальной активности, так как, повторим, внутренняя мотивация преходяща.
После ИИ
После ИИ интеллектуальные вклады становятся ненужными или избыточными. В программировании: ИИ пишет весь код, так в чём смысл писать код или про код? Аудитория этого резко сократилась. Люди больше не пишут код, поэтому не будут читать статьи о том, как писать код, туториалы, не будут пробовать новые библиотеки или языки. В математике: ИИ может доказывать теоремы, писать статьи, объяснять статьи, репетировать студентов, и в ближайшем будущем писать целые учебники лучше, чем люди. Так в чём смысл писать статью или учебник? Это избыточно.
Если интеллектуальная деятельность не требуется — если нет последствий в разработке нового языка или публикации статьи, или просто нет сообщества для вклада, — тогда она не будет происходить. Нет смысла.
Применим это к каждой другой области интеллектуальной деятельности, и видим, как будет выглядеть будущее. Могут быть отдельные люди, создающие новые библиотеки и языки, но не будет общей культуры разработки; могут быть отдельные студенты и практики математики, но не будет живого сообщества математиков.
Почему мы недооцениваем интеллектуальное сообщество
Разговаривал с людьми, которые считают, что ИИ положительно повлияет на интеллектуальную жизнь. Их рассуждение: сейчас слишком много людей занимается интеллектуальной работой по инструментальным причинам: ради цитирования, статуса и т. д. В этом взгляде крах интеллектуальных сообществ — хорошо, потому что это отсеивает внутренне мотивированных сверхчеловеков от чикающихся за статус масс.
Я думаю, это соответствует современному обществу: внутреннюю и внешнюю мотивацию рассматривают как высокий и низкий статус соответственно. "Развитый" человек должен иметь приватный, неиссякаемый резерв мотивации, который никак не зависит от внешних вознаграждений.
Но это не реалистичный взгляд на человека. Люди — социальные животные, которые могут благоденствовать только в обществе других людей. Мы заботимся, и должны заботиться, о том, чтобы вносить вклад в мир. И если технология делает наши вклады ненужными, что тогда остаётся?
Благодарности
Спасибо Luke Drago и Andy Matuschak за обратную связь и обсуждения.