Не так давно один пост произвёл сильное впечатление — его написала Disesdi Shoshana Cox. Она посчитала, сколько революционных技术 компаний должно было бы появиться к этому моменту благодаря ИИ. При десятикратном ускорении разработки технические аспекты запуска приложения больше не должны быть препятствием для выхода на целевой рынок. Казалось бы, ИИ наконец дал то самое серебряную пулю, которая решает проблему медленных программистов.
Если довериться арифметике Диседи (с которой сложно спорить), спустя четыре года открытых LLM у нас должно было появиться три AirBnB,1 два Stripe2 и три Dropbox3 — благодаря мощи ИИ.
Так где, чёрт возьми, они все?
Крупнейшие новые технологические компании со времён появления генеративного ИИ — это, собственно, сами компании GenAI. OpenAI, Anthropic и High-Flyer (создатель DeepSeek) оцениваются в рекордные суммы. Но самое заметное влияние они оказывают на глобальную экономику. Наиболее ощутимый вклад GenAI в общество — это то, что криво составленные письма стали нормой, соцсети завалены мусором, а качество поисковых систем в интернете рухнуло.
Либо признайте, что это дофаминовая игра, которая заставляет вас чувствовать себя Самым Особенным Программистом Вселенной™, хотя на деле это просто геймифицированная массовая интеллектуальная зависимость.
— Disesdi Shoshana Cox
Пост Диседи отозвался, потому что за время этого ИИ-бума пришлось наблюдать такой же слабый результат от разработки софта. Эти инструменты в руках нетехнических людей, которые не потратили время на изучение «занудной» части, просто не способны создать рабочее приложение, устойчивое к обычным атакам и способное существовать долго. А когда их используют опытные инженеры, эффект напоминает вялое пожатие руки.
Самое слепое пятно здесь в том, что написание строк кода — не та часть разработки, которая отнимает больше всего времени. Может показаться, что это противоречит аргументу про несколько AirBnB или Dropbox, которые уже должны были появиться. Но противоречия нет: руководители компаний и стартапов искренне верят, что LLM устранили узкие места в поставке продукта. Это восприятие, будто все технические проблемы в разработке софта больше не существуют, потому что можно «просто попросить Claude сделать это».4
На одной технологической конференции была панельная дискуссия с названием вроде «Без кода — не проблема». В панели участвовали четыре основателя стартапов, которые «вайб-кодили» свой путь до MVP и, надо полагать, уже берут деньги с клиентов.5 Момент, после которого пришлось уйти с сессии, — когда один из основателей сказал, что у него нет и никогда не будет CTO, потому что технические проблемы можно решать с помощью Claude.
Представьте это. Софтверной компании не нужна экспертиза в софте. Проектированию здания не нужен инженер-строитель. Операции не нужен хирург.
I. Эксперимент
Разработчики, значительно превосходящие по уровню, рассказывали, что ускорили свою продуктивность в написании кода с помощью Claude и других агентов. Возникла мысль: а почему бы и нет? Когда ведёшь консалтинговую практику, такое ускорение разработки реально конвертируется в деньги. Несколько ИИ-агентов уже использовались для рутинных задач — шаблонный код, повторяющийся SQL и так далее. Но захотелось проверить, получится ли поймать эту 10-кратную магию по-настоящему. Дело подошло серьёзно: было куплено 10 долларов кредитов DeepSeek для использования в текущем проекте.6
Процесс оказался невероятно бесящим. Чат-бот предлагал одни из самых тупых решений, какие только можно вообразить. И давайте начистоту: код, который писал DeepSeek, действительно запускался, но это была консервная банка на колёсах, скреплённая скотчем. Наверное, у кого-то возникнет мысль: «Этот чувак просто не умеет промптить. Если бы он лучше формулировал запросы, всё не выглядело бы так убого». И, может, это правда. Но до этого уже был выпущенный в продакшн продукт — что уже бесконечно больше, чем достигают большинство инженеров за всю карьеру. Так что либо промптинг действительно не задался, либо проблема в чём-то другом.
II. Печальная реальность сегодняшнего дня
До совсем недавнего времени, чтобы найти ответ на что-то неизвестное, приходилось гуглить, читать разные мнения, фильтровать их и комбинировать в собственную позицию. А ещё раньше, до эпохи Google, нужно было идти в огромное здание, полное пыльных людей, и искать ряд за рядом нужную подборку томов, каждый из которых содержал часть искомого знания (для визитов в библиотеку есть шутливое название этого процесса — «делать это в стеллажах»). Всё это заменила текстовая перепалка между пользователем и роботом, который выдаёт любую чушь, которую запостил какой-то придурок на Reddit. Вот статистика, над которой стоит задержаться:
Reddit опережает финансовых экспертов на 176% случаев, когда ChatGPT отвечает на вопросы о финансах, несмотря на рекомендации YMYL приоритизировать авторитетные источники.
— Carlos Silva, автор Semrush
Слишком многие в постгенеративную эпоху перестали достаточно думать самостоятельно. Любопытство никуда не ушло — и это обнадёживает, — но вместо критического осмысления проблемы или вопроса теперь есть приложение на этот случай. Проблема в том, что это «приложение» не умеет рассуждать. Источник его информации — набор разных мнений, в основном от неспециалистов, чья достоверность никем не проверяется.
Раньше существовал порог входа в квалифицированные сферы деятельности — и это было хорошо.
Например, стали бы вы сами прокладывать электропроводку у себя дома? А почему нет? На телефоне можно получить пошаговую инструкцию, стоя перед электрощитком (если, конечно, ChatGPT рекомендует начинать именно с щитка). Чат-бот, вероятно, подскажет способы подключить освещение на один контур, а духовку на другой. Возможно даже узнаете, как распределить нагрузку по разным автоматам.
Но что, если ошибиться? Каковы последствия? Возможно, пожар посреди ночи, а может, удар током раньше, чем начнётся пожар. Очевидные и потенциально катастрофические последствия — достаточная причина для большинства из нас, неэлектриков, всё же наймать специалиста. Так почему же та же логика не применяется при разработке софта? Большинство современных приложений собирают данные банковских карт и достаточно персональной информации, чтобы разрушить чью-то жизнь, если утечёт в чужие руки. Достаточно скучающего 16-летнего подростка с интернетом где-нибудь на планете, чтобы проникнуть в плохо защищённую продакшн-базу. Итог будет не таким киношным, как пожар в доме, но жизнь может быть полностью разрушена из-за небрежного проектирования софта. К тому же доступ к этим чат-ботам есть не только у новичков в разработке. Если действительно верить в 10-кратный эффект ИИ на продуктивность — стоит представить, как этот эффект работает для хакеров.
Та же логика применима к вайб-кодингу приложения, взиманию платы за него и сбору чувствительных данных. Только тут риск не в том, сгорит ли дом от любительской электрики. Ставка идёт на чужие деньги (венчурных инвесторов или клиентов), приватность (всех, кто доверил свои данные, пользуясь приложением) и благополучие (каждого сотрудника компании).
III. Волшебник страны Оз
Путь к тому уровню доверия, который общество оказывает GenAI, был выстлан «достаточно хорошей» информацией, которую предоставляли эти чат-боты. LLM за секунды собирают огромный объём сведений о темах, в которых пользователь совершенно не разбирается. Чат-окно и ощущение диалога заменили кропотливый процесс самостоятельного поиска. (Кстати, забавно, что гугление чего-либо теперь воспринимается как неудобство. Микросекунду назад в масштабах человеческой истории приходилось идти в библиотеку и перебирать физические карточки с кодами книг, которые возможно содержали нужную информацию, и выбирать их исключительно по названию. Но это отдельная тема...) Настоящая проблема — слепое доверие, которое общество оказало инструментам вроде ChatGPT.
Отдёрнуть занавес и увидеть, что скрывается за ним, можно только когда хорошо знаком с темой, о которой спрашиваешь чат-бота. Для инженеров-разработчиков это момент, когда ИИ рекомендует разместить веб-приложение, базу данных и фоновые процессы на одном сервере.7 Для тренеров по бегу — когда ChatGPT советует включить спринты на 40 метров в программу для начинающего марафонца. А буквально для кого угодно — это момент, когда советуют добавить в бутерброд отраву от муравьёв. Некоторые ИИ-галлюцинации забавны, но другие могут быть губительны, если они звучат достаточно убедительно, чтобы их не подвергать сомнению.
Технологической индустрии нужно стать (снова?) более ответственной. Нужно нанимать экспертов, работать с ними и учиться у них. GenAI может быть невероятно полезен, помогая вытащить прекрасную идею из головы и дать ей жизнь. Но получившееся ближе к гомункулу из «Стального алхимика», чем к чему-либо по-настоящему живому. Идею нужно выхаживать, чтобы у неё было время развиться во что-то по-настоящему стоящее. Если этого не делать, результат получается уродливым и порой крайне опасным.
ИИ поможет вам быстрее лопатить дерьмо, если вы умеете только лопатить дерьмо.
- AirBnb вышел на IPO через 12 лет и стал прибыльным через 14 лет.
- Stripe стал прибыльным через 14 лет.
- Dropbox понадобилось 11 лет для IPO и 13 лет, чтобы стать прибыльным.
- Есть, конечно, альтернативная версия — что настоящее узкое место — сами руководители. Но это же не может быть правдой...
- Конечно, они зарабатывали деньги! Иначе не оказались бы на главной сцене технологической конференции!
- На самом деле кредиты купил сооснователь Ник, а автор просто их использовал — потому что таков уж пиявочный характер.
- Речь идёт о продакшн-приложении, ожидающем достаточно трафика, чтобы приносить деньги.