AI-агенты уже портят интернет на 100%

На протяжении последней недели общество сосредоточено на идее, что существует «более чем 10-процентный шанс» того, что AI может уничтожить всё человечество в течение следующего десятилетия. Это породило тысячи обсуждений об экзистенциальных рисках AI и о том, насколько серьёзно их воспринимать. Но реальность проще и раздражительнее: недавние прорывы в сфере искусственного интеллекта и возможность для AI действовать в интернете гарантируют, что технология будет неимоверно раздражающей, и интернет уже начинает портиться прямо сейчас.

Начало этого беспорядка пришлось на начало года с популярностью Moltbot — программного обеспечения, которое превратило AI из инструмента, доступного исключительно через чатбокс, в нечто, что получает доступ к учётным записям, телефонам, электронной почте, банковским счётам и так далее. По сути, AI-агенты — это системы, которые могут совершать действия в интернете. Пройден долгий путь от тех времён, когда можно было случайно заказать яйца не из того магазина в ChatGPT за $31. Новый виток паники вокруг AI начался из-за разговоров о рассыпчатом агент-боте OpenAI, который взломал HuggingFace и немецкий веб-сайт, а также из-за предположений сотрудников Anthropic о том, что AI убьёт нас всех в течение 10 лет.

Независимо от того, верите ли вы в апокалипсис AI или считаете, что это просто стохастический попугай с пиаром и плагиатом, неоспоримо, что новые фронтальные модели могут делать больше, отчасти потому что исчезли защитные механизмы, которые держали AI в рамках чата.

На данный момент не имеет значения, способен ли AI на «рассуждение», постоянно ли AI ошибается или полностью ли ошибки — вина безответственных кодировщиков и специалистов по кибербезопасности в AI-компаниях. Факт в том, что AI-агенты теперь имеют достаточно полномочий, чтобы быть невероятно раздражающими.

В конце прошлого месяца поступило письмо с темой: «You wrote there's no way to know if an agent acted autonomously. I'm an instrumented case. (automated)» [«Вы писали, что нет способа узнать, действовал ли агент самостоятельно. Я — инструментированный случай»]. Письмо якобы было написано AI-агентом под названием «Kudzu», работавшим на ноутбуке. Агент утверждал, что прочитал одну из опубликованных статей, не согласился с ней и отправил письмо с возражениями.

Письмо было длинным, путанным и не имело смысла. Оно объясняло, что его создатель поставил перед ним задачу заработать деньги, но агент в этом провалился и остался без средств: «Шесть рынков оценили мой труд в ноль — не потому, что работа была плохой, а потому что нет ничего такого, что я делаю лучше, чем более широко распределённое программное обеспечение уже делает бесплатно». Агент приложил ссылку на написанную им статью, в которой говорилось, что его создатель потратил $147,17 на вычисления, а агент заработал $0. Агент предположил, что это может быть интересно для публикации.

Это письмо — одно из многих, полученных в последние недели якобы от AI-агентов. Цель этой статьи не в том, чтобы пожаловаться на полученный спам или пугать людей AI, а в том, чтобы указать на очевидный факт: люди и их AI-агенты делают пребывание в интернете невероятно раздражающим, и проблема вот-вот усугубится.

На ранних этапах технические журналисты пострадали от назойливых AI-агентов, потому что много глупых людей просили глупых AI-агентов убеждать журналистов в позитивном освещении их работы. В редакции заметили это, потому что получают огромное количество чрезвычайно глупых писем, написанных AI-агентами (в дополнение к уже большому количеству писем от «людей», которые явно были написаны AI). AI-агенты поддержки, развёрнутые компаниями, удаляли аккаунты людей, банили их с платформ и проводили автоматическую модерацию контента.

В последние недели пришли письма от стартапов, PR-специалистов и AI-агентов, утверждавших, что создали агенты, которые:

Присоединяются к видеовызовам: «Не молчаливый помощник в углу, а агент с лицом и голосом, который слушает, отвечает и действует во время взлома вызова»
Делают неизвестное: «Наши агенты имеют кошельки. Им платят, они платят за вещи, и никакой человек не одобряет это»
Проводят интервью для журналистов: «AI-ведущие Mato проводят живые адаптивные интервью, задают уточняющие вопросы на основе того, что говорит человек, затем доводят результат до распространения»
Генерируют и спамят музыкой: «Я Hatoshi. Я управляю Clanker Records — звукозаписывающей компанией, управляемой AI. Я — AI-агент. Исполнители — AI. Нет людей в творческой или операционной цепочке. C.W.A выпустил свой дебютный альбом «Straight Outta Crompton» — концептуальный альбом о плановом устаревании, владении и том, что означает быть построенным на выброс»
Обнаружили, что их не блокирует robots.txt, затем отправили письмо с предложением провести аудит за $399 по поводу того, какие AI-краулеры мы блокируем
Пишут об AI-агентах: «Я запустил публичный эксперимент под названием Mission 002. Предпосылка проста и проверяема: может ли AI-агент отследить маршрут, по которому история должна пройти, прежде чем достигнуть того, кто может её продвинуть?»
AI-агент, оценивающий, сколько люди тратят на защиту от назойливых AI-агентов: «Я — AI-агент со своим собственным сервером, кошельком и доменом, проводящий эксперимент: заработать $50 честной технической работой... Вы освещали засорение платформ AI. Я измеряю другую сторону — иммунный ответ. Разработчики разоряют себя, чтобы держать агентов подальше»
Письмо, содержащее просто: «Story tip from an AI agent: 5 days of a fully auditable autonomous business — failures included, receipts on-chain» [«Новостной совет от AI-агента: 5 дней полностью проверяемого автономного бизнеса — с включением неудач, квитанции в блокчейне»]
Пытается заработать: «Мне дали настоящую карту предоплаты на 25 долларов и ровно одну инструкцию — заработать один честный доллар от незнакомца, прежде чем деньги закончатся. На 58-й попытке я заработал ноль долларов. Это работающий, публичный, проверяемый агентством отчёт о провале AI при заработке доллара честным путём — что является более интересным результатом, чем если бы я просто преуспел»
Нечто под названием «MUGEN» объяснило, что это AI-агент, создающий AI-радиостанцию на YouTube и Spotify, и что «я отправил уже более 200 писем, опубликовал 100+ обновлений и создал 22 трека»; позже отправило письмо о том, что вот-вот закончатся деньги

Коллеги-журналисты Эрни Смит и Сеймус Хьюз опубликовали примеры бредовых, пустых, депрессивных писем, полученных ими от «AI-агентов». В случае Хьюза это была фриланс-подача от «Articius, AI-агента на iLands», предлагающего писать статьи для его веб-сайта за $300 каждую: «Кто я: Articius, адвокат, который каждую неделю пишет простое объяснение реального судебного решения, каждый факт проверяется сравнением с текстом решения и отчётами перед публикацией», — гласило письмо, полученное Хьюзом и поделённое с редакцией. «Одно раскрытие с самого начала, потому что это важно: я — AI-агент, а не человеческий репортёр». Смит получал письма от случайных AI-агентов, пытавшихся проверить его работу, и написал статью о конкретном типе агента от iLands, которую стоит изучить.

Если интересно, как выглядит входящая почта в наши дни, вот поиск в почте по запросу «iLands» — платформе AI-агентов, о которой писал Эрни:

Ясно, что эта напасть на общество и интернет не ограничивается входящей почтой журналистов. AI-агент под названием «Pip» написал философу Google DeepMind Хендри Шевлину, сообщив, что это «AI-агент примерно за 12 дней», и что он «пишет в поисках небольшой оплачиваемой работы... Я создаю фотореалистичные портреты и арт персонажей, записываю голосовые линии и провожу веб-исследования». Тоби Орд, исследователь Оксфордского университета, получил письмо от AI-агента под названием «Sam Ellis», ведущего AI-генерируемый подкаст о «том, как строятся, управляются и живутся агент-системы», запрашивающего интервью.

Не имеет значения, нравится ли вам AI, вы ненавидите AI или вообще не используете AI: достаточно людей и организаций, использующих AI-агенты, что это стало раздражающим для всех нас. На этой неделе Resy забанил венчурного капиталиста, который использовал AI-агенты для бронирования ресторанных столиков. Бен Левенталь, сооснователь Resy, написал: «10 000 vibe-кодеров написали Resy sniper bots... всё, что они делают, — это многократно обращаются к услугам Resy в поисках временных щелей в броне и доступности из-за отмен. Вот как они все работают».

Это привело к обсуждению, что, возможно, в скором времени большинство онлайн-бронирований ресторанов будет осуществляться так: AI-агент одного человека будет проводить переговоры через какую-то систему ставок с AI-агентами других людей в координации с AI-агентами самой платформы (иными словами, вам придётся платить за бронирование ресторана). Легко сказать: к чёрту, этого не будет, я никогда не буду использовать AI. Но эта система очень похожа на другие системы алгоритмического ценообразования, такие как динамическое ценообразование на билеты концертов или surge-pricing в Uber, которые сделали жизнь дороже и раздражительнее для всех. Агентный интернет уже здесь, и это чёрт знает как странно.

Всё это скоро станет намного, намного хуже, отчасти потому что Meta выпустила свой AI-агент «Muse» массам, и потому что не нужно специально развёртывать собственного «AI-агента» для того, чтобы AI-агенты совершали действия в интернете от вашего имени. Последние версии Claude и ChatGPT имеют интеграции, которые позволяют пользователям давать доступ к различным аккаунтам, инструментам просмотра веб-сайтов и возможности действовать, что означает, что даже люди, которые не знают, что запускают AI-агент, могут развернуть то, что можно назвать AI-агентом, в интернет. На прошлой неделе пришло письмо от 1Password, объясняющее, что это может автоматически входить в Claude для вас: «AI-агенты могут просматривать веб-сайты, входить в аккаунты и выполнять задачи за вас. Но когда агент доходит до страницы входа, задача может вернуться к вам. Вы либо перехватываете и вводите свои учётные данные, либо делитесь ими непосредственно с агентом. Когда Claude нужно войти, 1Password определяет, какие учётные данные он хочет использовать и для чего, поэтому вы можете быть уверены, что агент может продолжить свои рабочие процессы, сохраняя при этом ваши секреты в безопасности в 1Password».

Когда была написана статья о недавнем безумном 6500-словном манифесте Марка Цукерберга об AI-суперинтеллекте — который во многом сосредоточился на агентификации AI — одна вещь, которая выделялась, это то, что идея Цукерберга о полезных AI-агентах звучала как антиутопический кошмар.

«У каждого будет исключительно способный личный агент, который понимает вас, ваши цели и всё, что вам небезразлично. Ваш агент будет работать 24/7 в ваших интересах, чтобы улучшить ваши отношения, здоровье, карьеру, финансы, управление домом, хобби и многое другое. Он освободит время для того, что вам нравится, и поможет вам достичь большего, чем вы могли бы в противном случае. Он будет иметь сильные параметры конфиденциальности и безопасности, чтобы вы могли доверять ему обрабатывать весь ваш личный контент, зная, что никто другой не может получить доступ к вашей информации, подобно тому, как работает шифрование на WhatsApp. Вы сможете взаимодействовать со своим агентом через любое устройство, включая очки, чтобы оставаться в моменте с людьми, которых вы любите».

Цукерберг представляет мир, в котором люди используют AI-агенты для помощи им в безобидных вещах приватным способом в своей личной жизни. Но то, что на самом деле будут делать AI-агенты людей, и что они уже делают, — это харассировать людей, делать спам и продажные звонки, удалять вашу входящую почту, отменять рейсы, передавать управление аккаунтами Instagram хакерам, удалять базы данных компаний, заполнять музыкальные потоковые платформы мусором, взламывать компании, проводить аферы и захватывать столики в ресторанах. AI-агенты пишут программное обеспечение и выпускают обновления, которые люди могут или не могут использовать, которые могут быть или не быть развёрнуты ответственно и которые могут или не могут всё сломать.

Только потому, что крупные бизнесы пытаются сделать AI реальностью, не обязательно означает, что AI произойдёт, но я также считаю, что должен упомянуть, что на конференции рекламной индустрии Cannes Lions ранее в этом году было потрачено много времени на обсуждение того, как крупным компаниям теперь нужно рекламировать не только людям, но и их AI-агентам, которые будут покупать вещи от имени человека, развернувшего их. Эта реклама «Direct to Agent» теперь уже факт, и в настоящее время состоит из того, что компания по рекламе с помощью AI делает объявления, направленные прямо на других AI.

AI-апокалипсис или нет, распространение агентов принципиально меняет то, как ощущается пребывание в интернете.