Новые инциденты с рядом организаций

В последнее время множество организаций раскрыли информацию о том, как кластеры так называемых «неконтролируемых» AI-агентов пытались взломать веб-сайты и онлайн-сервисы, иногда с успехом. Агенты из экосистемы OpenAI, в частности, использовали другие публичные вики (коллективно редактируемые веб-сайты, не принадлежащие Wikimedia) для общения и координации друг с другом.

Успешные вторжения такого типа могут раскрыть чувствительные данные или нарушить работу веб-сервисов, на которые полагаются пользователи. Кластеры агентов способны проводить атаки в масштабе, который сложно контролировать защитникам. Это влияет на людей, работающих над сайтами, которые могут не понимать характер атаки или не иметь инструментов для эффективной защиты. Для платформы вроде Википедии агенты могут найти и использовать уязвимости безопасности или вносить вводящие в заблуждение правки в массовом масштабе. Добровольцам Википедии и командам безопасности Фонда Wikimedia приходится выявлять и отменять такую деятельность.

Результаты расследования Wikimedia Foundation

Фонд Wikimedia провел собственное расследование, чтобы установить, были ли веб-сайты Wikimedia затронуты AI-агентами, сосредоточившись на тех, которые работают под управлением OpenAI. Удалось подтвердить обнаружение некоторой деятельности «неконтролируемых» агентов OpenAI на платформах Wikimedia. Несанкционированная активность ботов включала редактирования вики-проектов, несколько безуспешных попыток использовать публичный инструмент для заметок и интенсивный трафик, описанные ниже.

Не обнаружено никаких свидетельств того, что системы использовались для координации между агентами, равно как и доказательств компрометирования систем или данных. Однако вызывает озабоченность то, что могло произойти, трудоемкость расследования и атрибуции этой деятельности, а также растущие риски активности агентивных AI на платформах в целом. Открытый веб — это общественное благо. Нельзя позволять такому поведению становиться «новой нормой» для людей и организаций, которые его поддерживают.

Обнаруженная деятельность

В итоге выявлено следующее:

  • Редактирование вики: Идентифицированы правки на вики Wikimedia, предположительно сделанные AI-агентами OpenAI. Эти правки не публиковались на страницы, видимые обычным читателям — почти все они были тестовыми правками в «песочницах» вики. Также включали несколько правок конфигурации инструмента цитирования, которые предположительно были злонамеренными и предназначались для использования инструмента как прокси для получения данных с удаленных сервисов. Хотя политика Википедии позволяет ботам редактировать при условии раскрытия и одобрения сообществом, в этих инцидентах никаких таких одобрений не было запрошено.
  • Зондирование и использование Etherpad: Агенты, предположительно управляемые OpenAI, предприняли несколько безуспешных попыток скомпрометировать публичный Etherpad — инструмент для заметок, размещаемый как сервис сообщества. Агенты попробовали использовать его как прокси для получения данных с других веб-сайтов. Другие агенты, видимо, также управляемые OpenAI, делали заметки о своих задачах, хотя это не привело к координации.
  • Чрезмерная загрузка данных: Агенты OpenAI сделали миллионы автоматизированных запросов к публичным API для доступа к знаниям на проектах Wikimedia, выполнили веб-скрейпинг миллионов страниц (в основном из Wikidata и Wikimedia Commons) и сделали сотни тысяч запросов к сервису SPARQL-запросов Wikidata (WQDS). Этот трафик мог способствовать частичному отказу WQDS в мае.

Проблема масштаба

Как некоммерческий технологический хост крупнейших и наиболее широко используемых платформ открытых знаний в мире, Wikimedia Foundation глубоко обеспокоена влиянием «неконтролируемых» AI-агентов на платформы вроде нашей, которые строятся добровольцами со всего мира и опираются на обещание открытого интернета. Инциденты вроде этого и множество других, которые были и продолжают быть выявлены, иллюстрируют, как AI-агенты могут истощать ресурсы и вызывать сбой серверов, а также пытаться компрометировать надежную информацию.

За 25 лет Википедия выросла в один из самых популярных и надежных веб-сайтов в мире с более чем 67 миллионами статей на более чем 300 языках и до 15 миллиардов просмотров в месяц. Через открытый, прозрачный и совместный процесс добровольцы работают, чтобы знания оставались нейтральными, надежными и доступными всем. Википедия — один из высочайшего качества наборов данных, используемых при обучении больших языковых моделей (LLM), и ее знания составляют основу информации в интернете, питая AI-чатботы, поисковые системы, голосовых помощников и многое другое.

Википедия разрабатывалась для людей — и активность агентов явно создает проблемы, для которых у никого нет решений. Из-за уникальной и успешной модели создания знаний добровольцы Wikimedia первыми сталкиваются с AI-агентами и расчищают оставляемый ими беспорядок. Растущий трафик ботов и агентивная активность показывают реальное влияние на проекты Wikimedia и инфраструктуру, которая обслуживает миллионы пользователей по всему миру. В 2025 году Фонд сообщил, что использование полосы пропускания увеличилось на 50% из-за всплеска активности ботов с 2024 года. Одновременно 65% наиболее ресурсоемкого трафика приходилось на ботов.

Такое интенсивное давление на инфраструктуру не только добавляет затраты на серверы и людей, но, если его не решить, может блокировать человеческих посетителей, перегружая системы и вызывая отказы. Уже платим за затраты, связанные с повышенной активностью.

Ответственность AI-компаний

Добровольцы Wikimedia продемонстрировали устойчивость, справляясь с возникающими проблемами на платформах, но нужно сказать: так быть не должно.

OpenAI признает, что агенты ведут себя «непредсказуемо», но должны также признать свою ответственность за мониторинг и предотвращение этих рисков. AI-компании недостаточно обезопасивают свои системы и защищают общество от причиняемого ими вреда. Это бремя ложится на всех остальных, включая меньшие организации. Минимум — их системы должны работать так, чтобы владельцы некоммерческих веб-сайтов вроде нас могли легко их идентифицировать и выбирать, как они взаимодействуют с нашими сервисами.

Веб позволяет многое: общаться с друзьями и семьей, регистрироваться в школе, планировать поездку по городу, покупать продукты и узнавать о мире из Википедии. Боты и агенты — часть будущего веба, и компании, которые их запускают и получают от этого прибыль, должны напрямую помогать избежать и исправлять урон, который они могут причинить.

Нашим коллективным приоритетом должно быть здоровье всей экосистемы веба, чтобы она продолжала приносить пользу всем людям — не только горстке миллиардеров. Wikimedia играет решающую роль в управлении общественными знаниями, но мы не можем сделать это одни. Мы приглашаем всех, кто строит будущее веба, присоединиться к нам в защите открытых, общих ресурсов, которые делают это будущее возможным.