Когда вы поняли, что Википедия имеет проблему с материалом, созданным ИИ?
Элия Лебле — один из основателей проекта WikiProject AI Cleanup, волонтёрской инициативы, запущенной в 2023 году для поиска и удаления сгенерированного ИИ контента из Википедии, который нарушает руководящие принципы сайта. Когда проект очистки начинался, тексты, написанные ИИ, часто выдавали себя очевидными клише. Сегодня волонтёры проекта разрабатывают инструменты для обнаружения более тонких форм машинного контента и обсуждают роль ИИ в самой используемой энциклопедии мира.
Это было около декабря 2023 года. Несколько редакторов и я общались на Discord-сервере Википедии, и все мы заметили очень странные статьи с одинаковыми характерными особенностями. Они повторяли фразы вроде «stands as a testament» или «rich cultural heritage». Иногда в них были разделы «Заключение» или «Почему это важно?» Это было очень типично для ChatGPT в 2023 и начале 2024 года, но абсолютно странно для статей Википедии — и очень легко распознавалось. Тогда я решил создать официальный проект на Википедии, чтобы больше людей могли этим заниматься.
Как редакторы сегодня выявляют текст, созданный ИИ?
К 2025 году признаки текста, созданного ИИ, становились тоньше и имели более структурный характер. Например, ИИ любит «правило трёх», отрицательные параллелизмы и другие речевые структуры, которые сами по себе не являются решающими, но становятся значимыми при накоплении. Мы также смотрим за пределами статьи. Если кто-то написал пять статей по несколько тысяч слов каждая за 5 минут, это повод заподозрить использование ИИ.
Проблема ИИ проявляется только в основном тексте или также в цитированиях?
Поддельные или вводящие в заблуждение цитаты стали серьёзной проблемой. Иногда ИИ полностью галлюцинирует цитату, хотя сегодня это встречается гораздо реже благодаря поиску, дополненному внешними данными, который позволяет ИИ находить источники. Чаще всего ИИ находит настоящий источник, но полностью искажает его содержание. Цитаты, созданные ИИ, которые на самом деле не поддерживают написанное, чрезвычайно распространены.
Английская Википедия недавно запретила редакторам использовать LLM для создания статей. Сколько контента, созданного ИИ, всё ещё проходит через фильтры?
Я работал с Pangram, компанией, занимающейся обнаружением ИИ, чтобы оценить долю контента, созданного ИИ. Я протестировал его на контенте Википедии с периода до ChatGPT и не обнаружил ложных срабатываний, поэтому его результаты дают очень консервативную нижнюю границу. В конце 2025 года он отметил примерно 20 процентов новых статей и черновиков как созданные ИИ. В начале 2026 года это снизилось до 15 или 16 процентов. Но мы пока не знаем, это ли результат недавней политики или модели становятся более совершенными, а Pangram не успел адаптироваться.
Использует ли Википедия ИИ для борьбы с ИИ?
Другой редактор Википедии создал верификатор источников на основе ИИ, который проходит по источникам на странице и проверяет, соответствуют ли они утверждениям. Поскольку это сам по себе модель ИИ, нет гарантии, что он будет правильным в каждом случае. Но если вам нужно что-то, что работает в масштабе и отфильтровывает очевидные случаи, это хороший первый шаг. Фонд Wikimedia также работает над инструментом под названием Paste Check, который может отмечать текст, скопированный прямо из некоторых чатботов ИИ.
А Claude иногда говорит: «Я не могу написать статью для Википедии, это противоречит политике Википедии». Если бы все крупные компании, работающие с ИИ, внедрили такой вид отказа при запросе, это не решило бы проблему полностью, потому что всё ещё существуют открытые модели, которые можно модифицировать, чтобы избежать ограничений. Но это помогло бы людям, использующим коммерческие модели и не особенно знакомых с технологией.
Можете ли вы сказать, работает ли правило, запрещающее писать статьи с помощью ИИ?
Ещё рано судить. Мы видим возможные результаты, такие как отказ при запросе и видимое небольшое снижение контента, созданного ИИ. Но опять же, мы не знаем, происходит ли это потому, что модели становятся лучше, или потому, что новички изучают правила. Подавляющее большинство контента, созданного ИИ, загружается новичками, поэтому мы предприняли много усилий, чтобы сделать это правило очень заметным в приветственных сообщениях, справке по редактированию и советах.
Что если ИИ станет способен писать действительно надёжные статьи для Википедии?
Это один из главных вопросов, с которыми мы сталкиваемся. Когда руководство было принято, оно было принято по очень практическим причинам: мы были завалены контентом ИИ, у нас не было хороших инструментов, и нам нужно было это остановить. Но с тех пор оно приобрело более философское измерение. Многие люди называют Википедию «последним хорошим местом в интернете». Быть местом, которое в теории было свободно от шлака ИИ, стало частью идентичности Википедии.
Большая часть коммуникации Википедии теперь сосредоточена на идее того, что мы — энциклопедия, написанная людьми. Даже компании, работающие с ИИ, считают это интересным. Может быть ценно иметь чисто написанный людьми корпус текстов, на котором можно обучать системы ИИ. То, что Википедия остаётся такой и останется такой как минимум в ближайшем будущем, делает её драгоценным ресурсом, который не воспроизводится больше нигде.
Но захотят ли люди, которые читают и редактируют Википедию, чтобы она стала частично создана ИИ, если это сделает её более полной? Мы можем сохранить идентичность Википедии как энциклопедии, написанной людьми, и одновременно предложить вариант, дополняемый ИИ.
Обсуждала ли Википедия идею «Google Zero» — возможное будущее, в котором веб-сайты больше не получают трафик из поиска Google?
Если всё будет проходить через поиск ИИ и веб-сайты упадут до нулевой видимости, как мы узнаём о Википедии и покажем, что её можно редактировать и что люди всё ещё могут вносить свой вклад? Википедия часто цитируется в Google AI Overviews, но пользователи могут видеть только ответ ИИ с цитированием Википедии. Они могут не понимать, что Википедия — это живой проект, в который они могут вносить вклад и редактировать.
Фонд Wikimedia работает над рамками атрибуции, которые могли бы дать пользователям ИИ больше информации о статье, на которую ссылаются: когда она была в последний раз отредактирована, насколько она полна, отметили ли редакторы проблемы и, возможно, даже призыв к действию. В будущем читатели могли бы даже вносить вклад через модели ИИ: «ИИ ссылается на Википедию, но кажется, что здесь ошибка. Могу ли я внести предложение об изменении и добавить другой источник, который я нашел?»
Я вижу очень сильные симбиотические отношения между Википедией и моделями ИИ в будущем. Я не вижу, как Википедия исчезнет, но я вижу, что она примет совершенно другую форму. Вчера ИИ был тем, что нужно было очищать. Сегодня это инструмент, который помогает нам с очисткой. Завтра это будет воздух, которым мы дышим.
Сокращённая версия этой статьи появилась в ноябрьском номере 2026 года как «Элия Лебле».