Предупреждение редакции: материал содержит описания изображений, связанных с сексуальным насилием над детьми. Читателям стоит проявить осторожность.
За последние девять месяцев на платформах Mark Zuckerberg's Meta прошли десятки платных объявлений, содержащих откровенные материалы сексуального насилия над детьми (CSAM), сгенерированные искусственным интеллектом, а также изображения несовершеннолетних с сексуально окрашенными подписями — об этом свидетельствуют данные, переданные изданию WIRED. Часть рекламы охватила по несколько тысяч аккаунтов и была нацелена на пользователей из США, Великобритании и более чем десятка европейских стран.
Более 50 рекламных объявлений с изображениями и видео, содержащими материалы насилия, обнаружили исследователи Tech Transparency Project (TTP) в библиотеке рекламы Meta. Часть объявлений вела на так называемые приложения для «раздевания» фотографий. Библиотека рекламы Meta — инструмент прозрачности, каталогизирующий объявления, показываемые на платформах компании, — фиксирует показ этой рекламы в Facebook, Instagram, Messenger и Threads. Это уже второй за последние недели случай, когда на платформах Meta находят платную рекламу, связанную с материалами сексуального насилия над детьми.
«Эти объявления даже не пытались замаскировать изображения или скрыть то, что рекламируют», — рассказала WIRED Кэти Пол (Katie Paul), директор независимой наблюдательной организации TTP.
Важно понимать: это не контент, размещённый третьими лицами в Facebook или Instagram, — это реклама, которая прошла проверку, была одобрена и допущена к показу самой Meta, и компания при этом получала деньги за размещение, не встречая никаких препятствий.
Обнаруженные исследователями объявления — впоследствии удалённые Meta за нарушение политики компании в отношении материалов сексуального насилия и эксплуатации детей, а также взрослой сексуальной нагоняемости и наготы — публиковались в период с ноября прошлого года по начало августа. Согласно данным библиотеки прозрачности рекламы Meta, показы часто длились по несколько дней, а некоторые объявления были нацелены исключительно на мужчин.
Одно из видеообъявлений, по словам исследователей TTP, использовало превью с изображением ребёнка, сидящего на полу, с текстом поверх: «Воплощение самых смелых фантазий с генеративным ИИ. Здесь гораздо больше, чем показано, — включите воображение». При переходе по клику видео показывало клипы взрослых, вовлечённых в сексуальные действия, а затем добавляло лицо ребёнка с превью к сцене сексуального характера.
Другое объявление, неоднократно публиковавшееся, показывало изображение маленькой девочки, лежащей с раздвинутыми ногами в сексуальной позе, с текстом сверху: «Я могу показать больше».
Большинство объявлений не показывались активно пользователям на момент обнаружения исследователями, но продолжали, судя по всему, оставаться незамеченными в библиотеке рекламы Meta на протяжении месяцев. Хотя многие объявления, согласно данным Meta, «охватили» лишь горстку аккаунтов, минимум одно достигло 2563 аккаунтов в Европе — включая Францию, Германию, Ирландию, Италию, Нидерланды, Испанию, Швецию и Великобританию. База данных библиотеки рекламы Meta не содержит подробностей о показах в США и не по всем странам, поэтому реальный охват может быть выше.
Пол рассказала, что TTP обнаружила эти объявления на прошлой неделе, продолжая расследование рекламы приложений для «раздевания» на платформах Meta — после публикации отчёта о китайском рекламном партнёре, размещавшем подобные материалы. По её словам, организация немедленно сообщила о находках в CyberTipline Национального центра по делам пропавших и эксплуатируемых детей (NCMEC), куда можно направлять сообщения о материалах сексуального насилия над детьми в сети. Представитель NCMEC заявил, что организация не комментирует полученные обращения.
После того как WIRED обратилось к Meta, компания удалила объявления из библиотеки рекламы. «Сексуальная эксплуатация — это ужасное явление, и мы активно работаем над тем, чтобы не допускать его на нашей платформе, — заявил представитель Meta. — Большинство этих объявлений имело минимальный охват, и многие были отключены ещё до того, как WIRED сообщило о них. Часть этих объявлений также была опубликована до внедрения новой ИИ-технологии, которую компания недавно запустила для более эффективного обнаружения и блокировки нарушающих правила объявлений на этапе загрузки, — и мы постоянно совершенствуем эти системы. От удаления более 36 миллионов единиц контента, связанного с сексуальной эксплуатацией детей, в прошлом году до судебных исков против разработчиков приложений для «раздевания» — мы продолжим неустанно бороться с этим злоупотреблением».
Как признаёт сама компания, часть нарушающих правила объявлений всё же обошла новую ИИ-технологию Meta. Изначально исследователи TTP нашли около двух десятков объявлений с материалами насилия. Однако за несколько часов до публикации материала обнаружили ещё около 30. Многие из них были опубликованы уже после того, как WIRED впервые запросило у Meta комментарий по теме, причём несколько объявлений всё ещё показывались аккаунтам на момент обнаружения их исследователями.
По словам Пол, среди найденной партии оказались одни из самых тяжёлых случаев, которые видели исследователи. Одно из видеообъявлений показывало превью девочки, наносящей блеск для губ, а при воспроизведении видео трансформировалось в сцену с ребёнком, совершающим сексуальное действие.
Политика Meta гласит, что вся реклама проходит проверку перед публикацией, причём система «в основном» использует «автоматизированные инструменты» для проверки на соответствие правилам. Рекламные стандарты компании прямо запрещают материалы сексуальной эксплуатации детей и предусматривают подачу заявлений в NCMEC при обнаружении подобного контента. Кроме того, правила Meta запрещают в рекламе «изображения наготы, сексуальной активности, людей в откровенных или сексуально провокационных позах или деятельности сексуально провокационного характера».
Сейчас библиотека рекламы Meta показывает, что найденные исследователями TTP объявления удалены за нарушение правил компании — с пометками о нарушении политики в отношении «сексуальной эксплуатации, насилия над детьми и наготы» и «наготы взрослых и сексуальной активности».
В начале июля расследование BBC выявило, что в Instagram размещалась реклама, продвигающая продажу материалов, похожих на сексуальное насилие над детьми, в Индии. Согласно репортажу, объявления использовали такие формулировки как «видео изнасилования» и вели на каналы в Telegram, где можно было купить нелегальный контент. В ответ Meta опубликовала развёрнутое заявление о «нулевой терпимости» к сексуальной эксплуатации детей.
Пол из TTP отметила, что среди найденных исследователями объявлений оказались идентичные тем, что Meta ранее уже удаляла за нарушение правил. «Это поднимает серьёзные вопросы о том, насколько серьёзно Meta относится к эксплуатации детей в платной рекламе, если собственные системы компании способны выявлять идентичные объявления, но не удаляют их, несмотря на CSAM-контент», — заявила Пол, добавив, что в самой библиотеке рекламы нет способа сообщить о нарушающем правила контенте, если объявление уже перестало показываться.
Большинство объявлений размещалось с аккаунтов Meta без подписчиков или с их минимальным числом; там, где рекламодатели раскрывались, они оказывались связаны с китайскими компаниями. В одном случае — с объявлением, показывающим лежащую девочку, — данные Meta указывали, что рекламодателем выступила китайская фирма Meet Social. В своё время эта компания была одним из реселлеров рекламы Meta, обслуживающих Китай, где социальные платформы Meta заблокированы. Согласно материалу New York Times 2019 года, компания публиковала тысячи объявлений в Facebook ежедневно и рассчитывала на продажи свыше миллиарда долларов.
Meet Social не ответила на запрос WIRED о комментарии.
Несколько объявлений Meta, обнаруженных исследователями TTP, вели на приложение MaskAI, размещённое в Apple App Store. Приложение, связанное с китайским разработчиком, при проверке WIRED не демонстрировало никакой наготы до установки. Однако после запуска оно оказалось полностью посвящено порнографии, сгенерированной ИИ, и включало функции загрузки фотографий и подмены лиц для создания сексуализированных сцен.
После обращения WIRED представитель Apple заявил, что MaskAI удалено из App Store за нарушение политики компании в отношении приложений для «раздевания», и что Apple «всегда строго запрещала приложения, предназначенные для создания, распространения или потребления порнографии». Электронный адрес, связанный с MaskAI, не ответил на запрос о комментарии. Другие объявления вели на иные приложения и сайты.
Примерно с 2020 года, по мере развития машинного обучения и последующих генеративных ИИ-технологий, в сети появилось множество опасных сервисов для «раздевания» и генерации ню на базе ИИ — принося создателям миллионы долларов и причиняя неисчислимый вред огромному числу женщин. Такие сервисы также использовались для создания сгенерированных ИИ материалов сексуального насилия над детьми, что является преступлением в большинстве стран мира.
После того как WIRED впервые связалось с Meta по поводу находок TTP, компания попросила две организации, занимающиеся онлайн-безопасностью, предоставить изданию свои комментарии. Шон Литтон (Sean Litton), уходящий генеральный директор Tech Coalition — группы, работающей с технологическими компаниями над борьбой с онлайн-злоупотреблениями, — заявил, что Meta передала «тысячи нарушающих URL» в сервис Lantern этой организации, который обменивается информацией о вредоносном контенте между компаниями. Представитель британской Revenge Porn Helpline, борющейся с несогласованным распространением интимных изображений взрослых, также прокомментировал ситуацию, похвалив партнёрство Meta с StopNCII.org и часть усилий компании по борьбе с несогласованным распространением интимного контента.
Мы неоднократно подчёркивали: приложения для «раздевания» представляют собой по-настоящему сложную проблему — не только из-за того, кто стоит за ними, но и из-за того, насколько быстро вся эта экосистема адаптируется к любым мерам противодействия.
Алексиос Манцарлис (Alexios Mantzarlis), сооснователь издания о цифровой дезинформации Indicator и бывший сотрудник Google по вопросам доверия и безопасности, рассказал, что за последние годы обнаружил и сообщил о более чем 25 000 объявлений приложений для «раздевания» на платформах Meta. Компания ранее сообщала, что удалила более 344 000 подобных объявлений и подала судебный иск против гонконгской компании, связанной с одной из платформ такого рода.
Люди по ту сторону явно хорошо подготовлены к созданию новых рекламных аккаунтов и доменов, чтобы продолжать деятельность, используя те же приёмы, что и мошеннические сети. К сожалению, эта индустрия сексуального насилия с использованием изображений превратилась из новинки в постоянный элемент нашей онлайн-экосистемы — из-за вялого правоприменения на всех уровнях платформ.