Meta урегулировала иски 52 генеральных прокуроров штатов и территорий США, которые в той или иной форме судились с компанией из-за безопасности детей на её платформах. Заголовки СМИ сходятся на основном: многолетнее судебное разбирательство завершено, Meta платит от $12,7 до $18 млрд в зависимости от того, какой документ читать (сам консент-джаджмент ограничивает сумму цифрой $16 680 647 753,21, а пресс-релиз компании округляет её до «примерно $18 млрд»). Также Meta внедрит ряд изменений на своих платформах с целью повышения безопасности детей. Компания обязалась «поощрять» YouTube и TikTok включать те же функции безопасности — хотя, как ни странно, если YouTube и TikTok последуют этому примеру, Meta придётся заплатить ещё больше.

Подробности предложенного соглашения можно найти в документе суда.

Примечательно, что весь смысл оформления этого как «соглашения» состоит в том, что все участники прекрасно понимают: ни одно правительство не могло бы обязать внедрить эти изменения, не нарушив Первую поправку. Но теперь, когда это оформлено как «соглашение», судам, возможно, придётся разбираться, не превратились ли эти решения — которые Meta могла бы принять совершенно свободно — внезапно в «действие государства», затрагивающее Первую поправку.

Как и в случае с прочими решениями против Meta за последние месяцы, люди приветствуют это соглашение, не осознавая вреда, который оно нанесёт. Ниже разбираются причины такой оценки, но стоит отметить, что не только редакция Techdirt считает это проблемой — EFF и Fight for the Future тоже предупреждают, насколько плохо это соглашение. Вот заявление EFF:

Согласно этому соглашению, у молодых пользователей теперь будет меньше доступа к продуктам Meta и меньше возможностей реализовывать своё право на высказывания, доступ к информации, искусству и культуре, объединение в сообщества и игру. Соглашение также встраивает проверку возраста в каждый продукт, обязывая собирать ещё больше личных данных пользователей всех возрастов; это закрепляет вредную слежку Meta в законе и подорвёт приватность и анонимность пользователей, увеличивая их уязвимость к утечкам данных и запросам со стороны государства. Меры по минимизации данных и обеспечению безопасности при этом никак не мешают штатам использовать собранные по этому соглашению данные для других целей правоохранительных органов — включая, например, уголовные расследования по абортам или гендерно-аффирмативной терапии.

А вот заявление Fight for the Future, присланное по электронной почте:

Большие технологические компании действительно наносят вред детям своей бизнес-практикой и эксплуатацией, но продавливание ещё большей цензуры, возрастных ограничений и слежки за молодыми людьми руками тех же самых Big Tech компаний, которые уже причинили вред молодёжи, — это не решение. Проверки личности в интернете при их внедрении помещают жизненно важную информацию за возрастные барьеры, подавляют право подростков на высказывание и подвергают всех нас ещё большему риску сбора, взлома и утечки данных. Meta знает, что управлять таким объёмом личной информации и обеспечивать соблюдение этих возрастных барьеров будет крайне сложно, поэтому компания стремится переложить это бремя на кого угодно, только не на себя, при этом создавая видимость соблюдения требований в глазах общественности и законодателей. Вместо того чтобы реально повредить своей эксплуатирующей бизнес-модели, этот результат позволяет Meta утянуть за собой всех остальных — от магазинов приложений до других социальных сетей. Мы опасались, что эти иски создадут искусственное согласие на инвазивную проверку возраста и контроль контента, и наши опасения подтвердились. Мы продолжим противостоять проверкам личности в интернете повсюду и следить за тем, как в платформы Meta проникает всё больше цензуры.

Прежде чем разбирать конкретные причины, почему это соглашение так плохо, стоит немного контекста. Уже несколько десятилетий, когда генеральные прокуроры штатов собираются вместе, чтобы угрожать технологическим компаниям и/или судиться с ними, речь почти всегда идёт о громких, но по сути пустых претензиях, по которым у прокуроров либо нет юрисдикции, либо нет реальной законной возможности что-либо сделать. Шестнадцать лет назад Techdirt публиковал историю руководителя компании, столкнувшегося с десятками генеральных прокуроров штатов, которых гораздо больше волновали заголовки, которые они получат, чем реальная безопасность платформ.

Похожие истории случались не раз: что бы компании ни объясняли прокурорам о мерах по обеспечению безопасности платформы, прокуроры просто вырывали сказанное из контекста, представляя платформы во всё худшем свете, пока те не соглашались на какое-нибудь урегулирование. Это произошло с Craigslist. Это случилось с провайдерами, которых заставили отключать пользователей по требованию звукозаписывающей индустрии. Даже Джон Оливер посвятил выпуск тому, как позёрствующие генпрокуроры штатов выбирают в качестве мишени практически кого угодно, кого им хочется потрясти в той или иной форме.

Это не значит, что среди дел, возбуждаемых генеральными прокурорами, не бывает справедливых. Но слишком много примеров, когда речь идёт скорее о заголовках, чем о реальной безопасности людей. И простой факт в том, что подобные разбирательства настолько ресурсоёмки, дороги и изматывающи, что неудивительно, что большинство компаний в итоге «урегулируют» дело, соглашаясь делать вещи, которые государство в принципе не может заставить компанию делать по закону. Но поскольку это «урегулирование», люди воспринимают это так, будто это не государство заставляет.

В данном случае, учитывая недавние судебные решения, неудивительно, что Meta пошла на некое соглашение. По мере продолжения дел заголовки становились бы только хуже для компании. И Meta действительно заслуживает части плохих заголовков, но, как уже отмечалось ранее, многие из них в этих делах возникли из-за того, что юристы и СМИ вырывали факты из контекста. Классический случай с Meta — исследования компании о том, как сделать свои платформы безопаснее, использовались против неё же как доказательство того, что «они знали!» об опасности своих платформ!

Урок для остальной технологической индустрии мрачен и однозначен: никогда не изучайте, наносит ли ваша собственная платформа вред. Сам факт существования такого исследования будет превращён в вещественное доказательство №1 того, что «они знали» — как в суде общественного мнения, так и в реальных судах.

Ещё одна важная деталь контекста: Meta уже давно отчаянно ищет путь к регуляторному захвату (regulatory capture). Компания практически умоляла Конгресс принять законодательство о безопасности детей, соблюдать которое смогли бы только крупнейшие игроки вроде неё самой. Собственно, Meta уже проделывала это раньше. Компания пошла против остальной интернет-индустрии, поддержав закон FOSTA, снова пытаясь создать регуляторный ров вокруг себя. Так что нынешняя ситуация не должна удивлять.

Неудачные попытки Meta в «метавселенной» и ИИ показали, что компания стабильно проигрывает гонку инноваций, и предоставление государством регуляторного рва, который не смогут преодолеть более мелкие конкуренты, стало бы для неё настоящим подарком.

И ещё лучше, когда это можно провернуть так, что со стороны выглядит как «проигрыш» Meta в суде.

Именно это Meta и получила. Компания «урегулировала» иск, чтобы генеральные прокуроры и критики Meta могли заявить, что «защитили детей». Meta будет выплачивать средства больше десяти лет — при этом уже в третьем квартале она фиксирует юридические издержки на $10 млрд, что болезненно, но к следующему году в основном забудется. Meta легко может себе это позволить. А затем компания обязуется внедрить набор функций безопасности для детей, большинство из которых неизвестно, действительно ли защищают хоть кого-то. Примечательно, что законодательный орган не смог бы обязать внедрить большинство этих функций, не столкнувшись напрямую с Первой поправкой — но, выйдя из соглашения, они всё равно приобретают вид закона (об этом чуть позже), а структура сделки устроена так, что Meta обязана активно подталкивать Google и TikTok к тем же шагам, тем самым закрепляя, какие именно меры любой платформе придётся принять, чтобы считаться следующей «лучшим практикам» и, соответственно, приемлемой для большинства генеральных прокуроров страны.

Конкретные функции не так уж важны, но для протокола вот список:

  • Лимит времени: По умолчанию — двухчасовой суточный лимит, который подростки могут отключить только с разрешения родителя. Лимит суммируется по Facebook и Instagram, и время скроллинга в обоих приложениях учитывается в общем итоге, включая случаи, когда обнаружено несколько аккаунтов у одного пользователя.
  • Ночной режим: По умолчанию доступ к приложениям блокируется с полуночи до 6 утра. Это означает, что подростки не смогут публиковать посты или просматривать ленту, истории, раздел «Интересное» или Reels в это время.
  • Школьный режим: Уведомления по умолчанию отключаются с 8:00 до 15:00. В это время подростки не будут получать push-уведомления, за исключением личных сообщений и оповещений о безопасности аккаунта.
  • Регулярные напоминания: Подросткам будут показываться напоминания после каждых 15 минут непрерывного использования Facebook или Instagram, а также по достижении 60 и 90 минут общего суточного использования. Эти напоминания призваны стимулировать осознанное использование.
  • Контроль алгоритмической ленты: Подростки смогут выбрать неалгоритмическую ленту — без персонализации рекомендательными системами — в качестве варианта по умолчанию. Периодически им будут напоминать об этой опции, а родители смогут настроить эту опцию как обязательную для подростка.
  • Контроль автовоспроизведения: Подростки смогут отключить автовоспроизведение контента. Вместо этого им нужно будет совершать осознанное действие — тап или свайп — чтобы увидеть больше. Родители могут сделать эту настройку обязательной для подростка.
  • Скрытые лайки: По умолчанию подростки не будут видеть количество лайков и реакций на постах — как своих, так и чужих.
  • Отключение фильтров пластической хирургии и экстремального макияжа: В дополнение к уже действующей политике блокировки фильтров пластической хирургии для подростков теперь будут заблокированы и фильтры экстремального макияжа.
  • Проверка возраста: Мы прилагаем усилия для выявления и удаления несовершеннолетних аккаунтов из наших приложений и, в рамках соглашения, инвестируем в ещё более совершенную технологию для проактивного выявления аккаунтов, которые могут принадлежать пользователям младше 13 лет. Мы также усиливаем технологию для определения аккаунтов, которые могут принадлежать пользователям 13–17 лет, чтобы гарантировать их размещение в опыте, предназначенном для подростков, даже если указан взрослый возраст. Однако для последовательной защиты подростков во всех используемых ими приложениях магазины приложений должны предоставлять разработчикам верифицированную информацию о возрасте. Это позволит платформам внедрять защиту, соответствующую возрасту, для максимально возможного числа подростков. Поэтому мы продолжим выступать за законодательство, которое даёт родителям возможность требовать от магазинов приложений проверки возраста и получения родительского согласия перед скачиванием приложения подростком.
  • Возрастные ограничения контента: Мы сохраним текущие стандарты контента, так что по умолчанию подростки помещаются в настройки контента 13+, вдохновлённые критериями рейтингов кино и отзывами родителей. Мы также продолжим не позволять подросткам подписываться на аккаунты, которые считаем неподходящими по возрасту, или взаимодействовать с ними. Мы будем работать над постоянным улучшением этих систем.
  • Нежелательные контакты от незнакомцев: Мы сохраним текущую практику установки приватных аккаунтов по умолчанию для подростков в Instagram и приватных настроек по умолчанию в Facebook, а также продолжим ограничивать возможность потенциально подозрительных взрослых связываться с ними. Мы также усилим меры, затрудняющие взрослым поиск, подписку или взаимодействие с подростками.
  • Жалобы и постоянная защита от вредоносного контента: Мы продолжим предоставлять подросткам простые способы пожаловаться на беспокоящий их контент и будем работать над сокращением времени реакции. Мы также продолжим работу по защите подростков от потенциально вредного опыта, регулярно оценивая частоту их столкновения с таким контентом. Мы будем опираться на исследования и мнения экспертов для улучшения этой работы.
  • Усиление родительского контроля: Мы будем поощрять родителей настраивать наши инструменты надзора и предоставим им новые элементы контроля и аналитику. Это включает уведомление родителей при привязке подростком дополнительного аккаунта, оповещения о взаимодействии с потенциально подозрительными аккаунтами и периодические отчёты об использовании подростком платформы и любых попытках изменить защитные настройки.

Некоторые из этих функций могут оказаться полезными. Некоторые — нет. Некоторые могут быть хороши для одних детей, но очень вредны для других.

Часть проблемы в том, что это в действительности неизвестно.

В соглашении присутствует своего рода структура подотчётности. Meta и штаты назначат «независимого» аудитора на пять лет, а система проверки возраста будет ежегодно тестироваться на соответствие определённым порогам. Но важно понимать, что именно проверяется. Аудит касается того, внедряет ли Meta то, что обещала, а не того, работают ли эти меры на самом деле.

Но теперь эти меры фактически обязательны по закону — хотя, если бы Конгресс или власти штатов приняли закон, требующий того же самого, он почти наверняка был бы отменён как неконституционный по Первой поправке.

Самая странная часть соглашения — обязанность Meta пытаться убедить Google (YouTube) и TikTok внедрить некоторые (но не все?) из тех же функций. Компания уже опубликовала открытое письмо, предусмотренное соглашением, адресованное этим двум компаниям с просьбой внедрить те же функции.

Особенно странно то, что если YouTube и TikTok согласятся сделать это и добровольно выплатят штатам миллиарды долларов, то Meta придётся заплатить ещё больше. Структура выплат Meta частично зависит от того, удастся ли компании выкрутить руки этим двум конкурентам:

Соглашение включает выплату примерно $18 млрд, которая может быть направлена на финансирование инициатив по безопасности детей в интернете, среди прочих приоритетов штатов. Выплата будет производиться ежегодными траншами в течение 10 лет. Участвующие штаты получат примерно 70% (около $12,7 млрд) от общей суммы за это десятилетие. Оставшиеся 30% (около $5,3 млрд) будут выплачены только при выполнении двух условий.

  1. YouTube и TikTok внедряют часовой суточный лимит, ночной режим и меры проверки возраста.
  2. YouTube и TikTok каждый выплачивают сумму, равную этим 30%, причём половина оставшихся средств привязана к выплате YouTube, а половина — к выплате TikTok.

Можно возразить, что на самом деле Meta может быть невыгодно, чтобы YouTube и TikTok шли на такие меры — тогда не придётся платить лишние $5,3 млрд. Но с точки зрения конкуренции Meta, судя по всему, отчаянно нуждается в том, чтобы YouTube и TikTok внедрили эти функции — иначе и без того сокращающаяся доля рынка компании будет сокращаться быстрее.

Вполне вероятно, что YouTube и TikTok пойдут на это, лишь бы не увязнуть в столь же дорогостоящей судебной тяжбе. Но это, опять же, создаст множество проблем. Во-первых, по-прежнему неизвестно, действительно ли эти изменения функций полезны или эффективны. Но теперь они фактически предписаны государством.

В теории это могло бы открыть простор для других платформ, которые захватят молодёжную аудиторию, не внедряя те же функции. Но природа этого соглашения такова, что если генеральные прокуроры штатов вдруг сочтут какую-либо платформу слишком популярной среди детей, они смогут указать на это соглашение и назвать его «отраслевым стандартом» или «лучшей практикой отрасли», намекая, что другие компании, не следующие ему, сознательно оставляют детей незащищёнными.

Более того, в самом соглашении есть странность: Meta обязана добиваться «повсеместного внедрения в отрасли», которое сейчас определяется как YouTube и TikTok, но соглашение прямо оговаривает, что сюда может быть включена и любая новая социальная платформа, если она достигнет определённых порогов. Иными словами, Meta по сути вынуждают гарантировать, что это соглашение создаёт отраслевой стандарт.

И это настоящая проблема, ведь всё ещё неизвестно, как на самом деле обеспечить безопасность детей в интернете. Так что если какой-то веб-сервис предложит уникальную, инновационную или просто иную идею, работающую иначе, чем то, на что согласилась Meta, попробовать её может оказаться слишком рискованно. Проще следовать тому, что уже «благословили» генпрокуроры в этом соглашении.

Как уже отмечалось, некоторые из этих мер напрямую вредны. Проверка возраста — это кошмар для приватности. Закрепление её как отраслевого стандарта означает конец осмысленной анонимности в интернете и «вынуждает» Meta собирать больше данных обо всех нас — включая взрослых, — одновременно предоставляя штатам канал доступа к этим данным для любых иных целей, которые они сочтут полезными.

Это плохо.

Кроме того, в соглашении есть на удивление конкретные требования:

Социальные платформы Meta отключат для подростков возможность применения фильтров косметических процедур к своему контенту.

Соглашение уточняет, что под этим понимается:

… любой цифровой фильтр или эффект дополненной реальности (AR), который искажает, скульптирует, переопределяет или идеализирует лицо пользователя способом, недостижимым без пластической хирургии или экстремального макияжа.

И, конечно, можно понять, почему подобный контент может быть нездоровым для подростков. Но это, по существу, речь, защищённая Конституцией. Meta вправе самостоятельно решить блокировать такой контент на своей платформе (это её собственное редакционное право). Но теперь, когда это делается под давлением государства, это почти наверняка нарушает Первую поправку.

Также довольно странно, что часть правил, судя по всему, применяется только к контенту на английском или испанском языках:

В отношении потенциально вредного контента, о котором сообщается на английском или испанском языке, социальные платформы Meta обязаны поддерживать процессы, позволяющие подросткам получать ответ с решением Meta по жалобе в течение 6 часов как минимум в 90% случаев.

Подтекст очевиден: это языки, на которых поступает большинство жалоб, и Meta должна нанять достаточно людей, чтобы быстро их обрабатывать. Но это также означает, что государство только что согласовало уровень модерации, который варьируется в зависимости от того, на каком языке вы говорите — англо- и испаноязычные пользователи получают гарантию в шесть часов, а тем, кто говорит на тагальском или мандаринском, достаётся то, что Meta сочтёт нужным. Странная вещь для государства вообще диктовать подобное.

Это также прекрасный пример стандарта, которому способен соответствовать только гигант. Шестичасовой срок обработки для 90% жалоб достижим, если у вас тысячи сотрудников trust & safety и десятилетие наработанных инструментов. Для стартапа с четырьмя сотрудниками и сервером в Discord это фантастика — а теперь это тот эталон, по которому каждый генпрокурор будет их оценивать.

Что произойдёт дальше? Судье предстоит рассмотреть соглашение, но возникает вопрос, могут ли какие-то несовершеннолетние пользователи получить право оспорить его. Meta явно ограничивает защищённую Первой поправкой речь в рамках этого соглашения. Компания вправе делать это самостоятельно по собственному желанию, но здесь ситуация иная. Здесь она делает это потому, что её к этому принуждают различные генеральные прокуроры штатов, что превращает это в действие государства.

Согласно недавнему (единогласному) решению Верховного суда по делу Vullo, это выглядит вполне однозначно неконституционным. В том деле судьи предельно чётко заявили:

[Г]осударственный чиновник не может делать косвенно то, что ему запрещено делать напрямую: государственный чиновник не может принуждать частную сторону наказывать или подавлять неугодную ему речь от его имени.

Это, кажется, должно было бы решить весь вопрос — потому что именно это здесь и происходит.

Ещё один момент. Вот список из 52 генеральных прокуроров, согласившихся на это соглашение:

Алабама, Аляска, Американское Самоа, Аризона, Арканзас, Калифорния, Колорадо, Коннектикут, Делавэр, Округ Колумбия, Джорджия, Гавайи, Айдахо, Иллинойс, Индиана, Айова, Канзас, Кентукки, Луизиана, Мэн, Мэриленд, Массачусетс, Мичиган, Миннесота, Миссисипи, Миссури, Монтана, Северные Марианские острова, Небраска, Невада, Нью-Гэмпшир, Нью-Джерси, Нью-Йорк, Северная Каролина, Северная Дакота, Огайо, Оклахома, Орегон, Пенсильвания, Пуэрто-Рико, Род-Айленд, Южная Каролина, Южная Дакота, Теннесси, Техас, Юта, Вермонт, Вирджиния, Вашингтон, Западная Вирджиния, Висконсин и Вайоминг.

Заметили, кого не хватает? Верно. В списке нет Нью-Мексико. Напомним, Нью-Мексико недавно выиграл своё первоначальное дело против Meta, что позволило судье навязать компании отдельный набор изменений функционала. Так что теперь у Meta, возможно, будет один набор функций для Нью-Мексико и другой — для всех остальных штатов?

Всё это не означает, что Meta не должна лучше работать над защитой детей на своей платформе. Разумеется, компания может делать больше. Но это соглашение выглядит скорее как способ Meta использовать данное дело, чтобы навязать всей отрасли набор обязательных мер (которые, возможно, не сильно помогут и в некоторых случаях причинят реальный вред), затруднить выход на рынок более мелких конкурентов и получить своего рода регуляторный захват через массовое урегулирование иска.

Как написала профессор права Джесс Майерс, это соглашение — по сути продажа Meta всей индустрии социальных сетей, вынуждающая её принять непрактичные и бесполезные функции, которые служат лишь закреплению положения гигантов и закрытию дверей для новичков:

Meta сегодня продала всю индустрию социальных сетей, подписав все UGC-сервисы под стандарты, которые не являются ни практичными, ни тем, что государство вообще имеет право предписывать. Именно поэтому у меня нет уверенности, что они будут отстаивать раздел 230 в Верховном суде и в деле из Невады.

— Джесс Майерс 🦝 (@jmiers230.bsky.social)

Но всем, кто «празднует» это как победу «над» Meta, стоит понимать: их обвели вокруг пальца. Meta только что заключила сделку, которая делает её главной по определению того, как отныне будут работать социальные сети. Как написал в Bluesky Джастин Маурер, это подход Meta по принципу «отрегулируй меня, папочка» по отношению к государству — и компания получила именно то, чего на самом деле добивалась.

По-прежнему нет никаких реальных доказательств, что это кому-либо поможет, не говоря уже обо всех детях. Генеральным прокурорам штатов не пришлось доказывать, как это поможет детям. Meta не пришлось это доказывать. Судью об этом не попросят. Всё принимается на веру. Meta предложила это, генпрокуроры одобрили — и всё это превращается в масштабный эксперимент над детьми.

Можно возразить, что эти изменения функций звучат так, будто должны помочь детям. Ограничение доступа двумя часами в день (если родители не разрешат больше, а многие разрешат), отключение света в полночь, исчезающие счётчики лайков — всё это звучит так, будто поможет некоторым детям. Но если окажется, что блокировка этих систем на самом деле толкает наиболее уязвимых детей в более тёмные места, где вообще нет команды trust & safety, об этом вы не услышите ни от Meta, ни от генпрокуроров.

Индустрия только что потратила три года, усваивая урок: если исследуешь безопасность детей на своей платформе, это будет использовано против тебя же. Есть ли реальные основания верить, что всё это позволит кому-то на самом деле выяснить, что помогает настоящим детям?

Meta купила себе защитный ров. Генеральные прокуроры получили заголовки, которые пригодятся на следующих выборах. А каждый подросток в стране был автоматически записан в неапробированный эксперимент. Предусмотрено требование о независимом аудиторе на пять лет — чтобы подтвердить, что Meta соблюдает правила. Но не для того, чтобы проверить, работают ли эти правила.