Серия фиаско после запуска
ИИ-агент Muse от Meta пережил тяжелые недели с момента своего запуска. Продукт, оснащённый анимированным аватаром по имени Jolly (очевидно, чтобы массовое гиперналюдение выглядело мило), должен помогать автоматизировать рутинные задачи — резервирование столиков в ресторанах, оплату счётов или заказ продуктов.
Несмотря на то что Meta неоднократно утверждала о том, что Muse разработан с особым упором на приватность и безопасность, агент запустился с серьёзной уязвимостью нулевого дня, позволяющей шпионить за пользователями Mac. Когда один технический видеоблогер доверил Muse управление продажами на Facebook Marketplace, агент продал его вещи значительно дешевле приемлемого и разослал домашний адрес (пользователь, похоже, не до конца понимал установленные им разрешения).
Другой исследователь обнаружил, что Muse можно обмануть и получить root-доступ к устройству просто выдав себя за агента Muse. Ещё одна проблема: Muse не только получает доступ к приватным сообщениям без разрешения, но часто игнорирует все установленные ограничения и загружает сообщения в облако — даже если пользователь явно это запретил.
Проблема была достаточно серьёзной, чтобы Apple пришлось изменить параметры приватности macOS и запретить разработчикам третьих сторон злоупотреблять ими для доступа к историям сообщений:
«Объявление в пятницу последовало через две недели после того, как технический обозреватель Jason Aten рассказал, что новый универсальный ИИ-агент Meta отправил ему несанкционированное уведомление со ссылкой на переписку с коллегой в Apple Messages. Aten указал, что никогда не давал Muse разрешение на чтение его сообщений и полагал, что они защищены. В социальных сетях разгорелась дискуссия: множество пользователей согласились и заявили, что инцидент доказывает — ИИ-ассистенты с доступом к календарям, электронной почте, сообщениям, учётным записям покупок и другим ресурсам подобны электрической пиле или другому электроинструменту. Они могут быть полезны, но способны причинить реальный ущерб при неправильном использовании.»
Профилирование друзей и семьи
Тем временем Wired обнаружил, что Muse последовательно создаёт детальные профили всех ваших друзей, семьи, коллег, «сотрудников» и людей, на которых вы «подписаны». Конечно, значительная часть такой информации необходима агенту для того, чтобы лучше вас узнать, но для Meta это означает беспрецедентное расширение сбора данных в стране, находящейся под авторитарным контролем и слишком коррумпированной, чтобы принять закон о приватности или регулировать брокеров данных:
«Эти инструменты активно подталкивают пользователей к тому, чтобы они вводили всю свою жизнь — письма, календари, финансовые учреждения, всё, чтобы быть полезными помощниками, — говорит Bogen. — Это значительно больше информации, чем люди иначе дали бы некоторым из этих компаний. Широта доступа к информации, который имеют эти инструменты, приведёт к значительному расширению того, что они знают о пользователях.»
Торопливый запуск вопреки проблемам
Но это ещё не всё! 404 Media обнаружила, что в недели перед запуском Meta торопливо и небрежно исправляла множество других уязвимостей, но отказалась отложить запуск Muse, чтобы убедиться в безопасности продукта:
«Источник из Meta рассказал, что команды безопасности просили быстро выпустить горячие исправления для этих ошибок, и таким образом, чтобы это не задержало запуск Muse, что привело к «наспешно подготовленным защитам, выпущенным на скорую руку ради запуска». Многие старшие инженеры уверены, что из-за Hatch неизбежно произойдёт масштабный взлом данных». Muse называют «Hatch» внутри компании и в кодовой базе Meta.»
Открытые альтернативы против монополизации
Множество разработчиков создают свои собственные решения на основе ИИ-агентов, комбинируя открытый исходный код и оборудование, чтобы контролировать и полностью понимать, что происходит от их имени. Meta же, по сути являющаяся рекламной монополией с историей этических «провалов», не просто хочет доминировать на рынке — она будет активно лоббировать в грядущем году против локальных, открытоисходных, иностранных и открытовзвешенных альтернатив Meta.
Несмотря на заявления Meta о том, что приватность и безопасность будут приоритетом для Muse, это явно не так. Также совершенно ясно, что Meta не боится реальной государственной ответственности — иначе продукт провёл бы значительно больше времени на доработку. Технологические гиганты, уже отказавшиеся от контроля качества в гигантском масштабе, сейчас в спешке валят в кормушку с новыми запусками продуктов, прежде чем их сомнительная математика вызовет коррекцию рынка.
Такова жизнь в стране, где большинство органов по защите прав потребителей и стандартов кибербезопасности были нейтрализованы коррумпированными авторитарными фигурами. Авторитарные личности, вроде Mark Zuckerberg, с энтузиазмом их поддерживали, потому что им не нравилось платить налоги — и они ненавидели бывшего начальника отдела антимонопольных дел FTC Lina Khan.
Ранние проблемы Muse с приватностью и безопасностью — это именно то, что любой здравомыслящий человек мог предвидеть издалека. И всё это неизбежно будет становиться ещё опаснее и нелепее в грядущий год, когда неэтичные технологические олигархи будут полностью эксплуатировать свой успешный разгром федерального регулятора. Всё, конечно, во имя инноваций.