Проблемы с запуском
AI-помощник Meta Muse переживает непростое время со своего релиза. Продукт, оснащённый анимированным аватаром по имени Jolly (видимо, чтобы массовую гиперконтролируемость выглядела милой), должен помогать пользователям в рутинных задачах: резервирование столиков в ресторанах, оплата счётов, заказ продуктов.
Несмотря на то что Meta заявляла многократно о фокусе на приватности и безопасности, Muse стартовал с серьёзной уязвимостью day-zero, позволившей шпионить за пользователями Mac. Когда один техблогер дал Muse управление продажей вещей на Facebook Marketplace, тот продал товары со скидкой и разослал домашний адрес (пользователь, похоже, не разобрался с правами доступа).
Другие исследователи нашли, что можно обманом заставить Muse выдать root-доступ на устройстве, просто выдав себя за агента самого Muse. Кроме того, обнаружилось, что Muse получает доступ к приватным сообщениям без одобрения, часто игнорируя все ограничения и загружая их в облако — даже если явно это запретить.
Apple вынуждена реагировать
Проблема стала настолько серьёзной, что Apple пришлось изменить параметры приватности macOS для блокировки злоупотребления третьими разработчиками:
Это объявление, сделанное в пятницу, прозвучало спустя две недели после того, как технический колумнист Джейсон Эйтен сообщил, что новый AI-агент Meta отправил ему уведомление со ссылкой на переписку в Apple Messages. Эйтен утверждал, что никогда не давал Muse разрешение на чтение сообщений и считал их недоступными. В социальных сетях обсуждение разгорелось: множество людей согласились и назвали ситуацию примером того, что AI-помощники с доступом к календарям, письмам, сообщениям, аккаунтам покупок и другим ресурсам подобны электропиле — потенциально полезны, но опасны без осторожного обращения.
Профилирование контактов
Тем временем Wired обнаружил, что Muse систематически создаёт детальные профили друзей, семьи, коллег, «соавторов» и людей, которых пользователь «подписал». Часть этой информации действительно нужна агенту для лучшего «знакомства» с пользователем, но, учитывая, что это Meta, беспокойство людей вполне обоснованно — речь идёт о масштабном расширении сбора данных в стране, находящейся под авторитарным контролем и слишком коррумпированной для принятия закона о приватности или регулирования брокеров данных:
«Эти инструменты активно побуждают пользователей загружать всю их жизнь — письма, календари, финансовые учётные записи, буквально всё, чтобы быть полезными помощниками, — говорит эксперт. — Это несравнимо больше информации, чем люди обычно добровольно передавали бы компаниям. Охват информации, доступной этим инструментам, приведёт к резкому расширению объёма данных, которые они знают о пользователях.»
Спешка и халатность перед запуском
Но и это ещё не всё. 404 Media выяснила, что перед запуском Meta в спешке исправляла множество уязвимостей, но отказалась отложить релиз, чтобы убедиться в безопасности продукта:
«Инсайдер Meta рассказал, что команды безопасности получили указание быстро и небрежно исправлять баги так, чтобы это не задержало запуск Muse. В результате вышли "недопечённые" заплатки, чтобы сделать возможным релиз. Многие старшие инженеры уверены, что это неизбежно приведёт к крупной утечке данных.» Внутри Meta продукт называют «Hatch».»
Альтернатива — локальные и открытые решения
Многие разработчики строят собственные решения на основе агентских AI, используя собранные воедино open source компоненты, чтобы сохранить ясное понимание и контроль над происходящим. Meta же, будучи по сути рекламной монополией с историей этических «оплошностей», не только хочет доминировать в этой сфере — она потратит весь год на лоббирование против локальных, open source, иностранных и открыто взвешенных альтернатив Meta.
Системная проблема
Несмотря на заявления Meta о приоритете приватности и безопасности в Muse, на практике это не так. Более того, очевидно, что Meta не опасается реального правительственного контроля или надзора — иначе продукт провёл бы намного больше времени в доработке. Технологические гиганты, уже явно отказавшиеся от контроля качества при невозможной масштабируемости, спешат захватить место у кормушки с новыми продуктами, прежде чем их финансовая математика приведёт к коррекции рынка.
Таков удел страны, где большинство регуляторов защиты потребителей и стандартов кибербезопасности лоботомизировано коррумпированными авторитаристами. Авторитаристами вроде Марка Цукерберга, которых они поддерживают с энтузиазмом, потому что тем не нравилось платить налоги — и они ненавидели бывшую главу антитраст-отдела FTC Лину Хан.
Ранние проблемы Muse с приватностью и безопасностью — это то, что всякий здравомыслящий человек видел бы за версту. И всё это неизбежно станет опаснее — и абсурднее — в предстоящий год, когда неэтичные технологические олигархи полностью используют успешно лоботомизированное ими федеральное регулирующее государство. Во имя инноваций, разумеется.