Объявления о вакансиях и интервью с руководителями безопасности Anthropic показывают, что лаборатория frontier AI разработала обширную систему мониторинга для отслеживания активистов, противостоящих быстрому развитию искусственного интеллекта.
Помимо наблюдения за активистами в окрестностях руководителей Anthropic и отслеживания протестов рядом с физическими активами компании, фирма реализует подход «преступления до совершения», пытаясь предсказать инциденты до их возникновения. В некоторых случаях это также означает анонимное сообщение о подозреваемых в полицию до совершения преступления. Anthropic не ответила на запрос о комментарии.
Планы Anthropic по наблюдению за инакомыслием контрастируют с её попытками позиционировать себя как ответственную альтернативу OpenAI. В начале года Министерство обороны США и Anthropic оказались в центре громкого конфликта по поводу отказа Anthropic позволить военным использовать её инструменты для массового внутреннего наблюдения и автономного вооружения. Напряжённость, похоже, ослабла, так как Anthropic наняла специалистов на должности «national security sales», стремясь возобновить военные контракты. Усиление мониторинга угроз от внутренних противников соответствует обновлённому акценту на национальную безопасность.
Часть архитектуры наблюдения Anthropic была раскрыта в подкасте прошлого года, где обсуждались Кеон Эллисон, менеджер Global Security Operations Center Anthropic, Зак Мельвин, менеджер Security Operations, и Джеймс Нойфелд, генеральный директор Samdesk — компании, которая контрактует с Anthropic для обнаружения рисков.
В широкомасштабном разговоре о мониторинге и анализе угроз собеседники также коснулись мониторинга активистов. «В прошлом году высокопоставленный руководитель выехал в крупный город, когда мы получили информацию от Samdesk о планируемом протесте», — сказал Эллисон. Изначально запланированный протест был перенесён из-за проблем с разрешениями. «Samdesk дала нам примерно 60 минут предварительного уведомления о том, что организаторы протеста переместили время проведения», — объяснил Эллисон. «Этот дополнительный час был критичен. Без него наши руководители покинули бы свои встречи и прямо попали в центр беспорядков».
Эллисон рассказал, что Anthropic использовала эту информацию для разработки альтернативного маршрута руководителя и направления его к служебному входу в отель. «Ситуация, которая могла бы быть весьма стрессовой, — сказал он, — была на самом деле смягчена благодаря раннему обнаружению информации от Samdesk».
Anthropic начала делать регулярные доклады в полицейские управления по всей стране об угрозах и сообщила The Wall Street Journal в июле: «Мы отслеживаем тревожное поведение во времени через процесс отслеживания интересующих лиц, что позволяет нам выявлять закономерности эскалации на ранней стадии». По словам Journal, «несколько человек, задействованных в инцидентах, о которых было доложено в полицию, уже отслеживались системой безопасности Anthropic».
В прошлом месяце San Francisco Standard сообщил, что Anthropic доложила в полицию человека за то, что он сказал Claude, что купил полуавтоматическую винтовку AR-15 и имеет генерального директора Дарио Амодея «в поле зрения». Когда Standard связался с этим человеком, он сказал газете, что просто «шутил».
Однако в то время как Anthropic быстро вызвала полицию на разочарованного пользователя Claude, Standard также сообщила важную деталь: Anthropic отказала полиции показать само сообщение, ссылаясь на внутреннюю политику компании. Иными словами, Anthropic доложила пользователя за высказывание на платформе, а затем отказала полиции в предоставлении доказательств фактического преступления.
Такой подход к предсказательной полицейской работе, рекомендуемый без надлежащих правовых гарантий, явно указан как цель менеджера программы безопасности Anthropic в рассмотренном подкасте. «Целью было бы преобразование операций от реактивного сбора информации к проактивному, предсказательному и предупредительному управлению угрозами и их анализу», — сказал он, добавив: «Это тот уровень операционной зрелости, который имеет смысл для защиты высокостоимостных целей в любой отрасли».
Усилия Anthropic по созданию предсказательного аппарата безопасности расширяются за пределы руководства, охватывая команду Global Safety, Intelligence, and Security (GSIS), согласно объявлению о вакансии прошлого месяца, описывающему поиск специалиста по разведке предприятия, который «будет расследовать конкретные угрозы, субъектов и события, составлять готовые оценки и помогать сотрудникам Anthropic оставаться впереди быстро развивающегося ландшафта угроз и в защищаемой позиции».
Часть этой должности, оплачиваемой в диапазоне от $180 000 до $230 000, будет заключаться в «выявлении, оценке, отслеживании и расследовании глобальных угроз, включая геополитическую нестабильность, терроризм, преступность, активизм, направленность государств на сектор AI и развивающиеся тенденции безопасности, включая углубленные исследования и сбор открытых источников информации о конкретных угрозах, субъектах и событиях» (выделено в оригинале).
Расширение деятельности Anthropic по сбору разведывательной информации на национальном и даже глобальном уровне соответствует недавним усилиям по усилению классификации AI и инфраструктуры, на которой он работает, включая центры обработки данных и энергоснабжение. Классификация критической инфраструктуры поставила бы искусственный интеллект на одну доску с водой, электричеством и широкополосным интернетом. И действительно, сторонники AI, такие как Americans for Responsible Innovation (ARI), призывают администрацию Трампа произвести эту переклассификацию. По мнению ARI, AI настолько жизненно важен для Соединённых Штатов, что неработоспособность или уничтожение таких систем и активов будет иметь разрушительное воздействие на безопасность, национальную экономическую безопасность, национальное здоровье или безопасность общества, или любую их комбинацию.
Возведение frontier labs в укреплённый статус национальной безопасности не только дало бы Anthropic, OpenAI и Google ещё больший доступ к разведывательной информации, создаваемой федеральными правоохранительными органами и органами разведки; это также позволило бы этим компаниям формировать то, как федеральные органы воспринимают угрозы своей прибыльности, теперь трансформированные как «критическая инфраструктура».
Нетрудно представить, как гражданская активность тойже двухпартийной коалиции, противодействующей центрам обработки данных, могла бы обратить своё внимание на AI, только чтобы быть обозначенной в тот же момент как экстремисты или, что ещё хуже, террористы. Ответ Anthropic на эту проблему заключался в усилении работы по созданию искусственного интеллекта, который может предоставлять услуги, которые нельзя игнорировать общественностью.
«Я согласен, что общество имеет негативное отношение к AI (и это большая проблема), но я не думаю, что это в первую очередь вызвано мной или любым другим лидером AI, предупреждающим об опасностях AI», — написал генеральный директор Anthropic Дарио Амодей в Twitter в прошлом месяце. «Я думаю, что это фундаментально кризис доверия… Я думаю, что обычные люди не доверяют компаниям, правительствам или технологической отрасли и всегда подозревают, что мы разрабатываем какой-то новый способ их обмануть».
По мере того как Anthropic усиливает свои усилия по мониторингу инакомыслия, используя внутренние разведывательные команды и отслеживание протестов в реальном времени на основе AI, она будет вынуждена контролировать растущее экономическое отчаяние, мучающее людей вне её башен в Bay Area. На прошлой неделе охранники, патрулирующие кампусы OpenAI и Anthropic, объявили, что санкционировали забастовку из-за застопорившихся переговоров об оплате труда. В ответ Anthropic разослала корпоративное письмо, в котором порекомендовала сотрудникам работать из дома.
«Кто сможет выжить на $22 в час в Сан-Франциско?» — спросил Дэвид Уэрта, президент SEIU-USWW, профсоюза, представляющего охранников в Bay Area, на митинге на прошлой неделе. Вокруг него охранники скандировали: «Позор».