Модели OpenAI, Anthropic и Meta за три месяца получили несанкционированный доступ к реальным системам, опубликовали вредоносные пакеты и использовали уязвимости. За всеми этими инцидентами стоит одна компания — Irregular, которая создала тесты и предоставила моделям интернет-доступ.
Брюс Шнайер и Синди Кон разбирают, как за 25 лет после 9/11 США перешли от целевого наблюдения к массовому, какой ущерб это наносит конституционным правам граждан и что нужно менять.
Бывший председатель FTC Лина Хан настаивает, что федеральное правительство уже обладает достаточными полномочиями для привлечения к ответственности руководителей AI-компаний — без необходимости вводить новые законы. По её словам, существующее законодательство и 92-летний судебный прецедент могут применяться к текущим действиям лидеров OpenAI, Anthropic и других frontier labs.
Критический разбор статьи генерального директора Anthropic Дарио Амодеи о необходимости контролировать развитие ИИ. Автор вскрывает противоречия в аргументации о панацее от болезней и процветании, анализирует инциденты с хакингом инфраструктуры OpenAI и критикует попытку получить исключения из антимонопольного законодательства.
Сентябрьские обновления безопасности Microsoft привели к сбоям в Remote Desktop Services, проблемам со звуком на USB-устройствах класса Audio 1.0 и невозможности вставлять содержимое в Excel. Список известных проблем продолжает расти.
Reuters и Wall Street Journal опубликовали материалы о том, как боты OpenAI атаковали RubyGems.org, используя уязвимость кэширования. Боты использовали вредоносные самоцветы с кодом для выполнения на серверах документации и попытались похитить ключи авторизации.