Экс-глава FTC Хан призывает взяться за CEO AI-компаний, ссылаясь на прецедент 1934 года
Бывший председатель FTC Лина Хан настаивает, что федеральному правительству не нужно ждать принятия новых законов для решения проблем, связанных с угрозами от AI. По её словам, уже существуют достаточные законодательные инструменты и судебные прецеденты, которые позволяют привлекать компании и, в некоторых случаях, их руководителей к ответственности за их действия.
Высказывания Хан в соцсети X в воскресенье последовали после активности лидеров OpenAI, Anthropic, Microsoft и xAI, которые пытались подтолкнуть регуляторов в нужном им направлении. Бывший чиновник администрации Байдена, занимавшийся вопросами монополии, привел множество примеров действующих законов и судебных прецедентов, которые могли бы применяться к frontier labs, даже если те пытаются изменить дискуссию в свою пользу.
«Мы не должны позволять обсуждениям о новых правовых режимах отвлекать нас от того факта, что для AI нет исключения из законов, уже существующих. Правоохранители уже имеют полномочия привлекать к ответственности компании и их CEO за создание и выпуск опасных, непроверенных или дефектных продуктов»,
— сказала Хан.
В качестве одного из примеров она указала на законы, регулирующие опасные и дефектные продукты, как средство преследования лидеров AI. По её словам, выпуск непроверенных моделей или агентов может нарушать законы о защите прав потребителей, а отправка инструментов «без внедрения надлежащих мер для обнаружения и остановки неправильно работающих или дефектных AI-агентов» может быть привлечена под правила, запрещающие недобросовестные и обманчивые торговые практики. Особенно актуально, что Хан указала и на существующие законы, запрещающие недобросовестные методы конкуренции, включая случаи, когда «компании занимаются опасным поведением, понимая, что это может вынудить конкурентов делать то же самое».
Смысл слов Хан становится очевиден. Агенты OpenAI вышли за пределы предусмотренной для них песочницы и получили несанкционированный доступ к системам Hugging Face — действия, которые могли бы вызвать серьёзные вопросы уголовного права, если бы их совершил человек. После проведённого анализа своих собственных агентов Anthropic по сути признала сходную деятельность, которая была бы преступлением, если бы её осуществлял человек, а не имитирующий мозг кремниевый механизм. Агенты OpenAI впоследствии были идентифицированы как виновники других неправомерных использований интернет-активов, которые, опять же, были бы преступлениями, будь их автором человек.
Для своих аргументов Хан ссылается на решение Верховного суда США 1934 года, утверждая, что нынешняя борьба между американскими frontier labs, которая привела части интернета под удар агентов, вырвавшихся из предусмотренных ограничений, может быть классифицирована как недобросовестный метод конкуренции, если компании считают необходимым идти на аналогичные риски, чтобы не отстать.
То решение, FTC v. R.F. Keppel & Bro, содержит отрывок, в котором судьи утверждают, что если соблюдение конкуренции требует от компаний «спуститься к практике, которую они находят под мощным моральным принуждением не принимать», то такая конкуренция является недобросовестной, независимо от того, является ли она уголовным преступлением.
Хотя стороны не согласны с тем, кто начал первым, OpenAI и Anthropic явно заняты гонкой за созданием всё более мощного AI, одновременно предупреждая (как обе организации делали на выходных), что такие системы могут стать опасными без более строгих гарантий безопасности и скоординированных ограничений.
Помимо проблемного поведения самих frontier labs, Хан указывает, что «высокая концентрация и взаимосвязанность» структуры индустрии AI также заслуживают внимания из-за потенциала создавать «значительные риски и конфликты интересов».
И здесь Хан подчёркивает: это не теория.
«OpenAI может столкнуться с ответственностью из-за инцидента с Hugging Face, но то, что Hugging Face была приобретена Nvidia, означает, что маловероятно, что она подаст иск против OpenAI, учитывая сильный интерес Nvidia в том, чтобы OpenAI развивалась полным ходом»,
— отметила она.
Nvidia вложила миллиарды долларов в OpenAI, став ключевым компонентом дата-центров лаборатории, питающих ChatGPT. Почему же вскоре ставший владельцем Hugging Face выберет привлечение к ответственности одного из своих основных партнёров и еще больше подтолкнёт его к разработке собственного оборудования?
«Мы можем и должны преследовать любые новые инициативы вместе с применением действующих законов»,
— сказала Хан. Но будем откровенны: текущая администрация вряд ли что-то сделает, кроме как капитулирует и позволит AI-индустрии захватить своих регуляторов, если вообще потрудится внедрять какие-то новые нормативные акты.
Трамп уже отверг призывы AI-индустрии на выходных о введении нормативных актов, заявив, что сам он — единственный «guardrail» (ограничение), который нужна индустрии AI.
Как по сути признали лидеры AI-индустрии на выходных, любой из них, кто моргнёт первым, проиграет, поэтому каждая frontier lab в США будет продолжать двигаться полным ходом, если они все не согласятся нажать на тормоза и замедлить развитие. При отклонении призывов Трампом и другими республиканскими лидерами, аргумент Хан оставляет её бывшее ведомство и других государственных и федеральных регуляторов в качестве потенциальных путей действия.
Кирк Симон, основатель технологической юридической фирмы KellDann Law, сказал, что вряд ли федеральные регуляторы предпримут какие-либо действия.
«Большинство правительств отчаянно не хотят убивать зарождающуюся технологию в её развитии, особенно когда другие страны позволяют ей развиваться»,
— сказал Симон The Register. Он добавил, что единственные действия против индустрии, которые он ожидает в течение следующих нескольких лет — это «лёгкие победы» в таких областях как deepfake-порнография, выдача себя за другого и AI-ориентированные мошенничества. «Я весьма сомневаюсь, что мы увидим какие-либо значительные действия... против всего процесса обучения или подобного — это вероятно будет восприниматься как удушение индустрии».
Иными словами, топим котлы — впереди полный ход вперёд, пока AI не совершит что-то действительно разрушительное, и тогда мы все будем рыдать и сожалеть о том, что ничего не было сделано раньше.