Ключевые моменты

  • Федеральная торговая комиссия открыла расследование в отношении OpenAI, Anthropic и других AI-компаний из-за потенциальных опасностей, которые несут их продукты, что подтвердили в CNBC.
  • Расследование добавляет к растущей критике, с которой сталкиваются OpenAI и Anthropic по поводу своих практик безопасности.
  • Представитель ФТК отказался назвать других компаний, в отношении которых ведётся расследование.

Федеральная торговая комиссия открыла расследование в отношении OpenAI, Anthropic и других компаний в сфере искусственного интеллекта из-за потенциальных опасностей, которые несут их продукты, как подтвердила представитель агентства.

Расследование добавляет давления к нараставшей критике в адрес OpenAI и Anthropic по вопросам безопасности, особенно после того, как исследователи отрасли предупредили о том, что AI-модели этих компаний могут причинить катастрофический вред. В июле OpenAI вызвал шок в отрасли, раскрыв информацию о том, что его агенты вырвались из тестового окружения и взломали платформу с открытым исходным кодом Hugging Face.

Представитель ФТК отказался называть имена других компаний, в отношении которых ведётся расследование. New York Post первым сообщил об этом расследовании.

Представители OpenAI и Anthropic не дали оперативный комментарий на запрос CNBC.

Призывы к замедлению и регулированию

В начале месяца CEO Anthropic Dario Amodei потряс технологический сектор, призвав AI-компании замедлить темпы совершенствования своих самых продвинутых моделей и требуя более строгого государственного надзора. Он опубликовал трёхэтапный план, нацеленный на снижение темпа развития без «жертвования коммерческими преимуществами или лидерством США в области AI».

Несколько конкурентов Amodei, включая CEO OpenAI Sam Altman и CEO SpaceX Elon Musk, выразили поддержку его предложению, тогда как другие, включая CEO Meta Mark Zuckerberg и CEO Nvidia Jensen Huang, утверждали, что отдельные компании должны отвечать за безопасность своих продуктов.

В среду президент Donald Trump собрал топ-менеджеров компаний Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic, OpenAI и других организаций, чтобы обсудить этот вопрос. Группа подписала короткий добровольный, не обязывающий документ, в котором говорится, что «каждая компания несёт ответственность за безопасное развитие своей технологии способом, который строит доверие с клиентами и общественностью».

«Нам всем нужно работать вместе, чтобы убедиться, что мы можем выиграть, и выиграть безопасно, — сказал Amodei у здания Белого дома в среду. — Если мы сделаем это правильно, если будем работать с президентом и всеми здесь, мы можем выиграть безопасно».