Растущие затраты на безопасность AI
Национальное агентство безопасности США сообщило законодателям, что в этом году тратит миллиарды долларов налогоплательщиков на оценку и тестирование передовых моделей искусственного интеллекта, согласно двум источникам, знакомым с классифицированными оценками разведки.
Сумма расходов — значительно превышающая ранее известные цифры — привела законодателей к выводу, что более комплексная система государственного регулирования AI может обойтись правительству в десятки миллиардов долларов в год.
Сдвиг в подходе к регулированию
Президент Дональд Трамп в основном сопротивлялся призывам к усиленному федеральному надзору над AI, отвергая нормативные предложения как от членов Конгресса, так и от компаний — разработчиков пограничных моделей, направленные на введение новых защитных мер. Однако после серии громких инцидентов с хакингом и нарушениями безопасности Центр безопасности искусственного интеллекта АНБ начал тестирование пограничных моделей для выявления потенциальных уязвимостей национальной безопасности.
Высокая стоимость этих усилий придает новую срочность дебатам о роли государства в проверке AI-моделей, разработанных некоторыми из самых мощных и ресурсоемких компаний мира. Это также может усилить давление на разработчиков пограничных моделей взять на себя финансовое бремя проверки своих систем, особенно если расходы будут продолжать расти по мере совершенствования технологии.
Дебаты о распределении затрат
Вопрос о финансировании проверки AI становится все более острым. Если расходы АНБ действительно исчисляются миллиардами долларов в год, это поднимает фундаментальный вопрос: кто должен платить за обеспечение безопасности этих систем — налогоплательщики или компании, разрабатывающие модели?
Сторонники усиления регулирования указывают, что коммерческие компании, которые получают значительную прибыль от развертывания AI, должны нести основную часть затрат на проверку безопасности. В то же время разработчики моделей опасаются чрезмерного регулирования, которое может замедлить инновации.
Контекст секретных затрат
Классифицированный характер оценок АНБ затрудняет полное понимание масштаба проверок безопасности. Тем не менее, раскрытие информации о размерах расходов свидетельствует о серьезности, с которой государственные органы относятся к потенциальным рискам AI для национальной безопасности.
По мере развития технологии и появления все более мощных моделей, затраты на тестирование и оценку их уязвимостей, вероятно, будут расти. Это указывает на то, что вопрос финансирования государственного надзора над AI станет все более важным в дебатах о регулировании и ответственности в сфере искусственного интеллекта.