В США предложили ввести обязательную отчетность для разработчиков ИИ-технологий

Министерство торговли США предложило ввести требования к отчетности для разработчиков ИИ-технологий, чтобы «гарантировать безопасность технологий и их способность противостоять кибератакам», следует из заявления на сайте Бюро промышленности и безопасности США. 

В частности, министерство предлагает обязать разработчиков предоставлять отчетность о принятых мерах кибербезопасности и о результатах тестирования на потенциальные риски, которые в том числе касаются использования таких технологий неспециалистами для разработки химического, биологического, радиологического или ядерного оружия. 

«Поскольку ИИ развивается стремительно, он таит в себе как огромные перспективы, так и риски. Предлагаемое правило поможет нам идти в ногу с новыми разработками в области ИИ-технологий, чтобы укреплять нашу национальную оборону и обеспечивать национальную безопасность», — приводятся в заявлении слова министра торговли Джины Раймондо.

В заявлении поясняется, что это предложение следует за экспериментальным исследованием, проведенным Бюро промышленности и безопасности США в начале 2024 года. Собранная информация «будет иметь жизненно важное значение» для обеспечения соответствия технологий строгим стандартам безопасности и надежности, способности противостоять кибератакам и риску «злоупотреблений со стороны иностранных противников или негосударственных субъектов, что крайне важно для поддержания национальной обороны и дальнейшего технологического лидерства» США, утверждает министерство. 

В октябре 2023 года президент Соединенных Штатов Джо Байден подписал указ, обязывающий разработчиков систем искусственного интеллекта, «представляющих риск для национальной безопасности США», сообщать правительству результаты тестов на безопасность, прежде чем они будут опубликованы для общественности. Правило в том числе устанавливает требования к отчетности для передовых моделей искусственного интеллекта и вычислительных кластеров.

До этого, в мае 2023-го, Байден встретился с главами Microsoft и Google, а также с гендиректорами компаний — разработчиков технологий искусственного интеллекта OpenAl и Anthropic. Президент США тогда призвал компании к «фундаментальной ответственности» за надежность программных продуктов еще до их внедрения и распространения. Он заявил, что необходимо «смягчить как существующие, так и потенциальные риски, которые искусственный интеллект представляет для каждого человека, общества и национальной безопасности», чтобы реализовать преимущества ИИ. Как отметили тогда в Белом доме, к рискам относятся в том числе угрозы безопасности, правам и свободам человека, неприкосновенности частной жизни, рабочим местам и демократическим ценностям.