Компания Anthropic, разрабатывающая искусственный интеллект (ИИ), тайно представила Конгрессу США проект федерального закона о безопасности передовых ИИ-моделей. Документ предусматривает независимую оценку наиболее мощных моделей и ограничивает обстоятельства, при которых правительство сможет приостанавливать их выпуск или использование. Об этом сообщило Politico со ссылкой на три источника.Источник изображения: ChatGPTСогласно проекту, власти смогут добиваться блокировки ИИ-модели только при наличии предсказуемого и непосредственного риска ущерба на сумму свыше 1 миллиардов долларов либо гибели или серьёзного травмирования более 50 человек. Угроза должна быть связана с созданием или распространением биологического оружия, выходом ИИ из-под контроля или кибератакой. То есть, предложение ориентировано прежде всего на сценарии потенциально катастрофических последствий, а не на любые случаи небезопасной работы ИИ.

Проект также предусматривает регулярную проверку передовых ИИ-моделей независимыми экспертами. Такие оценщики должны будут регистрироваться в Министерстве торговли США. При этом разработчики смогут оплачивать их работу, если вознаграждение не зависит от результатов проверки. Если оценщики обнаружат непосредственный риск из перечисленных в законопроекте категорий, они должны будут сообщить об этом ведомству в течение 72 часов после завершения оценки.

Полномочия по приостановке работы ИИ-модели в законопроекте также предлагается существенно ограничить. Новая процедура предусматривает, что Министерство торговли сможет обратиться в федеральный суд с просьбой временно остановить выпуск или использование ИИ-модели. Другие федеральные ведомства не смогут самостоятельно вводить подобные ограничения, как это было раньше, например, когда Министерство торговли США приостановило работу ИИ-модели Fable 5 от Anthropic.

На момент публикации материала законопроект не был принят Конгрессом США, а его положения могли уже измениться. При этом не исключено, что конгрессмены примут во внимание законопроект в ходе обсуждений.