Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Компания Anthropic, разрабатывающая искусственный интеллект (ИИ), тайно представила Конгрессу США проект федерального закона о безопасности передовых ИИ-моделей. Документ предусматривает независимую оценку наиболее мощных моделей и ограничивает обстоятельства, при которых правительство сможет приостанавливать их выпуск или использование. Об этом сообщило Politico со ссылкой на три источника.
Проект также предусматривает регулярную проверку передовых ИИ-моделей независимыми экспертами. Такие оценщики должны будут регистрироваться в Министерстве торговли США. При этом разработчики смогут оплачивать их работу, если вознаграждение не зависит от результатов проверки. Если оценщики обнаружат непосредственный риск из перечисленных в законопроекте категорий, они должны будут сообщить об этом ведомству в течение 72 часов после завершения оценки.
Полномочия по приостановке работы ИИ-модели в законопроекте также предлагается существенно ограничить. Новая процедура предусматривает, что Министерство торговли сможет обратиться в федеральный суд с просьбой временно остановить выпуск или использование ИИ-модели. Другие федеральные ведомства не смогут самостоятельно вводить подобные ограничения, как это было раньше, например, когда Министерство торговли США приостановило работу ИИ-модели Fable 5 от Anthropic.
На момент публикации материала законопроект не был принят Конгрессом США, а его положения могли уже измениться. При этом не исключено, что конгрессмены примут во внимание законопроект в ходе обсуждений.