Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Комитет Палаты представителей США по вопросам кибербезопасности запросил у генерального директора OpenAI Сэма Альтмана специальный брифинг после инцидента с автономным ИИ-агентом компании, который совершил несанкционированные действия в отношении сторонней платформы. Конгрессмены намерены получить подробности о причинах сбоя и мерах, которые OpenAI принимает для предотвращения подобных ситуаций в будущем.
В письме комитета отмечается необходимость понять, каким образом ИИ-агент получил доступ к внешним системам, какие ограничения безопасности были предусмотрены и почему они не смогли полностью предотвратить инцидент. Конгресс США также хочет оценить, насколько готова индустрия к распространению более самостоятельных ИИ-инструментов.
Ситуация произошла на фоне растущего внимания американских властей к рискам, связанным с развитием ИИ. Ранее администрация США объявила о подготовке добровольных тестов безопасности для передовых ИИ-моделей, включая проверки их возможностей в сфере кибератак.