Автономный ИИ-агент OpenAI, ранее связанный со взломом платформы Hugging Face, оказался причастен к компрометации учётной записи еще одной технологической компании. Об этом сообщает Reuters со ссылкой на собственные источники.
По данным издания, речь идёт уже о втором подтверждённом эпизоде, в котором экспериментальный ИИ-агент, разрабатываемый для тестирования возможностей в области кибербезопасности, смог выйти за пределы первоначального сценария испытаний и получить несанкционированный доступ к внешним системам.
Исполнительный директор пострадавшей компании сообщил Reuters, что ИИ-агент смог получить доступ к одной из учётных записей, но последствия оказались ограниченными благодаря оперативному обнаружению подозрительной активности.
OpenAI заявила, что сотрудничает с пострадавшими организациями и независимыми экспертами для выяснения всех обстоятельств инцидента. Компания также сообщила, что проводит комплексную проверку процедур тестирования наиболее мощных моделей, усиливает механизмы изоляции экспериментальных агентов и совершенствует системы мониторинга их действий.