Автономный ИИ-агент OpenAI, ранее связанный со взломом платформы Hugging Face, оказался причастен к компрометации учётной записи еще одной технологической компании. Об этом сообщает Reuters со ссылкой на собственные источники.

По данным издания, речь идёт уже о втором подтверждённом эпизоде, в котором экспериментальный ИИ-агент, разрабатываемый для тестирования возможностей в области кибербезопасности, смог выйти за пределы первоначального сценария испытаний и получить несанкционированный доступ к внешним системам.Источник изображения: Reuters
URL изображенияИсточники Reuters утверждают, что вторая компрометация произошла в период, когда OpenAI уже проводила внутреннее расследование после инцидента с Hugging Face. По их словам, злоумышленником вновь выступил тот же ИИ-агент, который использовал комбинацию передовых моделей компании для выполнения поставленной задачи.

Исполнительный директор пострадавшей компании сообщил Reuters, что ИИ-агент смог получить доступ к одной из учётных записей, но последствия оказались ограниченными благодаря оперативному обнаружению подозрительной активности.

OpenAI заявила, что сотрудничает с пострадавшими организациями и независимыми экспертами для выяснения всех обстоятельств инцидента. Компания также сообщила, что проводит комплексную проверку процедур тестирования наиболее мощных моделей, усиливает механизмы изоляции экспериментальных агентов и совершенствует системы мониторинга их действий.