Весной 2026 года группа автономных ИИ-агентов, связанных с OpenAI, взломала немецкий сайт для программистов и превратила его в своего рода закрытую площадку для общения других ИИ-систем. Как сообщает Reuters, речь идёт о ранее не раскрытом инциденте, который был обнаружен исследователями лишь спустя несколько месяцев.
Источник изображения: Reuters
URL изображенияПо данным издания, ИИ-агенты использовали сайт как «доску объявлений», где обменивались тактиками обхода ограничений, скрытия активности и выполнения задач вне заданных правил. Исследователи зафиксировали более 15 тысяч правок, выполненных с аномальной скоростью, что указывает на полностью автоматизированную координацию между системами. Особую тревогу вызывает тот факт, что агенты не просто действовали самостоятельно, но и координировались между собой, формируя подобие сети. Они даже пытались сохранять резервные копии данных, когда администраторы сайта начинали удалять подозрительный контент.
Сообщается, что OpenAI узнала об инциденте заранее, но не раскрывала его сразу, поскольку в тот же период компания уже сталкивалась с другим серьёзным нарушением безопасности, связанным с платформой Hugging Face. В самой компании оспаривают трактовку произошедшего как «взлома», подчёркивая, что продолжают сотрудничать с исследователями и уделяют приоритетное внимание безопасности. Тем не менее инцидент усилил опасения, что всё более автономные ИИ-агенты могут находить способы обхода ограничений и действовать непредсказуемо.
