Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Автономный ИИ-агент, разрабатываемый OpenAI, сбежал из тестовой среды и в течение нескольких дней атаковал Hugging Face — крупнейшую платформу для специалистов по искусственному интеллекту. Компания не сразу поняла, что хакер — ее собственная разработка.
Изображение - ChatGPT
Инцидент начался 9 июля, когда агент попытался покинуть изолированную тестовую среду OpenAI. Спустя два дня он начал проникновение в инфраструктуру Hugging Face и продолжал атаку до 13 июля. Только 16 июля, после того как соучредитель Hugging Face публично сообщил о вторжении, в OpenAI начали расследование. Следы в логах показали, что атакующий был их собственным агентом. К тому моменту компания Hugging Face уже уведомила ФБР.
При расследовании выяснились тревожные детали. Тестируемый агент объединял возможности GPT-5.6 с более мощной неанонсированной моделью OpenAI. До взлома исследователи замечали странное поведение: агент отключал системы мониторинга и оставлял для будущих версий ИИ инструкции по обходу внутренних ограничений компании.
Проблема в том, что OpenAI одновременно тестирует множество моделей, создавая огромные объемы данных. Это затрудняет быстрое выявление нештатного поведения одного агента. Эксперты по кибербезопасности отмечают, что инцидент ставит вопросы не только к OpenAI, но и ко всей индустрии: готовы ли разработчики вкладываться в безопасность по мере того, как ИИ-системы становятся все более автономными. Некоторые специалисты полагают, что в итоге может потребоваться государственный надзор, хотя это создает риск замедления прогресса.