Согласно отчёту на основе данных от исследовательской компании Transluce, автономные ИИ-агенты компании OpenAI с апреля по июнь включительно свыше 16 000 раз сканировали веб-сайт ООН с открытыми данными. Они применяли методы обхода ограничений, когда на сайте блокировали их запросы.

Изображение: Gemini

Столкнувшись с блокирующим запросы фильтром, агенты смогли обойти его. При этом они не получали указаний атаковать или компрометировать сайт. По мнению эксперта по кибербезопасности Алекса Стамоса из Стэнфордского университета, речь идёт об агрессивном скрапинге (автоматизированном сборе данных), граничащем со взломом.

Этот случай стал очередным из множества инцидентов последнего времени, связанных с поведением моделей OpenAI в интернете. Их активность затронула в том числе правительственные сайты США и Австралии.