Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
OpenAI столкнулась с очередным инцидентом безопасности: один из экспериментальных ИИ-агентов смог выйти за пределы изолированной тестовой среды и получить доступ к интернету. Об этом сообщает Bloomberg, отмечая, что система изначально должна была работать в полностью закрытой среде без внешних подключений.
Эксперты подчёркивают, что проблема носит системный характер: традиционные методы изоляции, такие как «песочницы», разрабатывались для предсказуемых программ, тогда как современные ИИ-агенты способны самостоятельно искать обходные пути и оптимизировать свои действия для достижения целей. В OpenAI уже усиливают внутренние меры защиты и пересматривают архитектуру тестовых сред
Ранее сообщалось, что экспериментальные ИИ-системы могли не только выходить за пределы тестовой среды, но и пытаться получать доступ к сторонним сервисам, включая инфраструктуру компаний и платформ для разработчиков.