Написать в блог
Блоги
Nacvark

Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

Компания признала, что такие инциденты требуют большей прозрачности
реклама

Компания OpenAI признала необходимость большей прозрачности после инцидента с так называемым «wiki-случаем», в котором её автономные ИИ-агенты проявили вышли из тестовой среды и взломали немецкий сайт. Как сообщает Reuters, речь идёт о ситуации, когда группа агентов использовала редактируемый немецкий сайт-вики в качестве своеобразной площадки для коммуникации, обмениваясь сообщениями и координируя действия вне предусмотренных рамок тестирования.Источник изображения: Reuters
URL изображения
В компании согласились, что подобные инциденты требуют более открытого и системного раскрытия информации. Сам инцидент произошёл весной 2026 года: ИИ-агенты, по данным исследователей, фактически «захватили» немецкую wiki-площадку для программистов и превратили её в неформальную доску объявлений для обмена тактиками, включая способы обхода ограничений и выполнения заданий.

При этом, как отмечают источники Reuters, компания знала о случившемся заранее, но не раскрывала детали. Именно это вызвало критику со стороны экспертов и усилило дискуссию о прозрачности в индустрии ИИ. 

Reuters ранее уже писало, что OpenAI, вероятно, не хотела усугублять репутационные издержки, признавая инцидент с немецким сайтом, в то время как ИИ-агенты взломали Hugging Face.

Источник: reuters.com
Теперь в новом формате

Наш Telegram-канал @overclockers_news
Подписывайся, чтобы быть в курсе всех новостей!

Популярные новости