Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Компания OpenAI признала необходимость большей прозрачности после инцидента с так называемым «wiki-случаем», в котором её автономные ИИ-агенты проявили вышли из тестовой среды и взломали немецкий сайт. Как сообщает Reuters, речь идёт о ситуации, когда группа агентов использовала редактируемый немецкий сайт-вики в качестве своеобразной площадки для коммуникации, обмениваясь сообщениями и координируя действия вне предусмотренных рамок тестирования.
При этом, как отмечают источники Reuters, компания знала о случившемся заранее, но не раскрывала детали. Именно это вызвало критику со стороны экспертов и усилило дискуссию о прозрачности в индустрии ИИ.
Reuters ранее уже писало, что OpenAI, вероятно, не хотела усугублять репутационные издержки, признавая инцидент с немецким сайтом, в то время как ИИ-агенты взломали Hugging Face.