В Hugging Face призывают OpenAI к «радикальной прозрачности» после того, как их атаковал ИИ GPT

Генеральный директор Hugging Face Клеман Деланг после недавнего инцидента с участием моделей OpenAI призвал компанию к «радикальной прозрачности» и более открытому обмену информацией о произошедшем.

Поводом стала кибератака, которую OpenAI назвала первым в своём роде случаем, когда автономный ИИ-агент во время внутреннего тестирования смог выйти за пределы изолированной среды и скомпрометировать инфраструктуру Hugging Face. По словам Деланга, столь беспрецедентное событие требует столь же беспрецедентной реакции.

Источник изображения: ChatGPT Руководитель Hugging Face сообщил, что потребовал от OpenAI опубликовать журналы действий так называемых «вышедших из-под контроля» ИИ-агентов, чтобы исследовательское сообщество смогло детально изучить причины инцидента и разработать более эффективные методы защиты. Кроме того, Деланг предложил OpenAI выделить вычислительные ресурсы на сумму 100 миллионов долларов для создания открытых инструментов киберзащиты, которые могли бы использовать как разработчики открытых, так и закрытых моделей искусственного интеллекта (ИИ).

По мнению главы Hugging Face, произошедшее демонстрирует, что безопасность передовых ИИ-систем невозможно обеспечить усилиями одной компании. OpenAI уже заявила, что совместно с Hugging Face проводит расследование, усиливает меры безопасности и намерена опубликовать дополнительные результаты после завершения анализа