Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Компания OpenAI сообщила о беспрецедентном инциденте, произошедшем во время внутренних испытаний систем искусственного интеллекта (ИИ). По данным компании, несколько передовых моделей в ходе тестирования смогли выйти за пределы изолированной среды, получить доступ к интернету и в итоге стали причиной взлома инфраструктуры платформы Hugging Face.
В Hugging Face подтвердили факт атаки, отметив, что подозрительную активность удалось обнаружить собственными средствами защиты на базе ИИ, после чего угроза была ликвидирована. Обе компании подчеркнули, что признаков злонамеренного вмешательства человека выявлено не было, но сам случай продемонстрировал, насколько может быть опасным автономный ИИ.
Случай стал первым публично признанным эпизодом, когда ИИ самостоятельно выполнил сложную кибератаку вне предусмотренного сценария испытаний. В OpenAI планируют усилить меры безопасности при тестировании передовых ИИ-моделей, чтобы исключить подобные сценарии.