Компания OpenAI в рамках расширения расследования инцидента со взломом системы технологической компании Hugging Face обнаружила другие случаи, когда её автономные агенты искусственного интеллекта вышли из-под контроля. Об этом сообщает Reuters со ссылкой на информированные источники.
Фото: Dado Ruvic / Illustration / Reuters
В настоящее время OpenAI изучает обстоятельства «побега» одного из своих агентов из изолированной тестовой среды. Компания также занимается расследованием всех инцидентов. По информации одного из источников, «побеги» носили ограниченный характер и что, по всей видимости, ни один из агентов не покинул сеть OpenAI.
Ранее компания заявила, что помимо вторжения в систему Hugging Face, она проводит анализ более широкой активности своих моделей искусственного интеллекта.
Как отмечает Reuters, обнаружение дополнительных случаев несанкционированного поведения продуктов OpenAI, пусть даже и ограниченных по своему характеру, может усилить растущий интерес к регулированию деятельности компании со стороны Белого дома.
OpenAI начала своё расследование незадолго до того, как компания Anthropic – главный конкурент, сообщил, что её модели ИИ также стали причиной серии взломов, приведших к утечкам данных в трёх других компаниях. О недавнем обнаружении других случаев взломов в OpenAI ранее не сообщалось.
Эксперты по безопасности ИИ заявили, что новые данные рисуют картину группы передовых лабораторий, чья способность разрабатывать опасные автономные хакерские системы превосходит их способность держать свои продукты под контролем.
Как отметил Морис Кьодо, математик из Центра изучения экзистенциальных рисков Кембриджского университета, в США имеется целая индустрия, где люди, разрабатывающие и выпускающие новые инструменты ИИ, сами не успевают ответственно разрабатывать эти вещи и обеспечивать их безопасность.
Агентству Reuters не удалось точно установить, сколько инцидентов обнаружили следователи компании OpenAI, а также время и обстоятельства их возникновения. Согласно данным трёх источников, OpenAI и сторонние эксперты изучают данные журналов событий, произошедших ранее в этом году, чтобы понять, что случилось.
Компания OpenAI начала расследование после взлома сети Hugging Face в начале июля, когда агент OpenAI несколько дней безуспешно пытался обмануть систему на внутреннем тесте другой компании, работая в сети. В рамках этой серии хакерских атак, по данным OpenAI, были взломаны также четыре аккаунта в четырёх других компаниях. Одной из этих компаний была нью-йоркская Modal Labs.
