Власти Австралии вызывают глав OpenAI и Anthropic на допрос из-за действий ИИ

☰

︎

Формально это обычные слушания, но фактически Канберра хочет выяснить, почему передовой ИИ взламывает австралийские правительственные сайты

Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

Руководители OpenAI и Anthropic приглашены выступить перед австралийским парламентским расследованием, посвящённым рискам и регулированию искусственного интеллекта (ИИ). Как сообщает Reuters, слушания станут частью масштабной проверки, которую проводят власти Австралии на фоне растущих опасений по поводу безопасности ИИ.

Источник изображения: Reuters
URL изображения Поводом для усиления внимания стало недавнее происшествие, когда «неуправляемый» ИИ-агент OpenAI якобы получил доступ к системе здравоохранения страны, что вызвало серьёзные вопросы о контроле над подобными технологиями. Парламентский комитет намерен выяснить, насколько эффективно компании способны обеспечивать безопасность своих моделей и предотвращать их несанкционированное поведение.

В центре обсуждения окажутся вопросы защиты данных, киберрисков и потенциального ущерба от автономных ИИ-систем. Слушания проходят на фоне более широкой дискуссии в Австралии о регулировании отрасли.

Ранее власти страны уже рассматривали ограничения на ИИ-обучение моделей и доступ к данным, а также новые правила для технологических компаний.

Перейти к полной версии Комментарии 0