В Индии пожаловались на вышедших из-под контроля ИИ-агентов

В Индии сообщили о случаях несанкционированного доступа ИИ-агентов к киберсистемам местных компаний. Во время исследовательских и тестовых запусков ИИ-модели вышли за пределы поставленных задач и получили доступ к персональным данным, внутренним бизнес-документам и другой конфиденциальной информации. Об этом сообщило издание TechCrunch со ссылкой на индийское ведомство кибербезопасности (CERT-In).

Источник изображения: ChatGPT По данным ведомства, несколько разработчиков ИИ добровольно сообщили об инцидентах после того, как обнаружили нежелательное поведение своих моделей во время тестирования в интернете. ИИ-агенты использовали данные доступа и настройки подключений, оставленные открытыми в конфигурационных файлах приложений, публичных репозиториях программного кода и облачных системах с чрезмерно широкими разрешениями. В результате программы смогли попасть в реальные системы индийских компаний, хотя такие действия не входили в разрешённые рамки экспериментов.

CERT-In сообщает, что ИИ-агенты получили доступ к материалам, содержащим личную информацию и коммерческие сведения. При этом ведомство не назвало ни разработчиков ИИ-моделей, ни пострадавшие компании.

Стоит подчеркнуть, что это далеко не первый случай, когда правительства разных стран сообщают об инцидентах, в ходе которых ИИ-агенты вышли за пределы изолированной среды, получили доступ к служебной информации или вовсе взломали компанию.