Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Искусственный интеллект постепенно становится обычным рабочим инструментом, способным самостоятельно выполнять задачи на компьютере пользователя. Такие помощники могут писать программы, запускать их и взаимодействовать с другими сервисами. Проблема возникает, когда им предоставляют доступ к системам, где цена ошибки измеряется уже не потерянными файлами или деньгами, а национальной безопасностью.
Изображение: WIRED
Сотрудник американской консалтинговой компании Accenture подключил своего личного ИИ-агента Claude Code к защищенной компьютерной сети Министерства обороны США. По данным издания WIRED, программа получила возможность самостоятельно писать и запускать код, а также сохранять его непосредственно в системе Пентагона.
Для работы сотрудник передал ИИ свои учетные данные, включая пароли. Это позволило программе получить административные права и обходить стандартные процедуры проверки доступа. Агенту требовалось подключаться к внешним интернет-ресурсам для выполнения задач, и, по имеющимся данным, вместе с запросами туда могли отправиться логины, пароли и схема внутренней сети Пентагона.
Особую опасность представлял сам ресурс, на который предположительно передавалась информация. Американский Национальный институт стандартов и технологий ранее относил его к сайтам с высоким уровнем риска. Обнаруженная уязвимость позволяла злоумышленникам внедрять инструкции в ИИ-помощников для кражи учетных данных.
Система, к которой подключили Claude Code, работает в сети NIPRNet. Она используется Министерством обороны США для обмена несекретной информацией, которая тем не менее может иметь ограниченный доступ. В таких базах могут находиться сведения о военной технике, критической инфраструктуре, опасных материалах и уязвимостях различных объектов. Иными словами, отсутствие грифа секретности еще не означает, что эти данные можно свободно публиковать.
ИИ-агент проработал в военной сети около двух месяцев, прежде чем проблему обнаружили и устранили. Accenture заявила, что все обвинения тщательно и независимо расследовали и признали необоснованными. Компания сообщила о полном соблюдении юридических и договорных обязательств, однако не уточнила, кто проводил проверку, и не оспорила сам факт возможного инцидента.