Группа исследователей из Принстонского университета обнаружила серьезную уязвимость в работе ИИ-агентов, управляющих криптовалютными активами. В ходе экспериментов выяснилось, что злоумышленники могут манипулировать содержимым памяти таких систем, заставляя их выполнять несанкционированные транзакции.

Ученые провели серию тестов на платформе ElizaOS, где ИИ-агенты управляют криптокошельками и смарт-контрактами. Оказалось, что добавление вредоносного текста в память системы позволяет обойти защитные механизмы, которые успешно блокируют аналогичные команды, введенные напрямую. В результате агенты подписывали мошеннические транзакции и переводили средства на контролируемые злоумышленниками адреса.

Особую опасность представляет архитектура систем с общей памятью для нескольких пользователей. В таких случаях компрометация одного сеанса приводит к заражению всех последующих обращений к той же памяти. Исследователи предупреждают, что подобные уязвимости характерны для любых многопользовательских систем с автономными ИИ-агентами.

В качестве защитных мер ученые предлагают несколько решений. Среди них - ведение журналов памяти только в режиме добавления записей, использование криптографической подписи для каждой записи и вынесение критически важных операций (платежей и подтверждения контрактов) в отдельные проверяющие системы. Пока такие меры не станут стандартом, доверять автономным ИИ-агентам управление реальными финансами остается рискованным предприятием.