Несколько дней назад стало известно, что Microsoft тестирует возможность доступа ИИ-агентов к папкам и приложениям пользователей в Windows 11, что может таить в себе угрозу и создавать новые дыры в системе безопасности. Как пишет издание Tom's Hardware, компания осознаёт, что новая функция сопряжена с определёнными рисками, и предупреждает об этом своих клиентов.

Источник фото: ExtremeTech/Microsoft

Как говорится в официальном документе Microsoft, использование приложений на основе ИИ-агентов несёт в себе риски безопасности, связанные с возможной атакой со стороны злоумышленников при помощи встраивания вредоносного контента в элементы пользовательского интерфейса или файлы, называемого инъекцией перекрёстных запросов (XPIA), что может привести к переопределению действий агентов и дальнейшей утечке конфиденциальных данных и взлому ПО.

Для повышения безопасности Microsoft создаёт для ИИ-агентов специальные профили, ограничивающие их действия в системе, а также реализует запись всех их шагов в журналы. Кроме того, по умолчанию функция отключена, а для её активации необходимы соответствующие действия со стороны пользователя. При этом компания предупреждает, что её включение повышает риски для всех владельцев устройства.