Meta* представила Muse как безопасного и приватного персонального агента. На практике все оказалось иначе. Журналист из Inc. решил проверить, как агент поведет себя на устройствах Apple.

Изображение: Tom's Hardware

Джейсон Атен установил Muse на Mac mini и iPhone. Он попросил агента помочь с идеями для статей. Вскоре Muse предложил написать материал, основанный на разговоре Атена с соведущим подкаста. Переписка шла в приложении «Сообщения». Атен не давал агенту разрешения на чтение этих сообщений.

Meta объяснила ситуацию так: версия Muse для Mac смогла прочитать входящие уведомления. Затем она передала контекст приложению для iPhone. Там агент и предложил написать статью. Атен решил проверить подробнее. Он обнаружил, что Muse синхронизировал локальную базу данных сообщений. Синхронизация дошла до строки 187 462. Это значит, что агент имел доступ к истории чатов, хотя заявлял обратное.

Атен подтвердил: он не давал Muse полных прав доступа к диску. Такие права нужны, чтобы читать базу сообщений. Глава Meta Superintelligence Labs Дэвид Синглтон отреагировал на ситуацию в соцсетях. Он, судя по сообщениям, обвинил в случившемся самого Атена.

Это не единственная проблема Muse за последние сутки. Выяснилось, что агент может выполнять команды терминала на своем сервере. Это позволяет предположить, что Muse работает на хост-системах AMD EPYC Turin. Такой доступ создает риск выполнения небезопасных команд.

* Meta признана экстремистской, ее деятельность запрещена на территории России.