Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Meta* представила Muse как безопасного и приватного персонального агента. На практике все оказалось иначе. Журналист из Inc. решил проверить, как агент поведет себя на устройствах Apple.
Изображение: Tom's Hardware
Джейсон Атен установил Muse на Mac mini и iPhone. Он попросил агента помочь с идеями для статей. Вскоре Muse предложил написать материал, основанный на разговоре Атена с соведущим подкаста. Переписка шла в приложении «Сообщения». Атен не давал агенту разрешения на чтение этих сообщений.
Meta объяснила ситуацию так: версия Muse для Mac смогла прочитать входящие уведомления. Затем она передала контекст приложению для iPhone. Там агент и предложил написать статью. Атен решил проверить подробнее. Он обнаружил, что Muse синхронизировал локальную базу данных сообщений. Синхронизация дошла до строки 187 462. Это значит, что агент имел доступ к истории чатов, хотя заявлял обратное.
Атен подтвердил: он не давал Muse полных прав доступа к диску. Такие права нужны, чтобы читать базу сообщений. Глава Meta Superintelligence Labs Дэвид Синглтон отреагировал на ситуацию в соцсетях. Он, судя по сообщениям, обвинил в случившемся самого Атена.
Это не единственная проблема Muse за последние сутки. Выяснилось, что агент может выполнять команды терминала на своем сервере. Это позволяет предположить, что Muse работает на хост-системах AMD EPYC Turin. Такой доступ создает риск выполнения небезопасных команд.
* Meta признана экстремистской, ее деятельность запрещена на территории России.