Для соблюдения предписания правительства, полученного в пятницу, 12 июня, Anthropic отключила всем клиентам доступ к моделям Fable 5 и Mythos 5. Правительство США потребовало приостановить доступ всех иностранных граждан к недавно выпущенным моделям ИИ, где бы они ни находились, включая сотрудников Anthropic, ссылаясь на угрозы национальной безопасности.
Источник изображения: Michael M. Santiago/Getty Images
Fable 5 была выпущена 9 июня, чтобы предоставить публике возможности Mythos — передовой модели кибербезопасности, доступной только партнёрам по программе Project Glasswing. По заявлению Anthropic, Fable превосходит все предыдущие модели компании: в тестах она обыграла Pokémon FireRed, тогда как Claude не смог одолеть оригинальную Pokémon Red.
Для обеспечения безопасности Fable в Anthropic внедрили механизмы защиты, снижающие риск неправомерного использования в задачах кибербезопасности. Многие пользователи жаловались на их излишнюю строгость. Стратегия защиты состояла в том, чтобы сделать джейлбрейки либо узкоспециализированными, либо очень дорогостоящими в создании, и дополнить это тщательным мониторингом для быстрого обнаружения и пресечения атак. В компании также пояснили, что ни один провайдер не может гарантировать полную устойчивость к джейлбрейку, и каждая модель уязвима.
Правительство предоставило устные доказательства существования одного потенциального узкого джейлбрейка, которым неназванная организация поделилась с официальными лицами. Anthropic обещает опубликовать подробности в ближайшее время, но не согласна, что подобный случай должен быть основанием для отзыва коммерческой модели.
Как заявляла компания ранее, власти должны иметь возможность блокировать небезопасные развёртывания в рамках установленного законом процесса, который является прозрачным, справедливым, чётким и основанным на технических фактах. Anthropic, активно предупреждавшая о необходимости усиления надзора в сфере ИИ, отметила, что данное действие не соответствует этим принципам.
