AP: ИИ-модель Anthropic обнаружила уязвимости в секретных системах США за считанные часы

Новейшая модель искусственного интеллекта (ИИ) Mythos от компании Anthropic во время закрытых испытаний смогла выявить уязвимости в высокозащищённых компьютерных системах правительства США. Об этом сообщает Associated Press со ссылкой на американского чиновника.

Источник изображения: Reuters
URL изображения По данным издания, тестирование проходило в рамках программы Project Glasswing, созданной для оценки возможностей передовых ИИ-моделей в сфере национальной безопасности. Источник издания утверждает, что Mythos обнаружила несколько критически важных слабых мест всего за несколько часов. При этом речь не идёт о взломе систем – испытания проводились в контролируемой среде для поиска потенциальных уязвимостей.

Mythos изначально задумывалась как инструмент для обнаружения уязвимостей в киберсистемах, в связи с чем доступен к этой ИИ-модели был ограничен. Anthropic пыталась выпустить на свет ограниченную версию Mythos под названием Fable, но правительство США достаточно быстро запретил её, причём затронув в том числе Mythos. Как итог, доступ к Mythos потеряли не только пользователи, но и крупные компании.