Компания Anthropic столкнулась с инцидентом безопасности, связанным с её новой моделью искусственного интеллекта (ИИ) Mythos. По сообщениям Bloomberg, доступ к системе получили неавторизованные пользователи, хотя изначально модель должна была быть доступна лишь ограниченному кругу проверенных организаций – в основном крупные технокомпании и правительство США.
На данный момент нет подтверждений, что доступ использовался для вредоносных действий. Однако ситуация вызывает обеспокоенность, поскольку Mythos относится к числу мощных ИИ-инструментов, способных анализировать программное обеспечение и находить уязвимости, что потенциально делает его опасным. Дело в том, что злоумышленники могут использовать Mythos для поиска уязвимостей в программном обеспечении банковских систем или других организаций, используя информация для взломов, а не в целях киберзащиты.
В Anthropic уже начали внутреннее расследование. Представители компании заявляют, что масштаб инцидента ограничен, и предпринимаются меры для предотвращения подобных случаев в будущем.