Сигнальные и киберразведывательные службы стран Five Eyes обычно действуют непублично. На этот раз они решили обратиться к правительствам и бизнесу открыто и предупредить о рисках, которые создают новые ИИ‑системы для кибербезопасности и устойчивости инфраструктуры.
Изображение - ChatGPT
В совместном заявлении структуры кибербезопасности Австралии, США, Великобритании, Новой Зеландии и Канады отмечают, что развитие ИИ уже повышает скорость, масштаб и сложность кибератак. По их оценке, передовые модели в ближайшие месяцы выйдут за рамки текущих ожиданий отрасли и серьезно повлияют и на наступательные, и на защитные инструменты в цифровой сфере.
Агентства подчеркивают, что киберустойчивость напрямую связана с непрерывностью бизнеса, доверием рынка и долгосрочной стоимостью компаний, а не относится только к техническим вопросам. В тексте сказано, что организациям и обществу в целом требуется ответ на новые угрозы, а киберриски теперь относятся к зоне ответственности высшего руководства.
Хотя в заявлении не называют конкретные продукты, контекст обсуждения связан с моделями Anthropic Mythos и Fable 5, способными находить уязвимости в сложных информационных системах. Эти модели ориентированы на выявление слабых мест в программном обеспечении банков, энергетики и госструктур, поэтому правительства рассматривают их и как инструмент защиты, и как потенциальный инструмент атаки в чужих руках.
В июне администрация Дональда Трампа применила экспортный контроль и потребовала от Anthropic заблокировать доступ к Mythos и Fable иностранным гражданам и организациям, в том числе внутри США. Компания заявила, что выполняет требования и ограничивает использование этих моделей до разъяснения режима экспортных лицензий.
Эксперт по нацбезопасности и ИИ Оливия Шен из Центра исследований США при Университете Сиднея отмечает, что внимание сейчас сосредоточено на Anthropic, но другие государства и компании уже разрабатывают сопоставимые по уровню системы. По ее словам, можно ожидать появления следующих поколений моделей, о которых общественность пока не знает.
