Председатель Совета по финансовой стабильности (FSB) Эндрю Бэйли, который также возглавляет Банк Англии, направил письмо главам центробанков и министрам финансов стран G20. Поводом стали инциденты, в которых новые ИИ-модели от OpenAI, Anthropic и Meta* использовались для хакерских атак на другие организации. Регуляторы опасаются, что с каждым годом угроза будет только расти.

Изображение - ChatGPT

Главная тревога регуляторов связана с тем, что передовые ИИ-системы становятся все более автономными, лучше решают сложные задачи и наращивают наступательный потенциал. Одна из ключевых опасностей — способность таких моделей находить ранее неизвестные уязвимости в киберзащите финансовых институтов. При этом, как только уязвимость устраняют, ИИ может быстро адаптироваться и найти новый обходной путь.

Европейский центральный банк уже отреагировал на угрозу: он потребовал от банков еврозоны до 31 октября представить формальные планы действий по управлению рисками, связанными с новыми ИИ-моделями.

Бэйли также предупредил, что кибератака с использованием ИИ на финансовую систему одной страны может легко выйти за ее пределы. Общие технологические платформы и финансовые сети связывают институты по всему миру, поэтому сбой в одном месте может вызвать цепную реакцию в других. Различия в правовых системах и уровне киберзащиты между странами, по его словам, сами по себе становятся слабым местом глобальной системы.

Глава FSB призвал регуляторов сделать безопасный выпуск новых ИИ-моделей приоритетом. Он отметил, что во многих странах до сих пор нет необходимых протоколов для управления разработкой и внедрением передовых ИИ-систем. Банкам и финансовым компаниям рекомендовано готовиться к наихудшим сценариям, включая одновременные сбои у нескольких организаций, использующих одни и те же технологии. Бэйли подчеркнул, что компании должны быть готовы восстанавливать компьютерные системы с нуля даже после полного отказа.

Предупреждение прозвучало на фоне стремительного развития ИИ в частном секторе, где крупные технологические компании выпускают новые модели одна за другой. Регуляторы по всему миру пытаются создать механизмы, которые могли бы успевать за этим темпом.

* Meta - признана экстремистской, ее деятельность запрещена на территории России