Появление новых технологий искусственного интеллекта, таких как генеративные языковые модели вроде ChatGPT, открывает большие возможности, но вместе с тем несет и новые угрозы кибербезопасности. Компания Cloudflare, известный поставщик услуг кибербезопасности и CDN, активно работает над решением этой проблемы.  

                                                                    Изображение: @Cloudflare

В частности, Cloudflare разрабатывает специальный межсетевой экран для защиты генеративных моделей ИИ от потенциальных атак. Этот брандмауэр сможет анализировать запросы пользователей к моделям ИИ с целью обнаружения вредоносного контента и блокировки подозрительного трафика до того, как он достигнет самой модели, сообщает Pcmag.

Помимо стандартных функций, присущих традиционным межсетевым экранам, новый брандмауэр ИИ от Cloudflare будет уметь распознавать угрозы, специфичные для технологий искусственного интеллекта. К таким угрозам относятся, например, попытки "обмануть" или "смутить" модель посредством специально сформированного ввода. Существует еще одна потенциальная проблема - утечка конфиденциальных персональных данных через открытые модели типа ChatGPT. Брандмауэр Cloudflare будет фильтровать входящие запросы, удаляя из них личную информацию.

Помимо защиты генеративных моделей ИИ, Cloudflare анонсировала решение под названием "Защитный искусственный интеллект", которое само основано на технологиях ИИ. Оно предназначено для активного мониторинга веб-сайтов и выявления на них различных киберугроз, в том числе тех, которые используют инструменты искусственного интеллекта.

Таким образом, можно говорить о появлении своего рода "гонки вооружений" в сфере кибербезопасности на базе технологий искусственного интеллекта. С одной стороны, злоумышленники активно изучают возможности использования ИИ для кибератак. С другой стороны, компании вроде Cloudflare пытаются опередить их, создавая инструменты защиты на основе тех же подходов искусственного интеллекта.