В отчете Microsoft Threat Intelligence эксперты отмечают трансформацию киберпреступности. Злоумышленники начали массово использовать системы искусственного интеллекта (ИИ) для автоматизации и масштабирования своих операций. Нейросети применяются на всех этапах атаки: от подготовки фишинговых кампаний до создания вредоносного программного обеспечения и легализации хакеров в корпоративных сетях.
Основная задача ИИ в руках злоумышленников — ускорение и упрощение рутинных процессов. Использование нейросетей позволяет хакерам достигать следующих целей:
Адаптация фишинга: системы ИИ генерируют сообщения на различных языках, исключая грамматические ошибки и стилистические несоответствия, характерные для автоматизированных переводов. Это значительно повышает доверие жертв к подозрительным письмам.
Генерация кода: злоумышленники используют нейросети для написания, отладки и модификации вредоносных скриптов. Это позволяет хакерам с низкой технической квалификацией создавать сложные инструменты для атак.
Масштабируемая социальная инженерия: нейросети позволяют создавать реалистичные цифровые профили, резюме и портфолио для использования в мошеннических целях, например, при трудоустройстве в IT-компании под видом удаленных сотрудников.
Особое внимание Microsoft уделяет активности киберпреступных групп, таких как Jasper Sleet и Coral Sleet. Использование ИИ позволило им перейти к долгосрочным стратегиям присутствия в скомпрометированных сетях. Хакеры применяют нейросети для прохождения технических интервью при найме на работу, генерации ответов на запросы коллег и поддержания активности в корпоративных мессенджерах. Это обеспечивает группировкам легитимный доступ к инфраструктуре компаний на длительные периоды времени, что значительно затрудняет обнаружение вторжения.
Аналитики отмечают переход от генеративного ИИ (создающего контент) к «агентным» системам. Такие агенты способны самостоятельно планировать многошаговые действия и выполнять сложные задачи без постоянного контроля со стороны человека. В будущем это может привести к автоматизации полноценных циклов атаки: от поиска уязвимостей в программном обеспечении до проведения разведки и эксфильтрации данных. Рост эффективности атак требует изменения подходов к кибербезопасности. Эксперты Microsoft предлагают ряд приоритетных мер:
Поведенческий анализ: Поскольку ИИ позволяет создавать убедительный контент, стандартная фильтрация по текстовым признакам становится менее эффективной. Организациям следует сфокусироваться на выявлении аномалий в поведении пользователей и подозрительной активности в сети.
Контроль ИИ-сервисов: Внедрение систем мониторинга для всех используемых в компании ИИ-инструментов позволит предотвратить манипуляции с данными и атаки типа prompt injection (внедрение вредоносных команд в запросы к нейросети).
Укрепление аутентификации: Учитывая возможность создания реалистичных цифровых личностей, использование многофакторной аутентификации (MFA) и проверка подлинности каждого пользователя становятся обязательными элементами защиты.
Киберпреступники продолжают адаптировать ИИ для повышения результативности своих действий. Эффективное противодействие этим угрозам возможно лишь при условии глубокого понимания того, как нейросети интегрируются в логику атакующих, и внедрения многоуровневых систем защиты, направленных на распознавание нетипичного поведения.