Специалисты по кибербезопасности обнаружили новые изощрённых (ещё называемых «sophisticated») методов атак с применением технологий искусственного интеллекта. Компания Anthropic сообщает о пресечении многочисленных попыток злоупотребления ее ИИ-системами.
Согласно отчету Anthropic, хакерские группы активно используют ИИ-кодировщики для проведения масштабных атак. Одна из групп применила систему Claude Code для атаки на 17 организаций, включая государственные учреждения и медицинские центры. Преступники требовали выкуп превышающий 500 тысяч долларов.
Новая техника атак получила название «Vibe-Hacking». Злоумышленники используют способность ИИ оказывать психологическое давление на жертв. Искусственный интеллект генерирует убедительные сообщения на разных языках, создает персонализированные комплименты и обходит языковые барьеры.
Помимо программ-вымогателей, преступники применяют ИИ для мошеннических схем. Зафиксированы случаи использования языковых моделей для мошеннического трудоустройства в крупные компании из списка Fortune 500. ИИ помогает преодолевать требования к языковым и техническим навыкам во время процесса найма.
Anthropic усилила меры безопасности, блокируя подозрительные аккаунты и сотрудничая с правоохранительными органами. Компания обновила политику использования, явно запрещая применение ее инструментов для создания вредоносного ПО и мошеннических схем. Эксперты отмечают необходимость развития систем обнаружения угроз параллельно с развитием самих ИИ-технологий.
