Как сообщает американское издание The Wall Street Journal, мошенники все чаще интегрируют в свои преступные схемы такие инструменты, как ИИ и нейросети. Так, продвинутые чат-боты позволяют массово генерировать уникальные и правдоподобно выглядящие тексты для фишинговых писем, что затрудняет их обнаружение автоматическими антиспам-фильтрами. И это лишь вершина айсберга: ИИ активно применяется и для социальной инженерии. Например, преступники используют специализированное ПО для создания видео- и аудиодипфейков, выдавая себя за сотрудников и руководителей компаний.
По информации журналистов, крупные технологические корпорации и банки разрабатывают собственное ПО для противодействия ИИ-мошенничеству – например, подобный проект имеется у JPMorgan Chase. Тем не менее, злоумышленники, как более заинтересованная сторона, пока оказываются на шаг впереди — от их действий страдают все больше людей, поскольку нейросети позволяют еще и автоматизировать часть процессов, одновременно атакуя больше жертв. Согласно проведенному в США опросу, 70% респондентов считают, что преступники используют ИИ более эффективно, чем финансовые учреждения.