Сила искусственного интеллекта открывает новые горизонты. От автоматизации процессов до функций, ранее считавшихся невозможными, весь сектор технологий извлекает выгоду из ИИ. Тем не менее, доступность языковых моделей привела к их использованию мошенниками. Недавно пользователи Gmail стали свидетелями высоко реалистичных мошеннических схем, созданных на базе ИИ, которые могут обмануть менее опытных пользователей.

  С развитием методов защиты от фишинга злоумышленникам приходится прибегать к более сложным подходам. Один из наиболее современных случаев фишинга коснулся Сэма Митровича, консультанта Microsoft, который поделился своим опытом, призывая к бдительности. Как пользователь Gmail, Митрович получал тревожные уведомления о попытках восстановить аккаунт и звонки, якобы исходящие от Google. Он игнорировал их, как и следовало делать в подобных случаях. Однако, чтобы понять суть ситуации, он в конце концов ответил на один из звонков. Интересно, что собеседник говорил с явным американским акцентом, хотя звонок поступил из Австралии.

  Предполагаемый «агент Google» обратился к Митровичу с вопросом о его поездках по Германии, упомянув, что неделю назад кто-то получил доступ к его аккаунту Gmail и его личным данным. Такие обращения часто встречаются в фишинговых схемах, поскольку они направлены на запугивание жертвы и принуждение её к выполнению требований мошенника. Во время разговора Митрович искал номер телефона в интернете, и оказался, что это действительно номер Google Australia.

  На данном этапе многие люди могут легко согласиться на всё, что им говорят. Убедившись, что звонок поступил с, казалось бы, «законного» номера, они могут принять информацию от «агента» за правду. Однако мошенники умеют «маскировать» свои номера, создавая видимость законности. Чтобы понять схему мошенничества, Митрович попросил «агента Google» отправить ему электронное письмо для проверки. Он хотел удостовериться в законности адреса отправителя. В этот момент он заметил, что один из адресов в поле «кому» оказался поддельным, что подтвердило его подозрения.

  Вдобавок Митрович осознал, что предполагаемый агент Google на самом деле использовал голос, созданный с помощью искусственного интеллекта. Наблюдая за тем, как разворачивается схема мошенничества, Митрович решил завершить разговор. Если бы они не остановились, следующим шагом, вероятно, было бы предложение ему выполнить действия по восстановлению Gmail, что предоставило бы злоумышленнику доступ к его аккаунту.

  Эта мошенническая схема, использующая искусственный интеллект для атаки на учетные записи Gmail, обладает высокой степенью сложности. От синтетического голоса до телефонных номеров, которые кажутся легитимными от Google, всё это действуют в тандеме для повышения эффективности фишинга.