Искусственный интеллект, позволяющий практически идеально копировать голоса, помогает мошенникам Северной Америки разводить пенсионеров. Преступники звонят пожилым жителям Соединенных Штатов и Канады и просят перевести им деньги. Используются различные причины и поводы. В течение телефонного разговора искусственный интеллект может менять тон и настроение голоса, придумывать ответы и убеждать жертву аферы в правдивости происходящего. Голоса, скопированные программой, звучат четко и внушительно.

73-летняя Рут Кард получила звонок от человека, который притворялся ее внуком Брендоном. Аферист сочинил историю, в которой он попал в полицию и ему требовался залог. Банковский работник, занимающийся транзакциями и переводами, уберег пенсионерку от потери денег. Другая жертва мошенничества, Бенджамин Перкин, не смог предотвратить ситуацию. Его пожилые родители попали под облаву аферистов. Им позвонили, а затем попросили снять трубку и позвонить снова, чтобы убедиться в достоверности и отсутствии темных схем. Искусственный интеллект снова справился с поставленной задачей и помог преступникам выпытать средства у старушки.

Многие заявляют, что разницы между голосами человека и программы вовсе нет. Это связано с тем, что имитация голоса создается не через знания и предположения искусственного интеллекта, а с помощью уже имеющихся записей человеческого голоса. Анонимный американский журналист провел собственное исследование и показал опасность и точность используемых методик – он смог взломать свой счет в банке, обманув искусственный интеллект, проверяющий биометрику, другой программой, сымитировавшим голос человека.

Еще несколько лет назад для клонирования голоса требовалось большое количество изначальных, оригинальных аудио, а обработать их было куда сложнее, чем в наши дни. Кроме того, требовалось высокое качество или даже студийные условия, чтобы искусственный интеллект не ошибся.  Сейчас нейросеть способна продублировать голос, располагая записью длиной в 30 секунд. Подписки на подобные сервисы стоят дешево – около 5 долларов. Каждая запись, выложенная в интернет, может использоваться в целях мошенничества и испытания искусственного интеллекта. Правила конфиденциальности позволяют сохранять файлы, поэтому мошенники смогут легко использовать их в аферах.