С начала ноября 2023 года OpenAI предлагает платным клиентам простой способ использования версии ChatGPT, оптимизированной для индивидуальных потребностей. По данным компании, проверка всех GPT призвана убедить пользователей в отсутствии преступной деятельности, которую может осуществить чат-бот. Однако исследование BBC показывает, что проверка, видимо, не очень тщательная.

Изображение из открытых источниковЖурналисты BBC научили GPT писать тексты для различных сценариев мошенничества. К ним относятся, например, афера с мессенджерами, криптомошенничество и фишинговые электронные письма. Некоторые из этих текстов журналистам удалось создать с помощью стандартной версии ChatGPT, но в большинстве случаев задания были отклонены системой.

Выводы BBC показывают, что обещанный OpenAI мониторинг GPT все еще имеет некоторые пробелы. При внедрении GPT компания, занимающаяся искусственным интеллектом, указала, что в среднесрочной перспективе могут потребоваться улучшения процесса проверки.
Модели искусственного интеллекта, оптимизированные для мошенничества, уже некоторое время циркулируют в интернете и имеют такие названия, как WolfGPT, Fraudbard или WormGPT. В первую очередь они служат преступникам для автоматизации их схем мошенничества.
Помимо больших языковых моделей, злоумышленники теперь используют и другие системы искусственного интеллекта. Известны случаи, когда преступники имитировали голоса детей с помощью ИИ, чтобы требовать выкуп у их родителей. По данным ФБР, попытки шантажа с использованием изображений, созданных ИИ, уже были зафиксированы правоохранительными органами.