Хакер под ником «Кира» (Kira) обнародовал информацию о деятельности компании Doublespeed, получившей финансирование от венчурного фонда Andreessen Horowitz.
Сообщается о получении доступа к внутренним системам и об опубликованном видео, демонстрирующем работу фермы. Устройства были размещены на складе и объединены в единую сеть, управляемую централизованной платформой.
Бот-ферма создавала контент для социальной сети TikTok, выдавая ИИ-публикации за обычные посты пользователей, из‑за чего алгоритмы платформы воспринимали такие материалы как органические и продвигали их в рекомендациях.
На ферме работали виртуальные персонажи, сгенерированные нейросетями. Искусственно созданные блогеры рекламировали различные товары, включая косметику и электронику. ИИ-инфлюенсеры лайкали, комментировали и листали ленту, имитируя поведение реальных пользователей, чтобы обойти алгоритмы платформы и обеспечить попадание в рекомендации спонсируемых товаров под видом органичного контента. В работе применялись технологии подмены сетевых адресов и обхода механизмов распознавания для маскировки автоматизированной активности.
Утечка позволила идентифицировать товары и бренды, продвигавшиеся через эту схему. Часть продвигаемых товаров относится к сомнительным категориям, что теоретически может повлечь правовые риски.
Эксперты отмечают, что такие методы снижают доверие аудитории к контенту в социальных сетях.