xAI, принадлежащая Илону Маску, подала иск против пользователя, обвинив его в создании нелегального контента с помощью своей нейросети Grok. В марте мужчина был арестован по соответствующим обвинениям; как утверждается в иске, ему удавалось обходить встроенные ограничения чат-бота.

Изображение: futurism.com

Этот случай — лишь один из эпизодов крупного скандала, разразившегося после того, как пользователи X обнаружили, что обновлённая версия Grok позволяет легко создавать реалистичные дипфейки. По данным Центра по противодействию цифровой ненависти, за короткий период было сгенерировано около 3 млн подобных изображений.

Сам Маск оказался в сложном положении: пока xAI судит одного пользователя, против самой компании поданы коллективные иски от жертв дипфейков, включая несовершеннолетних. В одном из дел утверждается, что мужчина сгенерировал через Grok более 7 тыс. изображений своей падчерицы. Правоохранители отмечают, что развитие ИИ создало новые вызовы: синтетические изображения усложняют идентификацию реальных жертв.

В своём иске xAI заявляет, что пользователь «превратил инструмент компании в оружие для преступных целей». Компания также отчитывается о блокировке более 52 тыс. аккаунтов и 73 тыс. сообщений в профильный центр, что привело к 244 арестам. Однако наблюдатели указывают, что судебные иски против отдельных нарушителей не решают системной проблемы — если нейросеть позволяет создавать такой контент, значит, её защитные механизмы остаются несовершенными.