Несмотря на то, что генеративные чат-боты с искусственным интеллектом все еще находятся в "зачаточном" состоянии, но уже широко используются и завоевали репутацию не очень надежных источников информации. Конечно, они могут дать вам несколько отличных рецептов или идей для отпуска, но когда дело доходит до конкретных фактов о прошлых событиях, вам понадобится их проверка. Такие боты, как ChatGPT, не видят разницы между фактами и вымыслом и могут просто выдумывать вещи из воздуха. Эта склонность к распространению ложных сведений стала основанием для первого в своем роде иска о клевете против компании Open AI, которую создал ChatGPT. Иск касается любопытного юридического вопроса о том, может ли создатель ChatGPT нести ответственность за вымышленные утверждения, которые чат-бот создает.

Иск подал репортер из Джорджии, который занимался написанием статьи о деле в федеральном суде и попросил ChatGPT подытожить ее, предоставив ему PDF-файл для изучения. Чат-бот предоставил краткое изложение, но включил ложные утверждения о третьем лице по имени Марк Уолтерс, радиоведущем из Атланты, который подает в суд на OpenAI. В своем резюме ChatGPT заявил, что Уолтерс присвоил 5 миллионов долларов у организации, поддерживающей Вторую поправку, в чем Уолтерс никогда ранее даже не обвинялся.

ChatGPT говорит, что он не придумывает всякую ерунду, как это делают люди, поэтому "дело закрыто".

Поэтому Уолтерс подает в суд на OpenAI, потому что ее чат-бот фактически опубликовал «клевету», передав их журналисту, подвергнув Уолтерса репутационному ущербу и возможному общественному презрению. Журналист так и не опубликовал эту информацию, поэтому неизвестно, как Уолтерс узнал о ней, сообщает The Verge. В иске Уолтерс требует возмещения морального и репутационного ущерба, а также судебных издержек, которые будут решаться присяжными.

Очевидно, что ChatGPT не должен выдумывать информацию о людях, особенно когда речь идет о преступлениях, неясно, может ли OpenAI нести ответственность за ущерб в этом деле. Сам ChatGPT скажет вам, что ему нельзя доверять, и OpenAI также делал подобные заявления в прошлом. Также возможно, что этот случай подпадает под действие Статьи 230, которая регулирует информацию, появляющуюся на платформе, но не загружаемую создателем платформы. Однако неясно, будут ли эти правила применяться к системе на основе искусственного интеллекта, генерирующей контент.

В целом, это всего лишь первый пример того, что, вероятно, будет связано со многими судебными исками, связанными с искусственным интеллектом. Быстрое распространение этих генерирующих текстовых сервисов открыло ящик Пандоры, и наша нынешняя правовая система в настоящее время имеет мало гарантий или правовых стандартов, что напоминает быстрое распространение различных интернет-ресурсов много лет назад. Это оставляет за компаниями-разработчиками право определять и управлять тем, какие меры безопасности должны присутствовать и как их развертывать, гарантируя, что никто не использует их злонамеренно.