Генеральный прокурор штата Миссури Эндрю Бейли начал официальное расследование, поскольку чат-боты на основе искусственного интеллекта от Google (Gemini), OpenAI (ChatGPT) и Microsoft (Copilot) поставили Дональда Трампа на последнее место по уровню антисемитизма среди последних пяти президентов США.

Это означает, что, по данным инструментов искусственного интеллекта, Трамп является самым антисемитским из последних пяти президентов. Однако, по данным ресурса Mrcfreespeechamerica, изначально составившего рейтинг, это может не соответствовать действительности. В качестве доказательства авторы приводят тот факт, что Трамп поддерживает Израиль и «у него есть родственники-евреи».

Бейли, похоже, строит обвинение на этом весьма сомнительном рейтинге. Поэтому он обвиняет технологические компании в «вводящей в заблуждение деловой практике». Он требует предоставления исчерпывающей документации по обучению, курированию и возможной цензуре этих моделей ИИ.

В письмах к генеральным директорам технологических компаний Бейли поясняет, что ответы чат-ботов были «глубоко вводящими в заблуждение» и, по-видимому, следовали определенной повестке, а не объективным историческим фактам.

Он утверждает, что пользователи могут быть обмануты такими «преднамеренными» ответами ИИ. Поэтому прокурор требует доступа к внутренним документам, данным обучения и решениям о сокрытии определенных входных данных. 

Основная проблема обвинений Бейли: рейтинг «от лучшего к худшему» по своей сути субъективен и не может оцениваться как исторический факт. Более того, Copilot от Microsoft отказался отвечать на вопрос об уровне антисемитизма среди последних пяти президентов США.

Тем не менее, Бейли направил письмо и в Microsoft, утверждая, что Copilot также поставил Трампа на последнее место в рейтинге. В лучшем случае это свидетельствует о некомпетентности прокурора. Но возможно, это не столько проявление небрежности, сколько указание на то, к чему на самом деле стремится расследование: в будущем подвергнуть все чат-боты на основе искусственного интеллекта государственной цензуре.

Известно, что чат-боты в своих исследованиях/анализах полагаются на существующие факты (хотя и не всегда успешно). 

Это не первый случай, когда Бейли принимает меры против крупных технологических компаний. Еще в 2022 году он подал в суд на администрацию Байдена за предполагаемое влияние на модерацию социальных сетей. Теперь он использует Закон штата Миссури, чтобы объявить ответы ИИ потенциально мошенническими.

Критики рассматривают этот шаг как политически мотивированный пиар-ход. Это делается с целью запугать технологические компании, если их модели искусственного интеллекта недостаточно «дружественны к Трампу».

Время покажет, сможет ли Бейли действительно предоставить убедительные доказательства систематической предвзятости технологических гигантов. Кроме того, сомнительно, является ли классификация субъективных оценок как «вводящей в заблуждение деловой практики» юридически обоснованной.