В прошлом году много новостей было посвящено метавселенной, но этот проект не выстрелил и технологические гиганты перевели свое внимание на что-то новое. Чат-боты с искусственным интеллектом в моде в 2023 году, но можно ли им доверять? Microsoft получила хорошие отзывы о своем поисковике Bing с поддержкой ChatGPT, в ответ Google выпустила собственный чат-бот под названием Bard, который проходит публичное тестирование. Эти искусственные интеллекты уже показали, что они склонны совершать глупые ошибки, но поток дезинформации теперь вышел на новый уровень. Bard и Bing теперь цитируют друг друга, передавая одну и ту же ложь туда и обратно, тем самым обманывая пользователей интернета.

Возможно, вы сами видели эту шутку, гуляющую по Интернету. Кто-то в Твиттере спросил Барда, сколько времени пройдет, пока Google не закроет его, что является справедливым вопросом, учитывая тенденцию Google убивать сервисы, которые не становятся успешными в первый месяц. Бард ответил, что его уже закрыли, сославшись на единственный шутливый комментарий на Hacker News. Бард, неправильно поняв шутку, сказал, что его (Барда) уже закрыли. Забавно, правда?

Но на этом история ещё не закончилась. Согласно The Verge, Bing на базе OpenAI от Microsoft запомнил этот ответ и начал его распространять. Windows Central опубликовал статью о том, что Бард закрыл сам себя, а Bing использовал ее в качестве источника, когда его спросили, был ли Бард закрыт. Основываясь на статье, которую Bing неправильно понял, он ответил, что Бард уже мертв. Прошло всего несколько недель с тех пор, как появились эти "революционные" чат-боты, но они уже зарекомендовали себя как "желтая пресса".

Хотя с тех пор в Bing были внесены изменения, чтобы он не давал ложную информацию и что Бард все еще жив, этот ответ иллюстрирует фундаментальную проблему для ИИ: он не знает, что реально. Не то чтобы люди были безупречны в этом отношении. Многие из нас читали фейковую новость в интернете и потом рассказывали своим друзьям (ну хотя бы в первые года появления интернета). В отсутствие какого-либо чувства юмора эти алгоритмы кажутся слишком легковерными, готовыми поверить одному комментарию или новостной статье, не понимая более широкого контекста. Возможно, Google и Microsoft должны внести какие-то изменения в свои нейросети и запрограммировать своих ботов так, чтобы они игнорировали все, что было опубликовано 1 апреля.

Не будем забывать, что изначально OpenAI очень опасалась публиковать свои модели GPT, ссылаясь на их способность распространять дезинформацию. Что ж, начинает казаться, что эти опасения были вполне обоснованными. Если даже их назвать «экспериментами» или «бета-версиями», то это будет оправданием для таких знаменитых компаний?

Компании сейчас интегрируют эти инструменты в свои продукты. Microsoft добавила бота GPT в свою поисковую систему Bing. Хотя Bing не конкурирует с Google, он по-прежнему является важным продуктом для Microsoft. Между тем, Google объявила о планах добавить ИИ, подобный Барду, в свои продукты Workspace, которые используют предприятия и школы по всему миру. Возможно через несколько лет мы сможем оглянуться на этот период как на важный урок неадекватности ИИ.