Платим блогерам
Блоги
kosmos_news
Сообщается, что «бессмысленные поисковые запросы» содержат целевые ошибки.

Так называемые «Обзоры ИИ» (или просто поиск Google с использованием искусственного интеллекта), которые поисковая система Google в последнее время предлагает в США, как сообщается, подверглись критике из-за содержащейся в них неверной информации. Хотя в критических постах в социальных сетях было распространено множество «фейковых скриншотов», Лиз Рид, глава отдела поиска, признает, что необходимы улучшения.

По словам Рид, обзоры ИИ, как правило, не вызывают галлюцинаций и не выдумывают вещи подобно аналогичным инструментам LLM.
«Когда обзоры ИИ ошибаются, это обычно происходит по другим причинам: неправильная интерпретация запросов, неправильная интерпретация лингвистического нюанса в сети или отсутствие доступа к большому количеству полезной информации», — говорит Лиз Рид.

Для улучшения ответов ИИ Google были приняты краткосрочные меры, в том числе:

  • Ограничение сатиры и юмористического содержания
  • Ввод ограничения для поиска, где обзор ИИ не оказался столь полезным
  • Поиск с ИИ для сложных тем новостей, где важны своевременность и актуальность
  • Ввод дополнительных поисковых инструментов по проблемам со здоровьем
Хотя сообщения о неправильных ответах ИИ и обсуждения в социальных сетях были очень широко распространены, только один из 7 миллионов запросов (0,0000143%; это 143 на миллиард) нарушил собственные правила компании в отношении контента. Между тем, Google планирует отвечать на миллиарды поисковых запросов в день, а это означает, что лишь очень небольшая часть пользователей будет напрямую сталкиваться с неправильными ответами ИИ.

реклама

Google также пытается дистанцироваться от ChatGPT и прочих чат-ботов, которые часто говорят неправду или что-то выдумывают, и ссылается на взаимодействие своих собственных моделей искусственного интеллекта с данными веб-поиска.

«Обзоры ИИ работают совсем не так, как чат-боты и другие продукты LLM, которые вы, возможно, уже пробовали. Вы не просто генерируете выходные данные на основе обучающих данных. Хотя обзоры ИИ основаны на специальной языковой модели, эта модель интегрирована в наши основные системы веб-рейтинга и предназначена для выполнения традиционных «поисковых» задач, таких как выявление релевантных высококачественных результатов из нашего индекса», — сказала Рид.

По этой причине обзоры ИИ не только обеспечивают текстовый вывод, но и содержат соответствующие ссылки, чтобы пользователи могли осуществлять дальнейший поиск. Поскольку точность поиска имеет первостепенное значение, обзоры ИИ показывают только ту информацию, которая подтверждается лучшими веб-результатами.

Неизвестно, скоро ли утихнет ажиотаж вокруг ответов ИИ или появятся новые ошибки. Поскольку это основной бизнес Google, можно предположить, что компания наверняка делает все возможное для устранения ошибок. По словам Рид, также было показано, что пользователи, как правило, больше удовлетворены обзорами ИИ, чем обычными результатами поиска, которые им были известны ранее.

Рид также частично винит в неправильных ответах самих пользователей.

«Мы видели бессмысленные новые поисковые запросы, которые, по всей видимости, направлены на выдачу ложных результатов», — говорит менеджер Google.
+
Написать комментарий (0)

Популярные новости

Сейчас обсуждают