Функция AI Overviews («обзоры с использованием ИИ»), представленная в США в мае 2024 года и доступная во всём мире с весны 2025 года, не только приводит к снижению кликабельности традиционных результатов поиска Google. Эта программа на базе ИИ также поначалу вызывала особенное недовольство из-за ошибочных результатов при поиске.
Ошибки, вероятно, отчасти связаны с так называемыми галлюцинациями ИИ, которые также влияют на AI Overviews. Однако исследование Originality.ai выявило другой источник ошибок. Используя своё программное обеспечение, специализирующееся на распознавании текста, сгенерированного ИИ, Originality.ai обнаружила, что 10,4% источников, цитируемых в AI Overviews, сами были созданы моделями ИИ. Это означает, что один ИИ цитирует контент другого ИИ, как сообщает The Register.
Как объясняет Мадлен Ламберт, руководитель отдела маркетинга и продаж Originality.ai, даже небольшая доля источников, генерируемых ИИ, вызывает вопросы о доверии и надёжности. В рамках исследования Originality.ai проанализировала в общей сложности 29 000 запросов Google по темам, связанным с «деньгами или здоровьем».
Сводки пока не интегрированы напрямую в обучение ИИ-моделей. Однако чрезмерное цитирование контента, созданного ИИ, увеличивает вероятность повторного использования этих результатов в будущих моделях, говорит Ламберт. Он утверждает: «Это может привести к рекурсии».
В исследовании, опубликованном в журнале Nature ещё в 2024 году, международная исследовательская группа предупредила, что модели искусственного интеллекта могут стать неэффективными, если их обучать на данных, созданных другими моделями ИИ. Просто потому, что эти данные постепенно исказят обучающие наборы следующего поколения.
Тем временем Google опровергла результаты исследование Originality.ai, назвав его «ошибочным». Оно якобы основано на неполных данных и ненадёжных технологиях. Ссылки, содержащиеся в AI Overviews, являются динамическими и меняются в зависимости от наиболее релевантной, полезной и актуальной информации для соответствующего поиска.
