Сбербанк представил инновацию в функционале своего чат-бота GigaChat, направленную на борьбу с возможными галлюцинациями у нейросетей. Согласно представленной информации, галлюцинации в ответах искусственного интеллекта являются обычным явлением, создающим сложности в отличии фактов от вымышленных данных.
Разработчики решили эту проблему, обучив ИИ-бота GigaChat прикреплять ссылки на первоисточники прямо к своим ответам. Это нововведение позволяет пользователям проверять источники информации, полученной от чат-бота, особенно при решении фактологических вопросов. Пользователи теперь могут с легкостью перейти по предоставленным ссылкам прямо из формы ответа для дополнительной проверки достоверности данных.
Эта функциональность реализована с использованием фирменной системы генерации на основе поисковой выдачи, известной как GigaSearch. Таким образом, внедрение данной опции улучшает прозрачность и достоверность ответов нейросети, предоставляя пользователям возможность более тщательной проверки источников информации.