Компания Microsoft запустила свой продукт Bing AI chat для браузера Edge на прошлой неделе, и с тех пор он постоянно находится в новостях - но не всегда по хорошим причинам. Пользователи стали замечать, что бот Bing дает неверную информацию, ругает пользователей за то, что они тратят его время, и даже демонстрирует "невменяемое" поведение. В одном странном разговоре бот отказался выдать запрос на фильм "Аватар: Путь воды", настаивая на том, что фильм ещё не вышел, потому что он находится на стадии 2022 года. Когда пользователь попытался объяснить Bing, что он не прав, он назвал его "неразумным и упрямым".
Теперь Microsoft выпустила сообщение в блоге, в котором объяснила, что произошло и как она решает проблемы. Прежде всего, компания признала, что не предполагала, что ИИ Bing будет использоваться для "познания мира и социальных развлечений".
Эти "длинные, продолжительные сеансы чата из 15 и более вопросов" могут выбить ИИ из колеи. "Bing может стать повторяющимся или будет давать ответы, которые не всегда полезны или соответствовать запросу", - заявили в компании. Очевидно, это происходит потому, что вопрос за вопросом может заставить бота "забыть", на что он пытался ответить в первую очередь. Чтобы исправить это, Microsoft может добавить инструмент, позволяющий сбросить контекст поиска или начать поиск с нуля.
Несмотря на эти проблемы, тестеры в целом дали хорошие оценки ИИ Bing по цитированию и ссылкам для поиска, заявили в Microsoft, хотя ему необходимо улучшить работу с "очень своевременными данными, такими как прямые спортивные результаты". Кроме того, компания стремится улучшить фактические ответы на такие вопросы, как финансовые отчеты, увеличив в четыре раза объем данных об основаниях. Наконец, будет "добавлен переключатель, который даст вам больше контроля над точностью и креативностью ответа, чтобы адаптировать его к вашему запросу".
Команда Bing поблагодарила пользователей за проведенное тестирование, сказав, что оно "помогает нам улучшать продукт для всех". В то же время они выразили удивление тем, что люди проводят в чате до двух часов.
