Искусственный интеллект все активнее берет на себя обслуживание клиентов, но вместе с этим меняется и поведение пользователей. Исследователи попытались понять, как именно общение с ИИ влияет на честность потребителей. 

Изображение - ChatGPT

Статья в Journal of Business Research описывает серию экспериментов, в которых люди взаимодействовали либо с чат‑ботами, либо с сотрудниками службы поддержки. Ученые из Университета Сунь Ятсена обнаружили, что участники чаще лгали агентам ИИ: сообщали неправдивые данные, пытались воспользоваться ошибками в ценах и придумывали основания для получения скидок или бонусов.  

Авторы объясняют это тем, что при общении с ИИ люди меньше боятся опозориться перед машиной и получить от нее негативную оценку. Они называют это ожиданием «потери лица» и отмечают, что социальное осуждение оказывает более сильное влияние на поведение, чем чувство вины. Иначе говоря, пользователь не воспринимает ИИ как того, чье мнение для него действительно важно.  

При этом исследование показало, как можно уменьшить число таких случаев. «Когда роботы антропоморфизируются, потребители, как правило, оценивают их более благосклонно», — пишут исследователи. — «Антропоморфизм повышает доверие клиентов, их намерение использовать робота, комфорт и удовольствие от его использования. Кроме того, добавление человеческих качеств к роботу может заставить людей предпочитать проводить с ним больше времени».

Вместе с тем, специалисты отметили, что умеренный антропоморфизм повышает доверие и комфорт пользователей, в отличие от чрезмерно реалистичных роботов, которые часто вызывают эффект «зловещей долины», то есть ощущение дискомфорта, когда машина выглядит почти как человек, но все же не совсем естественно.