Заведующая кафедрой лингвистических дисциплин Университета Западной Австралии Селеста Родригес Лоуро объяснила, почему нейросети популярны с научной точки зрения. Дело в том, что ответы, сгенерированные искусственным интеллектом, выглядят убедительно. Большинство людей сначала делают простые запросы, ответы на которые знают. Пользователям нравится ответ, и со временем они реже проверяют ИИ.  Ответы ChatGPT и подобных системы выглядят так, будто их пишет реальный собеседник. Однако, по мнению Родригес Лоуро, иллюзия очеловечивания ИИ может быть опасной. Она привела в пример то, как недавно злоумышленники использовали deepfake-технологию и выманили более $25 000 000 у жителя Гонконга.

Источник изображения: Dzen

Причина излишнего доверия заложена в природе человека. Человек запрограммирован на антропоморфизацию различных нечеловеческих существ, с которыми взаимодействует. Люди наделяют человеческими качествами животных и неодушевленные предметы.

Это мнение разделяют и другие ученые, среди них — Кайл Маховальд. Корень проблемы находится в том, что общество смешивает язык и мышление. Так как искусственный интеллект выдает информацию, звучит складно и не противоречит логике, создается впечатление, что ИИ действительно умеет думать. Успех генеративного ИИ обусловлен тем, что человек инстинктивно тянется к взаимодействию.