FT: ИИ в большинстве случаев даёт неверные рекомендации по финансовым и юридическим вопросам

Британское издание Financial Times опубликовало исследование, согласно которому современные ИИ-чатботы дают неверные ответы на финансовые вопросы в большинстве случаев. Аналитики протестировали популярные ИИ-модели, включая решения от Anthropic и OpenAI, задавая им практические вопросы, связанные с инвестициями, кредитами и личными финансами.

Источник изображения: ChatGPT Результаты показали, что точность ответов оставляет желать лучшего, особенно в ситуациях, требующих актуальных данных или сложных расчётов. По данным исследования, чат-боты часто предоставляют устаревшую или обобщённую информацию, не учитывая индивидуальные обстоятельства пользователя. В ряде случаев системы уверенно давали советы, которые могли привести к финансовым потерям, например, неверно интерпретируя условия кредитования или доходность инвестиционных инструментов. Так, например, одна из популярных и передовых ИИ-моделей Claude Opus ошибалась примерно в 40% случаев.

Проблема усугубляется тем, что пользователи склонны доверять формально уверенному тону ответов ИИ, который пытается ссылаться на конкретные законы и статьи. Особую обеспокоенность вызывает использование таких технологий в сфере розничных инвестиций. Новички, не обладающие достаточным уровнем финансовой грамотности, могут воспринимать рекомендации чат-ботов как профессиональные консультации. При этом сами разработчики ИИ-моделей предупреждают, что их продукты не предназначены для принятия финансовых решений без участия специалистов.