Инцидент с «галлюцинацией» искусственного интеллекта (ИИ) едва не привёл к реальной военной операции США против Китая. По данным TechCrunch, один из военных аналитиков использовал ИИ для интерпретации разведданных о китайском судне, после чего система выдала ошибочный вывод о возможной транспортировке компонентов, связанных с ядерными технологиями. На основе этого отчёта военные начали подготовку к перехвату корабля, включая развёртывание сил и техники.Источник изображения: ChatGPTПозднее выяснилось, что информация была некорректной: ИИ «смешал» открытые и закрытые источники и сделал необоснованные выводы – типичный пример так называемой «галлюцинации» моделей. Только дополнительная проверка человеком в последний момент позволила остановить операцию и избежать потенциальной эскалации конфликта.

Случай вызвал серьёзную обеспокоенность среди специалистов по безопасности и внутри самого Пентагона. Проблема была не столько в самом ИИ, сколько в чрезмерном доверии к его выводам без достаточной верификации. Внедрение ИИ в военные процессы происходит фрагментарно, без единых стандартов контроля, что увеличивает риск подобных инцидентов.

Аналитики связывают произошедшее с более широкой тенденцией ускоренной интеграции ИИ в военные системы по всему миру. Такие технологии уже используются для анализа разведданных, планирования операций и даже выбора целей. Однако, как показывает этот случай, даже небольшая ошибка алгоритма может привести к масштабным последствиям, включая международный конфликт.