Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
США едва не взяли на абордаж китайское судно на Ближнем Востоке. Причиной стала ложная разведывательная сводка, которую подготовил американский аналитик Командования специальных операций с помощью чат-бота.
Изображение: Aurich Lawson
Аналитик из Пентагона загрузил в чат-бот разведданные о грузе судна. Программа выдала отчет, в котором говорилось о перевозке компонентов ядерной программы. На основе этого донесения военные начали планировать абордаж и высадку на судно с воздуха. Ошибку обнаружили до начала операции. Один из источников CNN сказал, что это «почти начало войну».
Пентагон активно внедряет ИИ. В январе была запущена стратегия ускорения ИИ, в декабре — платформа GenAI.mil на базе Gemini, а затем добавлен Grok. Anthropic также предлагает версию Claude для разведки. В июне представитель Пентагона сообщил, что 1,5 миллиона сотрудников используют генеративные инструменты.
Экс-сотрудник Anthropic: гонка за созданием сверхинтеллекта несёт серьёзные проблемы человечеству Дарио Амодеи: без замедления развития ИИ человечество ждёт катастрофа
В 2023 году Госдепартамент США призывал к ответственному использованию ИИ с обязательным участием человека. С тех пор появились полностью автономные дроны, а Anthropic попал в черный список за отказ от использования в автономном оружии.
Сообщения о почти случившемся захвате судна другого государства в американских и мировых СМИ на фоне предупреждений об угрозе для человечества из-за ИИ.