В последнее время ИИ довольно часто фигурирует в заголовках от ChatGPT и написания статей до помощи в идентификации запахов с помощью биосенсоров. Но конечно если публика очарована им, то и правительство США по разным причинам тоже. Согласно выдержке из неопубликованной книги Пола Шарре "Четыре поля битвы: сила в эпоху искусственного интеллекта", правительство США и Агентство перспективных исследовательских проектов в области обороны (DARPA) тестируют использование ИИ для обнаружения движения человека в охраняемой области.

ИИ и компьютерное зрение уже довольно давно используются для обнаружения движения и идентификации людей на фотографиях и видео. Однако были недостатки и ошибки, в том числе неправильная идентификация. Такого рода проблемы не могут присутствовать в системе развернутой для военных, поэтому у DARPA вероятно есть строгий режим тестирования, включая испытания на людях. Но при тестировании системы обнаружения движения никогда не угадаешь с какими уловками людей придется столкнутся.

Восемь хитрых американских морских пехотинцев легко смогли разрушить алгоритм ИИ разработанный и обученный для обнаружения людей. В Твиттере редактор The Economist по вопросам защиты Шашанк Джоши опубликовал отрывок из книги, в котором рассказывается об этом тесте со ссылкой на источник по имени "Фил". Фил объяснил, что морские пехотинцы обыграли систему размещенную посреди кольцевой развязки несколькими хитрыми способами: первые двое "кувыркались на  протяжении 300 метров". Еще двое "спрятались под картонной коробкой".

Самым оригинальным является морской пехотинец, который "в поле срезал елку и передвигался прячась за ней". Маскировка солдат сводилась к изменениям очертания тела и алгоритма передвижения. ИИ не был обучен этим сценариям и просто не смог адаптироваться.

В конечном счете ИИ обученный одной конкретной задаче не очень гибок и мы вряд ли увидим его эффективное использование в повседневной жизни или в бою. У людей слишком много переменных, которые усложняют задачу.