Пентагон хочет наводнить социальные сети фейковыми людьми с искусственным интеллектом

Пентагон изучает возможность использования генеративного ИИ для создания сложных фейковых персон в Интернете, что вызывает обеспокоенность по поводу воздействия на и без того сложную среду онлайн-дезинформации.

По данным The Intercept, Объединенное командование специальных операций (JSOC), секретное контртеррористическое подразделение Министерства обороны США, ищет технологии искусственного интеллекта для создания убедительных онлайн-идентификаторов для целей разведки и наблюдения.

Эта инициатива, хотя и направлена на улучшение операций цифровой разведки, противоречит постоянным предупреждениям правительства США об опасностях дипфейков и дезинформации, генерируемой ИИ. Эксперты опасаются, что интерес Пентагона к таким инструментам может ускорить глобальное принятие обмана, управляемого ИИ, что затруднит различение фактов от вымысла в и без того запутанной информационной экосистеме.

В закупочном документе JSOC подробно описала свою заинтересованность в ИИ, способном генерировать убедительные онлайн-персоны, дополненные реалистичными изображениями лица и фона, видео- и аудиослоями. Эти фальшивые персоны будут использоваться Силами специальных операций (SOF) для проникновения на онлайн-форумы и платформы социальных сетей с целью сбора разведданных.

Цель программы — позволить агентам SOF создавать сгенерированные ИИ личности, неотличимые от реальных людей, что даст им цифровое преимущество для операций по сбору разведданных. Хотя разведывательные агентства уже давно следят за онлайн-платформами, внедрение ИИ выведет это наблюдение на новый уровень, потенциально повысив их способность манипулировать и влиять на обсуждения незаметно.

Использование контента, созданного ИИ, уже давно является спорным вопросом. По мере того, как технология deepfake становится все более сложной, растут опасения, что она может усугубить распространение дезинформации. Интерес Пентагона к deepfake для цифрового наблюдения, который впервые проявился в 2023 году в документе о закупках от Командования специальных операций (SOCOM) Министерства обороны США, предполагает, что военные ведомства США рассматривают возможность широкомасштабного использования ИИ для усиления операций влияния и других разведывательных усилий.

Такой подход вызвал предупреждения со стороны таких экспертов, как Хайди Кхлааф, главный научный сотрудник по ИИ в AI Now Institute, которая предупреждает, что принятие Пентагоном обмана, генерируемого ИИ, вероятно, подтолкнет другие страны последовать его примеру. «Это только подтолкнет другие военные силы или противников сделать то же самое», — сказал Кхлааф, подчеркнув, что это может привести к миру, в котором отличить правду от вымысла станет все сложнее, что будет иметь серьезные геополитические последствия.

Интерес правительства США к использованию ИИ для разведки и кампаний влияния может создать тревожный прецедент, побуждая другие страны разрабатывать аналогичные возможности для наблюдения или даже дезинформации. Эксперты опасаются, что развертывание таких технологий может еще больше подорвать доверие к онлайн-информации, создавая среду, в которой обман становится процветающим, а правда становится более неуловимой, чем когда-либо.