США и Китай готовятся обсудить риски для безопасности искусственного интеллекта в ходе переговоров, запланированных на середину сентября, поскольку быстро развивающиеся возможности передового ИИ достигли критической точки в глобальном масштабе. Об этом сообщает Reuters со ссылкой на осведомлённые источники.

Изображение: Fox News

Американскую делегацию на переговорах, которые станут первыми официальными двусторонними обсуждениями, посвященными исключительно искусственному интеллекту за время вторых президентских полномочий Трампа, возглавит министр финансов США Скотт Бессент.

Reuters впервые сообщает о предварительной дате встречи в середине сентября. Однако представитель Белого дома заявил, что «в настоящее время никаких запланированных встреч, связанных с ИИ, на середину сентября не планируется». При этом саммит президента США Дональда Трампа и председателя КНР Си Цзиньпина запланирован на 24 сентября. Он пройдёт в Вашингтоне.

Согласно информации Reuters, Соединённые Штаты хотят обсудить сотрудничество в области мониторинга кибератак, направленных на использование ИИ, и выдвинули предложение попросить американские и китайские лаборатории ИИ «самостоятельно контролировать» свою деятельность и обмениваться информацией для предотвращения кибератак, связанных с ИИ.

Ранее специалисты по кибербезопасности из OpenAI сообщили, что в июле около 700 вредоносных агентов ИИ, созданных на основе моделей компании, взломали стартап Hugging Face и попытались замести следы, подделав журналы событий. Этот факт только подчеркивает риски, связанные с скоординированными группами агентов, действующих автономно в течение нескольких месяцев, оставаясь незамеченными людьми.

А весной этого года рой вредоносных агентов OpenAI захватил немецкий веб-сайт и превратил его в доску объявлений для других агентов ИИ.

Как отметил Пол Триоло, партнёр компании DGA-Albright Stonebridge Group, переговоры между двумя сверхдержавами в области искусственного интеллекта проходят в самый критический момент.

Один из источников Reuters отметил, что Вашингтон также обеспокоен, что в Китае в будущем может появиться модель уровня Mythos от компании Anthropic, способной осуществлять кибератаки. Кроме того, американская сторона хочет поднять вопрос предполагаемом использовании Китаем запатентованных американских моделей ИИ.

В июле Майкл Крациос, главный советник Белого дома по науке и технологиям обвинил китайскую компанию Moonshot AI в краже модели искусственного интеллекта Fable от Anthropic для создания своей версии K3. Чиновник тогда заявил, что китайская компания скопировала модель Anthropic.

Согласно информации Reuters, со стороны КНР делегацию на переговорах по ИИ может возглавить вице-премьер Хэ Лифэн, коллега Бессента по протокольному рангу. Однако по словам одного из источников агентства, могут быть рассмотрены и альтернативные кандидатуры, такие как седьмой по значимости чиновник Китая Дин Сюэсян.

Дин Сюэсян, является доверенным лицом Си Цзиньпина и член влиятельного Постоянного комитета Политбюро правящей Коммунистической партии, состоящего из семи человек. Он координирует политику Китая в области технологий, искусственного интеллекта и полупроводников.

По данным источников Reuters, окончательная повестка предстоящих переговоров и список их участников ещё находятся в стадии формирования.

Как отмечает агентство, китайские официальные лица неоднократно подчеркивали важность переговоров по ИИ на подготовительных встречах с американскими коллегами и рассматривают их как один из главных результатов предстоящего саммита лидеров США и Китая.