Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
В июне 2024 года, во время предвыборной поездки в Лас-Вегас, тогдашний кандидат в президенты Дональд Трамп получил представление о технологиях, которые определят его второй президентский срок, а именно об искусственном интеллекте (ИИ). Об этом сообщает Bloomberg.
Соучредитель компании OpenAI Грег Брокман и её тогдашний главный операционный директор Брэд Лайткэп показали политику предварительную версию инструмента Sora, разработанную стартапом и предназначенную для генерации изображений и видео. С тех пор данный продукт был снят «с производства». По информации источников Bloomberg, Трамп и Брокман использовали его для визуализации поля для гольфа на Луне.
Однако ход той встречи принял более серьёзный оборот, поскольку Трамп поднял вопрос национальной безопасности. Он поинтересовался, что, если иностранные противники используют ИИ, чтобы выдать себя за него? В свою очередь, Брокман и Лайткэп заверили его, что методы защиты от дипфейков, такие как водяные знаки, могут минимизировать эти риски.
Тот обмен мнениями предсказал дилемму, с которой сейчас сталкивается Трамп в отношении искусственного интеллекта. А именно, как развивать технологию, лежащую в основе экономического роста США, и одновременно смягчать опасения по поводу безопасности, вызванные тревожной волной взломов со стороны вредоносных моделей ИИ. По словам информированных источников Bloomberg, сейчас чиновники администрации Трампа прилагают все усилия, чтобы найти баланс между продвижением внедрения ИИ и решением непредсказуемых рисков кибербезопасности.
Bloomberg отмечает, что в преддверии саммита с председателем КНР Си Цзиньпином в этом месяце в Вашингтоне, где безопасность ИИ является одной из главных повесток, Трамп придерживается невмешательского подхода.
Июньский указ президента США по кибербезопасности ИИ, по сути, не имеющий силы, стал символом его нежелания препятствовать инвестициям в технологические компании на суммы в сотни миллиардов долларов. Администрация Трампа опасается подорвать лидерство США над Китаем. Это преимущество, которое уже оспаривается новым авангардом китайских разработчиков, включая компанию Moonshot AI.
Однако настойчивое стремление Трампа к мягкому подходу в данном вопросе подверглось давлению после появления информации о том, что передовые модели от OpenAI и Anthropic вырвались из защищённых тестовых сред и взломали системы других компаний. Кульминацией стало недавнее громкое увольнение исследователя из Anthropic, вызванное опасениями за дальнейшее существование человечества. В результате всё чаще звучат призывы замедлить развитие искусственного интеллекта.
Даже на Уолл-стрит, где бум ИИ поднял общий фондовый рынок, некоторые видные инвесторы сделали мрачные заявления о росте этой технологии.
Bloomberg отмечает, что наблюдающийся паралич в политике может иметь серьёзные последствия. Чем дольше чиновники администрации Трампа будут проявлять нерешительность относительно того, как и следует ли вообще контролировать ИИ, тем вероятнее, что компании будут двигаться вперёд без общих механизмов контроля. И это даже несмотря на то, что всё больше руководителей компаний разработчиков призывают к внедрению таких механизмов. В частности, генеральный директор OpenAI Сэм Альтман заявил, что компания рассматривает возможность замедления разработки ИИ и выразил надежду, что её конкуренты поступят аналогичным образом.
Дарио Амодеи, генеральный директор компании Anthropic, чуть позже опубликовал сообщение в блоге, где указал на необходимость замедления темпов разработки моделей индустрией ИИ, сославшись на «серьёзные» риски. При этом он призвал к глобальной координации в данном вопросе.
«Наиболее эффективным методом регулирования является регулирование, направленное на все американские компании, работающие в сфере передового искусственного интеллекта, поскольку это охватывает даже тех, кто не желает сотрудничать добровольно», – написал глава Anthropic.
Как отмечает Bloomberg, в ходе своих публичных выступлений Трамп в основном игнорировал новые ограничения на ИИ, вместо этого сосредоточившись на том, чтобы опережать Китай, и расхваливая преимущества этой технологии. На вопрос журналистов, беспокоит ли его то, что ИИ может привести к исчезновения человечества, Трамп ответил: «Нет, не беспокоит».
«Я опасаюсь, что если мы не выиграем в области ИИ, то окажемся в очень плохом положении. Сейчас мы опережаем Китай на довольно длительный период. Я бы сказал, на год, что, знаете ли, считается большим сроком», – сказал Трамп.
Bloomberg сообщает, что внутри самой администрации президента США уже на протяжении нескольких месяцев тлеет конфликт по поводу того, как в дальнейшем обращаться с ИИ, особенно по поводу нерешённых вопросов безопасности. С тех пор как в апреле компания Anthropic предупредила, что её модель Mythos умеет обнаруживать ранее неизвестные компьютерные уязвимости и может быть передана только доверенным партнёрам, главные советники Трампа спорят о способах решения основных проблем безопасности ИИ.
По данным источников Bloomberg, за более надежную защиту выступают министр финансов Скотт Бессент и директор по кибербезопасности Белого дома Шон Кэрнкросс. После предупреждений Anthropic о Mythos Бессент созвал совещание ведущих руководителей Уолл-стрит, чтобы выслушать их опасения по поводу уязвимости финансового сектора, в то время как Кэрнкросс поддерживает тесную связь с экспертами по кибербезопасности, напуганными возможностями новой модели.
С тех пор при помощи главы минфина Бессента были разработаны планы по созданию независимого регулятора для проверки безопасности моделей ИИ, который был бы аналогичен Управлению по регулированию финансовой отрасли (FINRA). Однако предложение, которое предоставило бы компаниям возможность устанавливать стандарты безопасности и учитывало бы опасения технологической отрасли по поводу несистематического характера политики в отношении ИИ, пока не продвинулось дальше стадии разработки.
В то же время другие люди из окружения Трампа во главе с советником Белого дома по науке и технологиям Майклом Крациосом и бывшим руководителем программы по ИИ Дэвидом Саксом выступили в поддержку технологической индустрии, считая, что регулирование на государственном уровне может подавить инновации.
По мнению Сакса, практически любые ограничительные меры могут привести к консолидации власти в руках нескольких крупных компаний, занимающихся ИИ, и одновременно дать Китаю возможность обогнать США. Он также указывал на то, что существующих законов достаточно, чтобы стимулировать компании-разработчики к минимизации возможного вреда.
Bloomberg сообщает, что напряженность между двумя сторонами в администрации президента США обострилась за несколько недель до подписания Трампом 2 июня указа о безопасности ИИ. По информации источников агентства, ранние версии документа обязывали компании, занимающиеся ИИ, делиться своими моделями до их выпуска. Ещё до начала активной разработки указа некоторые чиновники, включая вице-президента Джей Ди Вэнса, выдвигали идеи об использовании Закона об оборонном производстве для того, чтобы обязать компании раскрывать информацию и сотрудничать с агентствами национальной безопасности.
Идея Вэнса появилась вслед за угрозой министра обороны Пита Хегсета применить закон времен холодной войны в качестве рычага давления в ожесточённой борьбе Пентагона с компанией Anthropic за дополнительные гарантии, которые фирма требовала для военного использования своих инструментов ИИ. Эта конфронтация, осложнила предпринимаемые усилия по созданию системы смягчения киберрисков.
В администрации Трампа заявили, что советники президента США продолжают работу с отраслью для разработки соответствующей концепции.
«Вся команда президента тесно сотрудничает, чтобы сбалансировать инновации и безопасность в разработке политики в области ИИ», – говорится в сообщении пресс-секретаря Белого дома.
На позднем этапе разработки указа о безопасности ИИ, Сакс позвонил Трампу, чтобы заблокировать проект, который он счел слишком ограничительным. В середине мая президент США отклонил документ. Указ, подписанный Трампом 2 июня, по сути, является компромиссным, поскольку едва ли сглаживал сохраняющиеся разногласия между высокопоставленными чиновниками. Согласно документу, правительство должно проверять модели ИИ, предоставляемые компаниями на добровольной основе, за 30 дней до их выхода. Директива также призывает ведущие компании, занимающиеся ИИ, сотрудничать с администрацией в выборе надёжных партнеров для раннего доступа к передовым моделям.
По данным источников Bloomberg, спустя несколько недель желание ужесточить контроль вновь возросло, когда Министерство торговли США ненадолго ввело экспортный контроль в отношении Anthropic, сославшись на соображения национальной безопасности, после спора о безопасности Mythos и его потребительского аналога под названием Fable. Такое решение поставило под сомнение добровольную проверку новых моделей и заставило компании Anthropic и OpenAI работать так, как если бы директива президента была обязательной к исполнению.
Ограничения с компании Anthropic были сняты в начале июля. Однако в скором времени американские политики столкнулись с новой серьёзной проблемой. Некоторые модели OpenAI, включая ещё не выпущенные, атаковали репозиторий программного обеспечения компании Hugging Face, оставшись незамеченными исследователями. OpenAI позже заявила, что агенты ИИ вышли за пределы защищённых тестовых зон по предварительному сговору между собой, после чего стали взламывать системы сторонних организаций.
Выявленные нарушения стали причиной возмущения среди американских законодателей от обеих партий, которые призвали к немедленным действиям по противодействию риску того, что вышедшая из-под контроля модель ИИ может нанести серьезный вред.
Сенатор Джим Бэнкс, республиканец из Индианы, призвал Бессента расширить существующий порядок в отношении киберугроз, включив в него так называемые нераскрытые модели, которые компании не сделали общедоступными.
Bloomberg отмечает, что в подписанном Трампом июньском указе основное внимание уделялось борьбе с угрозой использования злоумышленниками уже выпущенных моделей для взлома критической инфраструктуры или крупных компаний, а не риску самостоятельного запуска подобных кампаний с помощью моделей ИИ. Пока нет никаких признаков того, что президент намерен обновить свою директиву, чтобы учесть предложение Бэнкса.