Руководителям американских компаний Anthropic и OpenAI после призывов к замедлению развития искусственного интеллекта (ИИ) придется столкнуться с силами в технологической индустрии, на финансовых рынках и в администрации президента Трампа, которые, вероятно, будут сопротивляться любому существенному замедлению. Об этом сообщает Bloomberg.
Генеральный директор компании Anthropic Дарио Амодеи. Фото: Jason Henry/Bloomberg
Две компании, которые разрабатывают самые мощные в мире системы ИИ, обещают принять меры по ограничению темпов создания передовых моделей ИИ, чтобы лучше понять риски, связанные с этой технологией, после серии нарушений безопасности.
В письме объёмом 3800 слов от 12 сентября, подписанном генеральным директором Anthropic Дарио Амодеи и поддержанном генеральным директором OpenAI Сэмом Альтманом и генеральным директором SpaceXAI Илоном Маском, говорится о необходимости замедления разработки самых передовых систем, чтобы предотвратить выход ИИ из-под контроля человека и нанесение катастрофического вреда.
Bloomberg отмечает, что в своём эссе Дарио Амодеи настаивал на том, что замедление развития возможностей ИИ не обязательно приведет к сокращению расходов или росту. Однако любая пауза или задержка в прогрессе так называемых передовых систем будет крайне нежелательна для инвесторов, которые делают ставку на то, что бум ИИ приведёт к инвестициям в сотни миллиардов долларов. Вероятно, в данном случае речь всё же о перспективной прибыли после этих многомиллиардных инвестиций [прим.]. Уолл-стрит, являющаяся центром финансовой жизни США, также ожидает потенциально рекордных IPO (первичных публичных размещений акций) от Anthropic и OpenAI, которые зависят от стремления этих двух компаний-разработчиков к прорывам в области ИИ.
Согласно информации Bloomberg, рынок фактически сразу отреагировал на недавнее сообщение главы Anthropic. В понедельник акции южнокорейских Samsung и SK Hynix – ключевых компаний в сфере инфраструктуры ИИ, упали более чем на 4% на бирже в Сеуле, а акции инвестора SoftBank Group, которая является инвестором OpenAI, потеряли в цене 13%.
В Кремниевой долине (район в США, где сконцентрированы ведущие технологические компании) разговоры о возможном замедлении темпов развития искусственного интеллекта могут также негативно сказаться на производителях микросхем, таких как NVIDIA. Ранее они выиграли от увеличения инвестиций в процессоры для обучения и запуска новых поколений моделей ИИ. Компании, такие как Amazon и Microsoft Corp, которые предоставляют облачные вычислительные услуги в области ИИ компаниям Anthropic и OpenAI, также могут ощутить последствия.
Как сказал Марк Махани, аналитик Evercore ISI, компании Anthropic и OpenAI и их планы окажут волновое воздействие на всю технологическую отрасль. Он также добавил, что если эти две компании резко сократят свои расходы на НИОКР, набор персонала и капитальные затраты, это может существенно повлиять на финансовые рынки.
Bloomberg отмечает, что любые попытки замедлить темпы развития технологии столкнутся с негативной реакцией со стороны администрации Трампа. Президент США построил свою экономическую программу на агрессивном развитии ИИ как двигателя создания рабочих мест и предупредил, что США должны опережать Китай в этой технологии для обеспечения национальной безопасности.
В своём сообщении глава компании Anthropic Дарио Амодеи отметил, что когда речь идёт о темпах развития ИИ, то это не означает остановку его разработки. Однако он отметил необходимость помощи правительства США для международной координации. Но для начала сами компании должны сделать всё, что в их силах.
Согласно информации Bloomberg, 13 сентября президент Дональд Трамп отверг идею введения дополнительных ограничений, подтвердив свою прежнюю позицию о необходимости дальнейшего развития ИИ в США. И это даже несмотря на растущее внутреннее противодействие центрам обработки данных, необходимым для функционирования этой технологии.
«Мы лидируем над Китаем в области искусственного интеллекта. Мы самая развитая страна в мире, и, честно говоря, я хочу, чтобы так и оставалось, потому что кто победит в области ИИ, тот и победит. И мы можем устанавливать ограничения. Мы можем делать то и это. Но я думаю, что есть много очень негативных сил, которые поднимают этот вопрос, хотя не должны этого делать», –заявил Трамп журналистам на полях Открытого чемпионата Ирландии по гольфу.
В своем эссе Дарио Амодеи назвал две основные причины необходимости замедления развития ИИ в настоящее время. Во-первых, это растущая способность технологии к самосовершенствованию. Во-вторых, это июльский инцидент, когда рой агентов ИИ от OpenAI, которые координировали свои действия, взломал веб-сайт компании Hugging Face. При этом действия ИИ-агентов оставались незамеченными.
Глава Anthropic пообещал открыть двери компании для сторонних экспертов, которые будут иметь доступ на уровне сотрудников для проверки новых систем до их выпуска. Эта система проверки была ключевым предложением в его сообщении. Сэм Альтман, генеральный директор OpenAI, сказал, что ему понравилась такая идея, и он планирует внедрить её в своей компании. Илон Маск сказал, что экспертная оценка среди ведущих разработчиков ИИ «стоит того». Амодеи добавил, что государственный надзор необходим в отношении ИИ, повторив свою предыдущую рекомендацию о том, чтобы передовые модели ИИ подвергались обязательной государственной проверке на безопасность.
