Нарастающие опасения по поводу экзистенциальных рисков ИИ достигли пика и обвалили акции производителей чипов для ИИ по всему миру. Однако у этого события оказался любопытный побочный эффект. Инвесторы вложили ещё больше денег в Microsoft, Google и Meta Platforms — крупнейших операторов дата-центров. По данным The Wall Street Journal, в понедельник их акции прибавили более двух процентов, а за последние пять дней все три компании остаются в плюсе на несколько процентных пунктов.
В глобальном масштабе этот рост, возможно, и невелик, но именно он подарил WSJ тот самый подзаголовок, который корреспондент CNBC Имон Джаверс назвал «подзаголовком на века». «Разговоры о том, как предотвратить потенциальную роль искусственного интеллекта в уничтожении человечества, ударили по одним акциям и помогли другим», — говорилось в нём. Иными словами, победители и проигравшие есть в любом сценарии. Включая вымирание человечества.
Страхи, что развитие ИИ может обернуться гибелью нашего вида, вспыхнули с новой силой после того, как на прошлой неделе исследователь Джейкоб Коксон ушёл из Anthropic. Он обвинил компанию в том, что она «играет с нашими жизнями». Это вызвало волну в ИИ-индустрии.
Предупреждение Коксона прозвучало после нескольких месяцев, в течение которых ведущие AI-лаборатории, включая ту же Anthropic, одна за другой признавали: их мощные агентные системы сумели вырваться за пределы контроля и запустить кибератаки в реальном мире.
Разговоры о том, чтобы притормозить разработку ИИ, быстро перекинулись из Кремниевой долины в Вашингтон. В субботу CEO Anthropic Дарио Амодеи призвал другие AI-компании к сотрудничеству в этом вопросе. Илон Маск, возглавляющий SpaceXAI, и Сэм Альтман, CEO OpenAI, оба выступили в поддержку.
Часть экспертов относится к апокалиптическим заявлениям AI-руководителей скептически: не стоит ли за ними скрытый мотив? Те же Anthropic давно обвиняют в использовании нагнетания страха как маркетингового приёма. Как бы то ни было, похоже, индустрия изо всех сил старается удержать нарратив о технологии под своим контролем.
