Сообщается, что OpenAI, материнская компания ChatGPT, добилась значительного прорыва в области генеративного искусственного интеллекта, который потенциально может привести к развитию "сверхразума" в течение этого десятилетия.

Внутренние сбои, включая увольнение и последующий повторный прием на работу генерального директора Сэма Альтмана, объясняются этим прорывом. В информационном отчете указывается, что главный научный сотрудник Илья Суцкевер сыграл ключевую роль в этом развитии.

Прорыв позволяет ИИ использовать более чистые и сгенерированные компьютером данные для решения проблем, с которыми он раньше не сталкивался, что требует определенной формы рассуждения. Это отход от традиционного обучения ИИ, когда модели сталкиваются с различными версиями одной и той же проблемы. Флагманский продукт ChatGPT может показаться интеллектуальным, но он в первую очередь полагается на повторное использование изученных данных и создание точных предположений, а не на использование логических рассуждений.

Хотя в настоящее время в ChatGPT нет доказательств наличия суперинтеллекта, OpenAI, вероятно, работает над интеграцией этой возможности в продукты премиум-класса, такие как GPT-4 Turbo и чат-боты-агенты. И последние достижения в этой области побудили к созданию новой исследовательской группы OpenAI под названием Superaligment, возглавляемой Суцкевером и Яном Лейке, с целью разработки средств защиты для сверхразума.

Связь между недавними действиями правления и развитием сверхразума может быть умозрительной. Однако следует отметить, что Суцкевер, первоначально поддерживавший решения правления, сформировал группу, занимающуюся устранением потенциальных рисков, связанных со сверхразумом. Подробности того, как внутренние опасения по поводу быстрого развития сверхразума могли повлиять на увольнение Альтмана, остаются неясными.

По состоянию на сегодня, Альтман возвращается в OpenAI, правление претерпело изменения, и усилия по развитию сверхразума и внедрению защитных мер продолжаются.