Компания OpenAI, являющая разработчиком нашумевшего ИИ-бота ChatGPT, считает, что для управления системами с искусственным интеллектом, намного более умным, чем люди, требуется осуществить прорыв в научной и технической сферах. Сейчас ею формируется команда, которая, вооружившись 20% от всех имеющихся вычислительных ресурсов, будет решать проблему, стараясь при этом уложиться в четырехлетний срок.

Несмотря на то, что однажды возникший сверхразум станет самой прорывной технологией из когда-либо изобретенных и поможет решить многие глобальные задачи, его невероятные способности также таят в себе опасность, и могут привести к исчезновению человеческой популяции. Кажется, что появление подобного ИИ возможно лишь в отдаленной перспективе, но компания считает, что мы увидим его уже в этом десятилетии.

"В настоящий момент у нас нет готового решения для управления потенциальным сверх-ИИ и предотвращения его выхода из-под контроля", — пишет соучредитель OpenAI Илья Суцкевер и руководитель новой команды Ян Лейке.

Основной целью исследователей станет создание системы, которая будет в автоматическом режиме обеспечивать соответствие ИИ человеческим ценностям и намерениям. При этом его обучение должно проходить с использованием обратной связи от человека. Далее потребуется научить ИИ оценивать другие системы искусственного интеллекта, и, наконец, создать такую, которая сможет самостоятельно проводить исследования в данной области быстрее и лучше, чем люди.