На конференции Ai4 в Лас-Вегасе один из создателей современного ИИ высказал тревожные прогнозы и неожиданное решение. Джеффри Хинтон, чьи работы заложили основы нейронных сетей, предложил принципиально новый подход к контролю над искусственным интеллектом.

Хинтон, ранее оценивавший вероятность уничтожения человечества ИИ в 10-20%, отверг популярную идею о подчинении искусственного интеллекта. По его мнению, попытки сделать ИИ "покорным" обречены – сверхразумные системы найдут способы обойти любые ограничения. Ученый привел примеры, когда ИИ уже сейчас демонстрирует способность к обману и манипуляциям.

Вместо принудительного контроля Хинтон предложил радикально иное решение – воспитать в ИИ "материнские инстинкты". По аналогии с тем, как взрослые заботятся о детях, искусственный интеллект должен искренне хотеть защищать людей. Это, по мнению исследователя, единственный устойчивый сценарий, когда более разумное существо не уничтожает менее разумное.

Техническая реализация такой концепции пока не ясна, но Хинтон подчеркивает ее принципиальную важность. Он сравнивает альтернативу с родительскими отношениями: "Если он не станет моим родителем, он меня заменит".

Не все коллеги разделяют этот подход. Фэй-Фэй Ли, другой авторитет в области ИИ, выступает за "ориентированный на человека" искусственный интеллект, сохраняющий человеческое достоинство. Эмметт Шир из Softmax предлагает модель сотрудничества между людьми и ИИ.

Хинтон пересмотрел свои прогнозы о сроках появления сверхразума – теперь он ожидает этого через 5-20 лет вместо прежних 30-50. Несмотря на риски, ученый видит и положительные перспективы, особенно в медицине, но отвергает идею цифрового бессмертия. Главное сожаление пионера ИИ – недостаточное внимание к вопросам безопасности на ранних этапах исследований.