Джеффри Хинтон считается одним из самых важных пионеров в области искусственного интеллекта. Недавно он получил Нобелевскую премию по физике вместе с Джоном Хопфилдом за исследования в области машинного обучения. Как сообщает The Guardian, Хинтон сейчас сделал мрачный прогноз в интервью BBC: вероятность того, что ИИ приведет к вымиранию человечества в течение следующих трех десятилетий, составляет от 10 до 20 процентов. Темпы развития ИИ намного быстрее, чем он ожидал.
Он объявил, что хочет сосредоточиться на просвещении людей о рисках неконтролируемого развития ИИ. Предупреждения и анализ учёного делают его центральной фигурой в дебатах об этическом использовании ИИ.
В интервью Хинтон объяснил, что быстрое развитие ИИ несет не только новые возможности, но и огромные риски. Так же, как Йошуа Бенджио, вместе с которым Хинтон получил Премию Тьюринга в 2018 году, он предостерег от развития так называемого Общего искусственного интеллекта. Такие системы, которые считаются более разумными, чем люди, могут выйти из-под их контроля и, таким образом, представлять реальную угрозу.
Оглядываясь назад на свою карьеру, Хинтон был удивлен скоростью, с которой развивается ИИ. Первоначально он предполагал, что нынешний уровень технологий будет достигнут гораздо позже. Однако сейчас многие эксперты предполагают, что системы искусственного интеллекта, которые умнее людей, могут стать реальностью в течение следующих 20 лет.
Хинтон подчеркивает ответственность правительств за обеспечение безопасности разработки ИИ. Недостаточно передать контроль за разработки крупным компаниям. Вместо этого необходимы правительственные постановления, обеспечивающие ответственную разработку технологий искусственного интеллекта.
Таким отношением Хинтон позиционирует себя иначе, чем его коллега-исследователь Ян Лекун, вместе с которым он внес решающий вклад в развитие современного машинного обучения и глубокого обучения.
Лекун настроен гораздо более оптимистично: он считает, что технологии искусственного интеллекта можно использовать для решения глобальных проблем, таких как изменение климата и бедность. Вместо уничтожения человечества, утверждает Лекун, ИИ может помочь спасти его от вымирания.