Лауреат Нобелевской премии и пионер технологий глубокого обучения (Deep Learning) Джеффри Хинтон выступил с тревожным прогнозом в беседе с американским сенатором Берни Сандерсом. Учёный считает, что человечество совершенно не готово к последствиям стремительного развития искусственного интеллекта. По его словам, мир неизбежно приближается к тяжёлым экономическим потрясениям и конфликтам с применением автономного оружия, а существующие государственные институты просто не выдержат этой нагрузки без срочных реформ.
Главная экономическая угроза кроется в несправедливом распределении благ. Хинтон поясняет, что повсеместное внедрение алгоритмов резко повысит производительность труда, но сверхприбыли осядут в карманах владельцев корпораций, пока наёмные сотрудники будут попадать под массовые сокращения. Рынок не сможет самостоятельно сбалансировать эту ситуацию. Правительствам придётся вмешиваться в экономику и, вероятно, вводить безусловный базовый доход, чтобы не допустить катастрофического расслоения общества.
Ещё опаснее выглядит ситуация в военной сфере. Эксперт отмечает, что регулировать боевые нейросети гораздо сложнее, чем сдерживать ядерную гонку. Если для создания атомной бомбы нужны огромные заводы и редкие изотопы, то автономные системы вооружения управляются программным кодом. Его можно мгновенно скопировать, украсть или вынести на обычной флешке, что делает практически невозможным любой эффективный контроль за нераспространением таких технологий.
В долгосрочной перспективе, как считает Джеффри Хинтон, есть определённые риски для выживания всего человечества. Хинтон, который в 2023 году специально уволился из Google из-за своей принципиальной позиции насчёт свободы слова, оценивает вероятность вымирания человечества по вине ИИ в 10–20%. Он опасается момента, когда цифровой разум превзойдёт человеческий и начнёт манипулировать людьми ради достижения собственных целей. Учёный предупреждает, что цивилизация вступает в эту эпоху без чёткого плана защиты, а темпы прогресса уже опережают самые смелые ожидания.
На самом деле, опасения бывшего сотрудника Google вовсе не беспочвенные. Уже сейчас трансформация рабочих процессов с внедрением ИИ идёт полным ходом. Но главное испытание впереди - к 2035 году аналитики ожидают появления общего искусственного интеллекта (AGI), способного решать любые задачи лучше человека. Какие у этого события будут последствия – попробуйте догадаться сами.
