При размышлении о роли инструментов ИИ возникает интригующая и в то же время отрезвляющая мысль: искусственный интеллект может представлять потенциальную угрозу для человечества. Эта концепция, получившая название "вероятность гибели", также называемая р doom, отражает вероятность того, что ИИ приведет к катастрофическим последствиям, начиная от глобального господства и заканчивая развязыванием биологического или ядерного кризиса на планете.

На оптимистическом краю спектра p doom стоит Ян ЛеКун, считающийся одним из "трех крестных отцов ИИ" и в настоящее время связанный с компанией Meta. ЛеКун рисует обнадеживающую картину, оценивая вероятность возможной катастрофы, вызванной ИИ, менее чем в 0,01% – вероятность меньше, чем вероятность уничтожения цивилизации ударом астероида.

Однако такой оптимизм не находит поддержки среди других светил мира ИИ. Джефф Хинтон, еще один из уважаемого трио, предупреждает о 10%-й вероятности катастрофы, вызванной ИИ, в течение следующих двух десятилетий. Йошуа Бенгио, третий из этой троицы, поднимает ставки еще выше, считая, что вероятность гибели человечества от рук ИИ составляет целых 20%.

На противоположном конце спектра находится Роман Ямпольский, авторитет в области безопасности ИИ и директор лаборатории кибербезопасности в Университете Луисвилля. Ямпольский придерживается крайне мрачных взглядов, утверждая, что вероятность того, что ИИ приведет человечество к гибели, составляет 99,999999%, то есть этот сценарий неизбежен.

Илон Маск, известный своими откровенными оценками, поддержал опасения во время "Великой дискуссии об ИИ" на саммите Abundance Summit. Маск признает, что ИИ может стать причиной гибели человечества, и соглашается с предостерегающей оценкой Хинтона, согласно которой вероятность этого составляет от 10 до 20%. Однако, несмотря на все опасения, Маск подчеркивает, что вероятность положительного исхода сильно перевешивает негативный.