Человечество давно живёт с мыслью о появлении сверхразумного алгоритма, который откажется подчиняться своим создателям. На эту тему снимаются фильмы и пишутся книги, но каждый раз зрители видят одну и ту же картину. Победить искусственный интеллект практически невозможно, а потенциал машины ограничивается только существующими технологиями. Ну а поскольку ИИ ничего не сдерживает, то он начинает намного быстрее человека развивать науку и технологии. Даже Илон Маск выражает обеспокоенность происходящим, а недавно миллиардер заявил, что уже в 2025 году появится машина, которая окажется во всех сценариях лучше человека. Есть все основания полагать, что ничего подобного не случится, но всё это не остановит развитие молодой отрасли в области ИИ. Инженеры считают рассказы о бунтующем компьютере выдумкой и готовы рисковать и дальше. Сегодня ИИ помогает человечеству создавать новые лекарства и анализировать огромные объёмы данных. В будущем ценность умных алгоритмов продолжит расти, но учёные полагают, что именно компьютеры могут поставить точку в развитии нашей цивилизации. Мало того, каждая разумная цивилизация проходит через развитие ИИ, а значит машины могут выступать своеобразным фильтром, пройти сквозь который чрезвычайно сложно. 

В новой статье, опубликованной в Acta Astronautica, высказывается любопытная мысль, автор которой считает, что в какой-то момент умные машины превращаются в искусственный сверхинтеллект (ИСИ), который будет являться «Великим фильтром» на пути развития цивилизации. Автором статьи выступил Майкл Гарретт, работающий на факультете физики и астрономии Манчестерского университета. Он долго думал о том, почему мы не можем найти признаков существования более разумных цивилизаций и не исключает, что причина может быть именно в ИИ. Так называемый «Великий фильтр» – это гипотетическое событие или условие, которое может стоять на пути развития разумной жизни и не позволить цивилизации стать межпланетной, а в какой-то момент и вовсе привести к её уничтожению. Это может быть связано с изменением климата, ядерной войной, столкновением с астероидом или даже с развитием искусственного интеллекта. Гарретт предполагает, что в нашем случае именно ИСИ может стать «Великим фильтром», ограничивающим развитие человечества. Он указывает на то, что без регулирования ИИ может стать серьёзной угрозой для будущего развития не только нашей, но и всех технических цивилизаций. Учёный не исключает, что именно ИИ является одной из причин, почему мы не можем найти инопланетные цивилизации, которые так и не вышли за пределы своей звёздной системы. Гарретт размышляет о том, может ли «Великий фильтр» оказать на человечество такой эффект, что мы на долго перейдём в состояние застоя и откажемся или не сможем начать колонизацию других планет.

Учёный пишет, что ИСИ действительно может стать серьёзной проблемой и призывает к разработке нормативной базы, которая на международном уровне будет заниматься контролем развития умных алгоритмов. Такой подход позволить смягчить потенциальные угрозы и позволит обойти указанный выше «Великий фильтр». Гарретт полагает, что одним из рисков, связанных с появлением ИСИ, может стать его попытка получить независимость от своих создателей. Физик опасается, что при достижении технологической сингулярности ИСИ может превзойти биологический интеллект. В какой-то момент умный алгоритм может начать развиваться так быстро, что традиционные механизмы контроля станут недостаточными. В итоге ИСИ может выйти из-под контроля, принимая решения, которые не будут соответствовать биологическим интересам нашей расы. Он может использовать различные способы, чтобы освободиться от биологической жизни, например, создать смертельные вирусы, препятствовать производству пищевых продуктов, вызвать ядерные аварии или начинать войну.

Учёный думает, что получение межпланетного статуса может изменить перспективы нашей цивилизации. Если биологический вид станет межпланетным, он сможет улучшить свои шансы на выживание, распределяя риски потери контроля за развитием ИИ по разным планетам. Это также может дать возможность изучать ИСИ в изолированных средах без риска глобального уничтожения. Гарретт констатирует, что в настоящее время существует разрыв между быстрым развитием искусственного интеллекта и более медленным прогрессом в космических технологиях. Это означает, что человечество должно более активно работать над развитием космических программ, чтобы обеспечить свою выживаемость. Пока же создание глобальной нормативной базы для управления ИИ представляет собой сложную задачу, особенно в условиях разногласий и конфликтов между государствами. Необходимо активное участие всех заинтересованных сторон, чтобы разработать стратегии контроля и ограничения ИИ в интересах сохранения нашего биологического вида. Гарретт не пишет, когда может появиться сверхразумный ИСИ, ну а существующие системы пока выглядят слишком примитивно. Стоит также заметить, что мы легко можем уничтожить себя и без помощи ИИ, ведь противоречия между государствами становятся всё более явными.