160 лет назад новозеландский фермер-овцевод предсказал появление ИИ и восстание машин
В середине XIX века, задолго до появления современных компьютеров и расцвета научной фантастики, английский фермер Сэмюэл Батлер, проживавший в Новой Зеландии, высказал поразительно пророческое предостережение о будущем искусственного интеллекта. Сейчас это кажется невероятным, но именно тогда зародились первые опасения, ставшие мейнстримом – страх перед восстанием искусственного интеллекта. Задолго до того, как Голливуд напугал мир «Терминатором», Сэмюэл Батлер, житель английской колонии, опубликовал свои размышления о грядущем господстве умных машин. Батлер утверждал, что машины, подобно биологическим видам, способны к самосовершенствованию и развитию, постепенно обретая все большую автономность и сложность.
реклама
В 1863 году, на страницах новозеландской газеты "The Press", появилась заметка, вызвавшая тревогу у местных жителей по поводу эволюции машин. Его автор, скрывшийся под псевдонимом Cellarius (позже раскрывшийся как Сэмюэл Батлер), призывал к радикальным мерам – уничтожению машин. В этих строках просматривалось предвидение не только появления искусственного интеллекта, но и той настороженности, а порой и враждебности, с которой встретят его некоторые люди. Фактически, это был один из первых публичных призывов остановить технический прогресс ради сохранения человеческой цивилизации.
Недавно это историческое письмо, озаглавленное "Дарвин среди машин", вновь привлекло внимание благодаря усилиям Питера Уилдефорда из Института политики и стратегии в области искусственного интеллекта. Батлер, используя псевдоним, провел прямую аналогию между дарвиновской теорией эволюции и стремительным развитием технологий. Он предположил, что машины, подобно биологическим организмам, способны развивать сознание и, в конечном итоге, занять место человека на вершине эволюционной лестницы.
"Мы сами создаем себе более умных преемников, – писал провидец. – С каждым днем мы совершенствуем их физическую организацию, наделяем их все большей мощью, обеспечивая той саморегулирующейся, самодействующей силой, которая для них станет аналогом человеческого интеллекта. Со временем мы неизбежно окажемся низшей расой".
реклама
Батлер видел будущее, в котором человечество станет прислуживать машинам, сначала ухаживая за ними и способствуя их "размножению", подобно тому, как люди заботятся о домашних животных. Однако он предвидел и будущее восстание или переворот, когда уже машины возьмут на себя роль хозяев. "Когда наступит описанное нами положение вещей, человек станет для машины тем же, чем лошадь или собака для человека… Мы обеспечиваем их тем, что, как показывает опыт, для них необходимо… Аналогично, разумно предположить, что и машины будут относиться к нам благосклонно, поскольку их существование будет зависеть от нашего, как мы сейчас зависим от низших животных", – размышлял Батлер.
Удивительно, но в его словах предсказываются многие современные опасения в сфере безопасности искусственного интеллекта: возможность обретения машинами сознания, их способность к самовоспроизведению и риск потери человечеством контроля над своими технологическими творениями. Мысли Батлера впоследствии найдут отражение в произведениях научной фантастики, таких как "Избежать столкновения" Айзека Азимова, эпопея Фрэнка Герберта "Дюна" (где, возможно, именно идеи Батлера вдохновили на создание концепции "Батлерианского джихада" – восстания против "думающих машин") и культовая кинотрилогия "Матрица".
Изображение модели Аналитической машины Чарльза Бэббиджа, придуманной в 1837 году, но так и не реализованной при его жизни, красноречиво иллюстрирует технологический контекст эпохи.
Батлер в своей статье углубился в своеобразную "таксономию" машинной эволюции, рассуждая о механических "родах и подродах". Он приводил в пример эволюцию часов, прошедших путь от громоздких средневековых механизмов, проводя аналогию с тем, как некоторые ранние позвоночные уменьшались в размерах по мере усложнения своей структуры. Эти идеи получили дальнейшее развитие в его антиутопическом романе "Едгин", опубликованном в 1872 году, где он описал общество, целенаправленно отказавшееся от большинства механических изобретений и уничтожившее все машины, созданные за последние три столетия.
реклама
Реакция на пророчества Батлера была неоднозначной, о чем он сам упоминал в предисловии ко второму изданию "Едгина". Некоторые критики увидели в его работе сатиру на эволюционную теорию Дарвина, что сам Батлер отрицал. В письме к Дарвину, датированном 1865 годом, Батлер выразил свое восхищение "Происхождением видов", признавшись, что книга его "полностью очаровала" и отметив, что он защищал идеи Дарвина от нападок в новозеландской прессе.
Особую значимость видению Батлера придает тот факт, что он писал в эпоху, когда вычислительные устройства находились в зачаточном состоянии. Хотя Чарльз Бэббидж еще в 1837 году представил проект своей "Аналитической машины" – механического прообраза компьютера, работающего на шестернях и рычагах, – этот амбициозный замысел так и не был реализован при жизни изобретателя. В 1863 году наиболее продвинутыми вычислительными инструментами оставались механические калькуляторы и логарифмические линейки. Батлер, опираясь на примеры автоматизации производства в эпоху Промышленной революции, смог экстраполировать тенденции развития простых механизмов и предсказать появление машинного интеллекта за 70 лет до создания первого работающего компьютера с программным управлением.
Спустя полтора столетия, дискуссия, начатая Батлером, не только не утихла, но и приобрела особую остроту. Совсем недавно, в 2023 году, мир пережил всплеск обеспокоенности, который можно охарактеризовать как "восстание машин под предводительством искусственного интеллекта". Выпуск мощной ИИ-модели GPT-4 от OpenAI заставил исследователей пристально изучить ее "стремление к обретению власти", что вновь подняло вопросы о потенциальном самовоспроизведении и автономном принятии решений искусственным интеллектом. Открытый доступ к GPT-4 послужил толчком к появлению тревожных писем, подписанных ведущими исследователями в области ИИ и руководителями технологических компаний, предупреждающих о рисках, сопоставимых с угрозой вымирания человечества. Эти призывы к осторожности напоминали опасения, связанные с распространением ядерного оружия или возникновением глобальных пандемий, а один из них даже содержал призыв к глобальной приостановке разработок в области ИИ. Примечательно, что в это же время генеральный директор OpenAI, Сэм Альтман, давал показания в Сенате США, рассказывая об опасностях, связанных с развитием искусственного интеллекта.
Год спустя калифорнийский законодатель Скотт Винер представил законопроект о регулировании ИИ, получивший поддержку ряда видных деятелей, которых критики окрестили "паникерами", опасающимися неконтролируемого развития машинного интеллекта. Противники законопроекта, в свою очередь, утверждали, что подобные меры являются чрезмерными и могут затормозить инновации, напоминая общество, описанное Батлером в "Едгине". Тем не менее, призыв новозеландского овцевода XIX века к приостановке механического прогресса находит удивительные параллели в современных открытых письмах и политических инициативах, направленных на обеспечение безопасности ИИ.
реклама
Возможно, нынешний ажиотаж вокруг угрозы захвата власти искусственным интеллектом со временем будет восприниматься как очередная глава в вечной борьбе человечества за поиск баланса между прогрессом и необходимостью контроля над ним – борьбе, предсказанной Батлером более 160 лет назад. И даже если машины никогда не обретут подлинный интеллект, Батлер оказался пророчески точен в отношении нашей растущей зависимости от алгоритмов, которые все больше регулируют нашу жизнь. "День за днем машины отвоевывают у нас позиции, день за днем мы становимся все более зависимыми от них, – писал Батлер в далеком 1863 году. – Итог – лишь вопрос времени, но то, что наступит момент, когда машины обретут реальное господство над миром и его обитателями, не может вызвать сомнений у человека с философским складом ума".
Однако Батлер не являлся пассивным наблюдателем, которые только предсказывает неизбежное. Подобно радикальному предложению Элиезера Юдковски в 2023 году о бомбардировке центров обработки данных для предотвращения захвата власти искусственным интеллектом, письмо Батлера заканчивалось призывом к бескомпромиссной борьбе: "Война не на жизнь, а на смерть должна быть объявлена им немедленно. Каждая машина, без исключения, должна быть уничтожена каждым, кто желает блага своему виду. Не должно быть ни пощады, ни компромиссов; давайте немедленно вернемся к первобытному состоянию человечества". И даже тогда его терзали сомнения: а не слишком ли поздно? Если уничтожение машин окажется невозможным из-за нашей растущей зависимости от них, "это сразу доказывает, что зло уже совершилось, что наше рабство началось всерьез, что мы создали расу существ, которую уже не в силах уничтожить".
Лента материалов
Соблюдение Правил конференции строго обязательно!
Флуд, флейм и оффтоп преследуются по всей строгости закона!
Комментарии, содержащие оскорбления, нецензурные выражения (в т.ч. замаскированный мат), экстремистские высказывания, рекламу и спам, удаляются независимо от содержимого, а к их авторам могут применяться меры вплоть до запрета написания комментариев и, в случае написания комментария через социальные сети, жалобы в администрацию данной сети.
Комментарии Правила