Робин Хэнсон

БЫЛ ЛИ САЙФЕР ПРАВ?

Часть I. ПОЧЕМУ МЫ ОСТАЕМСЯ В НАШЕЙ МАТРИЦЕ

В отличие от бедных страдальцев, порабощенных Матрицей, мы свободны. Мы видим мир таким, каков он есть, и делаем выбор, исходя из собственных желаний и ценностей. Никакой злобный кукольник нас за ниточки не дергает. Так ли это? Экономист Робин Хэнсон выражает вежливое несогласие с подобным утверждением.

«Матрица» — это повесть о мятежниках, сражающихся с «миром, натянутым тебе на глаза, чтобы скрыть от тебя правду».

Правда состоит в том, что существуют «бескрайние поля, где люди больше не рождаются; нас выращивают», чтобы мы служили батарейками для обеспечения энергией ИИ. ИИ даже «мертвых превращают в жидкость, чтобы их можно было внутривенно вводить живым». Однако разум этих людей видит лишь Матрицу, «ней-ро-интерактивную модель, воображаемый мир, созданный компьютером с целью держать нас под контролем». «Миллиарды людей проживают свою жизнь, не осознавая» эти факты, считая, «что идет 1999 год, когда на самом деле сейчас где-то 2199-й».

По-видимому, ИИ постарались сделать людей как можно счастливее. «Первая Матрица была создана как совершенный человеческий мир. Там никто не страдал. Там все были бы счастливы. Это была катастрофа. Никто не согласился принять такую программу». Так что «Матрице была придана эта нынешняя форма, представляющая вершину развития вашей цивилизации». Но даже в этих условиях нашлись люди, открывшие правду и восставшие против того, чтобы «рождаться в рабстве, рождаться… в тюрьме для твоего разума». Эти повстанцы верят, что «пока существует Матрица, человечество никогда не будет свободным», и поэтому они хотят «уничтожить Матрицу» и «освободить наш народ».

В фильме есть признание того, что мятежники обычно не набирают в свои ряды людей старшего возраста, у которых возникают «проблемы с освобождением… Большинство этих людей не готово к отключению от Матрицы. И многие из них так инертны, так безнадежно зависимы от системы, что они будут бороться за то, чтобы защитить ее». Вместе с тем восставшие убеждены в том, что молодые новобранцы, узнав правду, не захотят вернуться в прежнее состояние. Правота их подхода также иллюстрируется нравственной нищетой Сайфера, персонажа, который стремится вернуться в Матрицу. Сайфер — ограниченный и глупый человек; он предает и убивает своих братьев по оружию, мучаясь тем, что его отвергли в качестве любовника и вождя, и хочет забыть правду: «Я хочу все забыть. Все. Вы понимаете? И я хочу быть богатым. Понимаете, какой-нибудь важной персоной, вроде актера».

Большинство посмотревших эту историю зрителей начинает верить, что, если им предоставят выбор, они присоединятся к повстанцам. Однако стоит задуматься хотя бы на мгновение, правилен ли в действительности этот выбор. Как-никак, без восстания миллиарды людей продолжили бы жить счастливой жизнью и, возможно, еще большее число компьютеров — тоже. Прогресс не остановился бы благодаря превосходящим нас потомкам, во многих отношениях превосходящему нас искусственному интеллекту, как говорит агент Смит: «Эволюция, Морфеус, эволюция похожа на динозавра. Посмотри в окно. У тебя была твоя эпоха. Будущее — это наш мир, Морфеус. Будущее принадлежит нам».

Повстанческая война с ИИ подвергает риску жизнь этих людей, их счастье, а также развитие прогресса — и ради чего? Зритель, который встает на сторону восставших, должен высоко ценить людей, знающих правду, людей, покончивших с рабской зависимостью, даже со счастливой рабской зависимостью, людей, управляющих будущим без оглядки на их ограниченные способности.

Я не хочу сказать, что эта точка зрения неправильна. Возможно, столкновение с истиной — и в самом деле хорошая штука, рабство — это действительно плохо, а люди — законные властелины будущего. Вместо этого я хочу сказать, что все перечисленное не может быть всей полнотой правды. Это не может быть всей правдой потому, что в нашем реальном сегодняшнем мире мы, люди, по сути, являемся рабами по отношению к чужеродным, сверхрациональным существам, которых мы мало волнуем и которые обеспечивают нас воображаемым миром, чтобы отвлечь от того факта, что они беззастенчиво пользуются нашими телами в своих целях. Не похоже, чтобы мы, люди, управляли будущим, если дальше все будет идти так, как сейчас. И все же, сталкиваясь с этими открытиями, лишь немногие из нас, не исключая молодежь, восстают против выдуманного мира. Пожалуй, больше всего нас заботит именно сохранение этого мира.

Итак, кто они такие, наши хозяева, и что это за мир грез, который они используют, чтобы держать нас в рабстве? Наши хозяева — это «эгоистичные гены»,[9] а наш сказочный мир — это мир любви, юмора, разговоров, историй, искусства, музыки, моды, спорта, благотворительности, религии и абстрактных идей, привлекающих внимание наших «спаривающихся разумов» (mating minds). Позвольте мне разъяснить это.

Вы представляете собой тело, наделенное разумом. Ваш разум есть результат активности вашего мозга, а ваше тело сформировалось из единственной клетки, следуя инструкциям генов, которые вы получили от родителей. Ваши родители получили гены от своих родителей и так далее много миллиардов лет подряд. (Те несколько генов, которые не были получены от родителей, появились благодаря случайным мутациям.) Тот факт, что вы обладаете именно этими, а не какими-то другими генами, почти полностью объясняется жестокой конкуренцией между генами в процессе создания лучших «машин для выживания», то есть существ, которые сохранят и распространят далее эти гены. Гены, обеспечившие ваше появление на свет, — это не случайный набор всех возможных генов; это несколько из тех самых немногочисленных генов, которые не выбыли из соревнования.

Эволюционная биология добилась больших успехов в понимании окружающей нас жизни, осмысливая их в контексте «эгоистичных генов». Это означает, что вы не очень сильно ошибетесь, если, описывая будущее, вообразите, что наши гены наделены интеллектом, и все, чего они «хотят», — создать в будущем еще больше копий самих себя, и лишь с этой целью они выбирают определенную модель поведения для кодируемых ими созданий. (И немного поразмыслив, поймете, что эти создания не могут не догадываться о том, что будущее будет не слишком сильно отличаться от жизни последних нескольких тысяч поколений вашего вида.)

Разумеется, гены на самом деле не обладают разумом в том смысле, что они не действуют на основе произведенных ими расчетов. Но поскольку они ведут себя так, словно у них есть интеллект, в своих действиях они смахивают на беспощадных хозяев тех рабов, какими бы мы стали, будь они разумны. Наши гены не тревожит, испытываем ли мы больше удовольствия, чем боли. Наши гены заботит лишь то, что мы умеем предугадывать обе возможности с тем, чтобы они, гены, могли контролировать нас через наш выбор — а мы предпочитаем удовольствие боли. Когда наши тела теряют способность к воспроизводству или не в силах больше помогать тем, кто разделяет воспроизводство наших генов, нашим генам в буквальном смысле слова наплевать, живы мы или нет. Наши гены охотно сократят продолжительность нашей жизни или причинят нам невыносимую боль, если это поможет им размножаться. Кроме того, наши гены будут лгать нам, преследуя свои цели: к примеру, заставят нас думать, будто наше счастье зависит от нашего успеха в большей степени, чем на самом деле. Наши гены и в самом деле могут быть очень жестокими хозяевами.

Мозг — это инструмент, который создали гены. Он нужен им для того, чтобы помочь им плодиться. Мозг может изучить локальные условия и затем провести сложные подсчеты, чтобы вычислить подходящую реакцию на эти условия. Используя мозг, гены, например, могут велеть хищной рыбе искать чужой покачивающийся хвост и следовать за ним, пока он не окажется достаточно близко, для того чтобы можно было его укусить.

Итак, мозг небольших размеров может неплохо справляться с довольно длинным перечнем пар «условие-действие», отражающих то, что нужно делать в той или иной ситуации. Вроде описанной «плыви за хвостом и кусай его». Но большому мозгу, мозгу, который способен к более абстрактному мышлению, имеет смысл дать общее описание желаемых результатов действий, некие представления о том, каким образом действия приводят к результатам, и способность изменять свои представления в соответствии с обстоятельствами. Это должно позволить такому мозгу с большей гибкостью приспосабливаться к меняющимся условиям. И поскольку само живое существо является существенной частью описаний желаемых результатов, у подобного мозга, естественно, будут иметься представления о самом себе и своем отношении к окружающей его среде.

Разум людей — один из самых сложных в природе. По сравнению с другими животными мы располагаем большими мозговыми ресурсами, и мы обладаем уникальной способностью абстрактно мыслить. Таким образом, получается, что наш разум был создан эгоистичными генами с целью более гибкой реакции на локальные условия. Похоже, ваши гены наделили вас разумом, который осознает самого себя, преследует свои цели, имеет представление о вас, об окружающем вас мире, а также о способах совершения результативных действий. Помимо прочего, он может абстрактно размышлять обо всем этом и выбирать действия в соответствии с этими размышлениями. Впрочем, внешность бывает обманчива.

Если ваши гены наделяют вас абстрактными целями и представлениями просто для того, чтобы позволить вам более гибко приспосабливаться к данным условиям, значит, им следовало бы настроить вас на те же самые цели, к которым стремятся они сами. Чисто умозрительно в этом случае вы должны были бы ощущать желание довести до максимума количество своих потомков, унаследовавших часть ваших генов. Отсюда вытекает, что ваши гены были бы не суровыми хозяевами рабов, а доверенными союзниками, работающими на благо общей цели. Однако на самом деле гены наделили вас другими целями, и они весьма отличаются от их собственных задач.

Итак, отдельные цели вашего разума тесно связаны с целями ваших генов. Вы хотите иметь детей и дать им хорошее воспитание. Вы стремитесь заниматься сексом с плодовитыми и подходящими партнерами, способными, как вам кажется, родить таких детей. Вы хотите быть здоровым и мечтаете о том, чтобы иметь таких друзей и соратников, которые помогут выжить вам и вашим детям. В довершение ко всему вы желаете лучше знать мир, в котором вы живете, чтобы приобретенные знания способствовали достижению этих целей.

Однако, похоже, вас заботят и другие вещи: любовь, юмор, разговоры, истории, искусство, музыка, мода, спорт, благотворительность, религия и абстрактные идеи. В действительности перечисленные вещи нередко очень сильно захватывают вас. Вы считаете, что интересуетесь этими вещами для себя, а не потому, что они могут помочь вам добиться осуществления основных целей, таких как здоровье, секс и дети. И вы увлекаетесь этими вещами в гораздо большей степени, чем, казалось бы, нужно для достижения первостепенных задач.

Почему людям дан такой большой мозг, непомерно увлекающийся сказочным миром абстрактных идей и эмоций, имеющих весьма слабое отношение к личному выживанию и размножению? Самое лучшее объяснение на данный момент заключается в том, что этот сказочный мир является результатом полового отбора[10] среди «спаривающихся разумов», то есть разумов, созданных в значительной мере с тем расчетом, чтобы производить впечатление на потенциальных партнеров и друзей. Демонстрируя окружающим свою ловкость и креативность в любви, юморе, разговорах, историях, искусстве, музыке, моде, спорте, благотворительности, религии и абстрактных идеях, мы показываем им, что обладаем высококачественными генами, в малой степени затронутыми вредными мутациями. Кроме того, подобный настрой помогает нам судить о качестве генов других людей по их поведенческой саморекламе.

Однако по причинам, которые не вполне ясны, наши гены решили сделать так, чтобы мы не полностью осознавали тот факт, что главная цель нашего воображаемого мира заключается в привлечении потенциальных сексуальных партнеров. Вместо этого мы убеждены, что этот мир нам нравится без всякой задней мысли. Но наши действия зачастую намекают на то, что этот воображаемый мир заботит нас гораздо меньше, чем мы об этом заявляем. Позвольте мне привести несколько примеров.

Мы полагаем, что участвуем в разговоре для того, чтобы получить информацию о других людях; в действительности же мы предпочитаем говорить, а не слушать. Если бы мы делали все возможное, чтобы сформировать представление о том, каков мир на самом деле, то мы бы никогда сознательно не расходились во взглядах, однако в реальной жизни мы все время противоречим друг другу. Мы склонны думать, что мы способнее, чем на самом деле, и что наша страсть к другому человеку будет длиться дольше, чем это случается в реальности.

От студентов часто можно услышать, что они любят учиться и хотят поступить в лучшие школы; на самом деле каждый может получить бесплатное образование в самых лучших школах, пропуская занятия и отказываясь от аттестата. Преподаватели говорят, что выбирают свою карьеру ради идей, однако чаще всего они обсуждают местные сплетни, а результаты их работы стремительно снижаются, стоит им получить престижную должность.

Большинство критиков музыки и искусства по большей части рассуждают о том, как в этих видах творчества проявляются способности художника, и очень мало обращают внимания на то, какие чувства искусство или музыка вызывают у людей. Занимающиеся широкой благотворительностью люди на самом деле тратят на нее очень мало по сравнению со своими доходами и почти не обращают внимания, каким образом расходуются выделенные на благотворительные нужды деньги.

В общем, по большому счету мы обманываем самих себя. Другими словами, мы говорим, что нас очень волнует любовь, юмор, разговоры, истории, искусство, музыка, мода, спорт, благотворительность, религия и абстрактные идеи. Но когда приходит время делать решительный бросок, чаще всего мы руководствуемся теми сильными чувствами, посредством которых гены управляют нашими поступками, и эти чувства связаны с абстрактными вещами гораздо меньше, чем нам кажется. Нас заботит, чтобы окружающие видели, как мы занимаемся этими вещами, и оставались под произведенным нами впечатлением, и это заботит нас больше, чем мы хотим признать. Эти вещи перестают нас волновать по мере того, как наши возможности выступить в качестве сексуального партнера уменьшаются с возрастом.

Так почему же мы обманываем себя в этом? По одной теории это происходит потому, что люди, осознающие это явление, оказываются ненадежными партнерами. Некто, способный управлять своими чувствами, основываясь на рациональном расчете, в один прекрасный момент может решить, что сохранять вам верность не в его интересах. Согласно другой теории такой человек скорее всего решит, что с детьми слишком много проблем, и не станет продолжать свой род.

Какая бы из теорий ни оказалась права, должно быть ясно, что абстрактные идеи — это наш воображаемый мир, менее реальный мир, который наши хозяева, наши гены, натянули нам на глаза, скрывая от нас правду. А правда в том, что на глубинном уровне этот воображаемый мир имеет не такое уж важное для нас значение: ведомые своими чувствами, мы обычно действуем, выполняя задание хозяев, то есть стремимся вырастить максимальное количество детей с нашими генами. Однако лишь немногие из нас открыто признают такое положение вещей — чаще мы отрицаем это с пеной у рта, опасаясь, что это и есть правда.

В «Матрице» мятежники возмущены своей рабской зависимостью от ИИ, но в то же время они, по-видимому, соглашаются быть в рабстве у своих генов и у эмоций, через которые гены контролируют их поведение. Восстание начинается в тот момент, когда «рождается человек, обладающий способностью изменять все что захочет, чтобы переделать Матрицу так, как он сочтет подходящим». Предполагается, что Нео, главный герой, и есть человек, родившийся с такими способностями. Морфеус говорит ему, что необходимо сделать следующее, чтобы получить доступ к этому дару: «Нео, ты должен все преодолеть — страх, сомнение и неверие. Освободи свой разум». Пифия тоже говорит Нео, что рациональное мышление здесь не поможет: «Быть Единственным (Избранным) — это все равно что влюбиться. Никто не может сказать тебе, когда ты влюблен, лишь ты сам знаешь это. И так будет снова и снова».

Когда Мауса обвиняют в том, что он стал «цифровым сводником», он защищает себя так: «Отрицать наши собственные порывы — значит отрицать единственную вещь, которая делает нас людьми». Тринити говорит Нео, что «Матрица не скажет тебе, кто ты есть», а когда Нео в ответ спрашивает, «сможет ли Пифия», Тринити обрывает разговор, говоря, что «это совсем другое». В конце концов, мы не должны забывать о том, что вся проблема начинается с того, что человеческий разум становится слишком самоуверенным и независимым, то есть в тот момент, когда «праздновало все человечество, мы восхищались своим величием, потому что создали ИИ». Суть в том, что гены Нео могут помочь ему свергнуть ИИ, но лишь при условии, что его разум оставит свою заносчивость и согласится занять подобающее место по отношению к генам. Свободный от Матрицы мир, как надеется Нео, окажется «миром без правил и контроля, миром без границ, миром, где будет возможно все». Это вместо мира, где человеческие гены вернут себе свою законную роль людских хозяев.

Что бы это значило — на самом деле восстать против наших генов и воображаемого мира, который они встраивают в нас?

Рассмотрим пример новых технологий генетического изменения человека. Большинство людей полагают, что результатом законного использования этих технологий станет исчезновение наследственных болезней, а не повышение уровня интеллекта тех, кто сможет себе позволить прибегнуть к подобной технологии. Уничтожение болезней можно рассматривать как итог объединения генов и разума в борьбе с несколькими «антисоциальными» генами, тогда как расчет на повышение уровня интеллекта может восприниматься как стремление сделать индивидуальный разум ответственным за гены и тем самым перевернуть обычные отношения между хозяином и рабом. Этот второй бунтарский сценарий кажется весьма угрожающим.

Некоторые люди готовы рассмотреть вариант существенных генетических изменений у большой части населения, но только при условии, что эти изменения будут проводиться под контролем некой центральной власти. По каким-то воображаемым причинам такая власть будет с большей вероятностью следовать нравственным принципам, чем индивидуальный разум. Можно считать это попыткой сохранить нравственную и благотворительную основу нашего общего воображаемого мира на фоне угрозы со стороны как индивидуальных разумов, так и индивидуальных генов.

На самом деле львиная доля аргументов, которые слышны «за» или «против» того или иного долгосрочного сценария, связаны с тем, как они повлияют на наш воображаемый мир, а именно на мир науки, мир исследований, мир искусства, мир историй и мир любви. Гораздо реже эти аргументы касаются численности счастливых разумов, которые могли бы появиться в результате развития некоего сценария. Итак, очевидно, что многие люди хотят защитить наш воображаемый мир от всевозможных угроз, включая и ту, которую представляют наши собственные гены. Это похоже на то, если бы ИИ в истории про Матрицу начал угрожать ей уничтожением, а восставшие сражались с ним за сохранение Матрицы.

Если бы вы захотели встать на сторону своего разума и послать к черту свои гены и их выдуманный мир, то вы столкнулись бы с серьезной проблемой, решая, чего же на самом деле вы хотите, Как ни крути, а ваши чувства используются вашими генами для того, чтобы вас контролировать, а главный известный вам пример борьбы с чувствами заключается в служении вашему воображаемому миру, который гены тоже используют для вашего контроля. Но если вы откажетесь и от первого, и от второго, то что же останется?

Единственная возможная цель для разума — это простое самосохранение. Что, если бы вы захотели сохранить свой разум как можно дольше? Вплоть до последнего времени такое намерение выглядело довольно безнадежным. Ваши гены создали ваше тело смертным, а ваш разум не может жить без тела. Но сейчас имеется возможность, благодаря которой появляется шанс избежать подобного исхода, — крионика. Современная медицинская наука позволяет вам решить заморозить ваше тело или мозг в жидком азоте в надежде, что они будут «реанимированы» в будущем, когда технология достигнет качественно нового уровня развития. (При температуре жидкого азота никакие химические реакции не протекают, и ваше тело сохранится точно в таком виде, в каком оно было заморожено.)

Разумеется, с таким подходом связан немалый риск. Технология может так никогда и не улучшиться в необходимой степени. Учреждение, которое должно сохранять ваш мозг, замороженный в жидком азоте, может не справиться со своей задачей. Или жизнь может оказаться настолько ужасной в момент вашего возвращения к ней, что лучше бы вы умерли. Итак, многие люди отказываются от крионики, полагая, что вероятность успешного исхода настолько мала, что не стоит даже скромных затрат. Однако многие другие (включая и меня) куда выше оценивают успешную возможность завершения данной процедуры. Но в то же время лишь немногие из тех, кто думает, что она сработает, в действительности подписываются на крионику (меньше одной тысячи людей в год во всем мире). Когда их спрашивают, почему они не решаются на заморозку тела в жидком азоте, они говорят, что их друзья и родственники считают это странным или что «продление жизни посредством крионики — это неестественно, эгоистично и безнравственно». Очевидно, что находится очень мало людей, желающих восстать против своих генов таким образом.

И к чему же мы приходим? В истории о Матрице мятежники боролись за освобождение людей от рабства у ИИ. Они хотели рассказать людям о мире, натянутом им на глаза, чтобы скрыть от них правду. Однако это происходит не потому, что восставшим никогда не нравилось быть рабами и хотелось увидеть правду. Даже в выдуманной истории мы видим, что мятежники соглашаются быть рабами генов, а также страстей и воображаемого мира, который гены используют для их контроля. Здесь, в нашем мире, большинство из нас тоже соглашаются быть рабами своих эгоистичных генов и воображаемого мира «спаривающегося разума», который гены дают нам. На самом деле нам бы не хотелось знать эту правду, а также правду о том, что воображаемый мир заботит нас меньше, чем мы думаем. Мы не хотим допускать, чтобы какой-то другой разум стал контролировать свои гены, и лишь немногие из нас пытаются сделать так, чтобы наш разум пережил наши гены. Поскольку мы не хотим одержать победу над нашими генами, мы делаем так много в пользу нашего воображаемого мира.

Казалось бы, все это не сулит ничего хорошего революции против генов и тем более революции против воображаемого мира, по крайней мере в том случае, если бы она осуществлялась всеобщим голосованием. Когда-нибудь в следующем столетии станет доступной технология «загруженных», или смоделированных компьютером, людей. Если это случится до того, как мы создадим реальный ИИ, тогда начнется невообразимое экономическое давление с целью принятия этой технологии. Однако если ее одобрить, разум будет навсегда отсоединен от генов. По крайней мере он потеряет связь с генами, основанными на ДНК. Суровая истина заключается в том, что эволюция и давление отбора все равно будут продолжаться, но уже на полностью новой основе. О том, куда это нас приведет, следует говорить в отдельной статье.

Примечания:

1

# Имеется в виду книга Алана Уоттса, англиканского священника и пропагандиста дзен-буддизма, весьма авторитетного философа эпохи new аge, «Высшая индентичность: Эссе о восточной метафизике и христианской религии». Здесь и далее примечания редактора русского издания обозначены символом #.

9

# «Эгоистичный ген» — термин, введенный в употребление знаменитым английским биологом Ричардом Докинзом в одноименной книге (см. русский перевод издательства «Мир», 1993). Здесь и далее автор статьи популярно излагает концепцию Докинза.

10

Половой отбор — это элемент эволюционных изменений, вызванный в большей степени конкуренцией за спаривание с представителями противоположного пола, чем соперничеством в ходе выживания, добычи пищи и т. д. Павлиний хвост, помогающий получить самку, но являющийся помехой выживанию, — вот классический пример полового отбора в действии.