Естественный интеллект

Эссе написано в июле 1997 г.

1

У нас есть Интернет и другие сети связи с глобальным радиусом действия. Имеются сетевые «узлы» — компьютеры новейшего поколения, такие как Intel Teraflop, выполняющие триллион (или по американской терминологии — биллион) вычислительных операций в секунду. Чемпион мира по шахматам был и будет бит. Это не вызывает сомнения. А так как из компьютера не удалось высечь и следа интеллекта (то есть создать интеллектуальные программы), специалисты пытаются каким-то образом восполнить этот существенный пробел. Появляются различные подсистемы для классификации данных, для их распознавания, по крайней мере по синтаксису, раз уж широта значений (n-размерная семантика) чаще всего остается недоступной; у нас есть серверы, провайдеры, браузеры, делающие возможным серфинг в любой сети, есть даже блокираторы, которые должны сделать недоступным для несовершеннолетних пользователей то, что является неприличным или развратным (или по местным нормам считается таковым). Конгресс США принял Indecency Act, закон, наказывающий за распространение в Сети всякого рода непристойностей, а точнее говоря, порнографии, но Верховный Суд признал этот закон недопустимым, так как он противоречит первой поправке (First Amendment) к Конституции США, которая гарантирует свободу слова и изображения. Я на стороне этой поправки, хотя очень хорошо отдаю себе отчет в ее небезопасных последствиях: если все можно, то педофилические действия и изображения не должны запрещаться, но молодым умам они могут нанести значительный вред. Вместе с тем я разделяю мнение американского публициста, который, будучи рассержен назойливой агрессивностью антипорнографистов, написал, что еще ни один типично порнографический текст или изображение никого не привели к смерти, никого не склонили к убийству, вместе с тем к актам насилия и к преступлениям достаточно определенно склоняет до 90% мирового телевещания. Благодаря телевидению повсеместно известно, каким образом можно похищать людей (лучше всего детей, женщин), связывать их, держать в заключении, использовать к собственной выгоде, бить, истязать, подвергать страшному воздействию огня, мора, воды, ставить им ловушки, демонстрировать в зрелищах; известно, что преступниками и похитителями бывают и судьи, и полицейские, и шерифы, что красивых и с виду невинных девушек можно научить пользоваться оружием, наручниками, пуленепробиваемыми жилетами: все это вместе взятое я также считаю настоящей порнографией, и на нее нет никакого закона и никакой управы. Но об этом я упомянул «только попутно».

2

В 60-е годы, когда молодая кибернетика считалась «буржуазной лженаукой», я бывал в советской Москве и беседовал с самыми уважаемыми учеными, которые тогда были вынуждены тайно заниматься кибернетикой. Запрет знания не делал меня несчастным, я понимал, что если оно (знание) будет постоянно запрещаться в Советах, это ускорит их глобальное поражение не только в области гонки вооружений; из астронавтики бы у русских тоже ничего не вышло. В то время и там, где кибернетика могла свободно развиваться (например, в США или во Франции), и там, где она считалась «подрывной деятельностью», господствовало убеждение, что ее развитие в скором времени ДОЛЖНО привести к созданию быстро мыслящих конструкций, то есть, говоря кратко, к AI (сокращение от Artificial Intelligence). Уже тогда появлялись скептики, братья Дрейфусы (Dreyfus), например, и даже те, кто немного позже осмеливался сомневаться в якобы безусловной правильности теста Тьюринга, то есть тезиса, что если собеседник не может определить, разговаривает ли он с человеком или с машиной, это доказывает, что машина ведет себя так же умно, как и человек. Сейчас мы такой уверенности уже не испытываем, потому что машины, с которой удалось бы поговорить на различные темы, как не было, так и нет.

3

В этой удивительной ситуации, с точки зрения надежды, господствовавшей почти полвека назад, думаю, следует повнимательнее приглядеться к области явлений, из которой искусственный интеллект должен был бы per analogiam [По аналогии (лат.)] быть выведен. Для большей точности я разделю свои рассуждения на три части. А именно, primum comparationis [Первое сравнение (лат.), далее по тексту второе и третье сравнения] будет оригинал для возможного копирования, то есть МОЗГ ЧЕЛОВЕКА. Sekundum comparationis будут все центральные нервные системы животных, которые этот первый мозг эволюционно определили таким образом, что его конструкция (по крайней мере, частично) основана на их строительных принципах (я не буду касаться генной автоинженерии, поскольку для того, чтобы провести такое сравнение в пределах доступного нам сегодня и по-прежнему убогого, то есть неполного, знания, потребовался бы толстый том). И наконец, tertium comparationis будет просто «дерево жизни» Линнея (Linnaeus), включая самые истоки, то есть возникновение способных к обучению репликаторов типа ДНК. Весь мой упрощенный по необходимости вывод берется оттуда, что наивные инженеры, например Эшби (Ashby) или Мак-Кей (McKay) (Джон фон Нейманн [John von Neumann] был уже тогда более скептичен), считали, что бытие, именуемое интеллектом, «само собой разумеется», и принимали концепцию Алана Тьюринга (Alan Turing) как бесспорную: тот, кого нельзя в разговоре отличить от человека, eo ipso [Вследствии этого, в силу этого (лат.)] равен человеку. Сомневаться в этом утверждении им даже в голову не приходило.

4

Последующие полвека, при полном отсутствии искусственного интеллекта (или хотя бы первых зачатков его), породили огромную библиотеку из работ и книг по AI, которая постоянно пополняется. Некоторые из появившихся в Польше работ на эту тему мне довелось читать в нынешнем году. Их можно разделить на «инженерские», то есть «здравомыслящие», и на уходящие к противоположному полюсу «глубинные герменевтико-когнитивистские» работы. Здесь можно блуждать и углубляться в виртуальные бесконечности языка, в его созидательные возможности или перескакивать в математику, то есть к конструктивистской формализации, где компьютеры чувствуют себя не худшим образом, поскольку «обычная диалоговая семантика» все более отделяема от математики. Тем временем отдельно и как-то параллельно (хотя в этой параллельности можно и даже чуть ли не следует сомневаться) развивались новые исследования мозга, о котором мы уже знаем, что все больше его не знаем, несмотря на успешное исследование отдельных центров и роли отдельных участков: серого вещества, коркового, а также размещенных в мозгу на разной глубине ядер и центров. Так возникают менее или более основанные на фактическом материале (гистологически-невральной препараторике) или на материале PET [Позитронно-эмиссионная томография], электрической, биохимической энцефаллографии и т. п., а иногда и на гипотезотворческом воображении исследователей различные концепции, которые должны объяснить интегрально, как функционирует живой мозг, как в нем появляется ум и венец процесса — индивидуальное сознание. Здесь я уже и сам начинаю плавать в метафорах, потому что как не было почти ничего точного, то есть ОКОНЧАТЕЛЬНО известного нам, так и нет до сих пор. Почему?

5

Ответ, даваемый по сути, эмпирический или, по крайней мере, претендующий на эмпиричность, выглядит следующим образом. Мозг возник и эволюционировал у различных видов животных благодаря работе («игре») генов, вызванной влиянием различных обстоятельств окружения: климатического, гравитационного и т. д. и т. п. Никто разумный и ничто разумно ориентированное ему не помогало: был отбор, селекция, мутации, а также эпигенетические влияния, но все это вместе взятое никакому, даже самому скромному «пониманию», то есть ВОСПРИЯТИЮ, эволюционирующими субъектами не подвергалось. Иначе говоря, все функции формировались по направлению к функциональному оптимуму, замкнутому посредством так называемых СОПРЯЖЕННОСТЕЙ (непреодолимых ограничений, определяемых граничными и исходными условиями), который должен был быть достигнут для того, чтобы отдельная система могла размножиться, произвести потомство (если она была не однополая, то, разумеется, не самостоятельно), и чтобы она до этого дошла живой, то есть жизнеспособность является обязательным условием оптимизации, потому что мертвые системы не способны размножаться. Во всей этой двойной работе строительнице и конструкторше организмов скорее всего было «все равно», смогут ли они осуществить САМООПИСАНИЕ. Надо уметь, например, двигать руками, плавниками или крыльями, однако знать о том, как это делает каждый человек, птица или рыба, ей (ему) с «эволюционной точки зрения» абсолютно не нужно.

В результате мы не имеем ни малейшего понятия о том, что мы делаем, когда думаем, и как получается, что мы обладаем сознанием и являемся носителями «естественного» интеллекта, по-прежнему неточно измеряемого с помощью IQ - показателя интеллекта, который подчиняется распределению Гаусса. Интеллект животных (мы принадлежим к ним, хотя не каждому это нравится) можно распознать по тому, что он неодинаков у разных видов: есть мудрецы, есть «середняки» и есть глупцы, но тщетно искать интеллект, например, у мух, потому что у насекомых недостаточность инстинкта, программирующего поведение, сразу обрекает особь на смерть.

У людей все значительно сложнее, но хотя мы и познаем собственное строение и собственные функции методом обдумывания, фальсификации и верификации (всегда неопределенной) конъектур (предположений), то есть все более дерзких гипотез, мы по-прежнему не знаем, как мы это делаем «головой». О том, что мы это делали автоматически, безотчетно, но четко (а иногда и с ошибками) во множестве житейских ситуаций, мы убеждаемся только тогда, когда процессуальное течение таких действий под старость начинает нас подводить, когда некоторые движения невозможно совершить легко и «бездумно», когда все больше и больше переживаний, названий и ситуаций забывается и становится невозможным их вспомнить только внутренним желанием, — лишь тогда мы начинаем замечать, что сознание, пока оно еще полностью не помутится, возникает и действует благодаря бесконечным, совсем не известным нам, ибо НЕДОСТУПНЫМ В ПОЛНОЙ МЕРЕ, невральным механизмам, таким, которые поддерживают его, создают, двигают им, основывают и питают память поступающей информацией, которые могут направлять человека к тому, что с ним, его близкими, его социальной группой и даже со всем человечеством происходило, происходит и будет происходить. Но размеры (четкость) всех этих умений заданы нам строением мозга, и так не бывает, что если кто-то захотел быть поэтом или златоустым оратором, или харизматичным политиком, то он им и будет. Это не зависит ни исключительно, ни прежде всего от желаний личности. Подобно тому, как и женщина, желая быть красивой, к сожалению, не похорошеет только от одного желания.

6

Учитывая сказанное, я склонен заменить в tertiumcomparationis «древо жизни» на «ДРЕВО НАШИХ ТЕХНОЛОГИЙ». Это дерево всегда развивалось таким образом, что сначала создавались образцы. После них шли первые КОНКРЕТНЫЕ ПОПЫТКИ, и только потом появлялась фаза таких усовершенствований «продукта», где уже без сильного теоретико-математического вклада нельзя было обойтись. Я уже несколько десятков лет настойчиво пишу о том, чтобы мы старались догнать и даже перегнать Природу как Конструктора, и хотя мой голос, как писк мыши под метлой, не разносился далеко, но именно в указанном мною направлении начало устремлять свои современные побеги «древо технологий». Как живое дерево к Солнцу, так и наши технологии даже без внимания к моим советам направились в сторону природы: биотехнология с генной инженерией и микрохирургией клонирования, трансгенные трансплантации и даже целые созданные виды организмов. Однако я не намерен заниматься самовосхвалением потому, что если б ни меня, ни моих прогнозов вообще не было, все пошло бы так же. Да, я предвидел, но этим предвидением de facto ничего не сделал, так что те люди, которые реализовали мои «замыслы будущих действий» и реализовывают их по-прежнему, не имеют ни малейшего понятия, что кто-то предвидел их начинания.

Впрочем, и это лишь «попутное» отступление.

7

И здесь, где для tertium comparationis было взято дерево расцветающих и ветвящихся ТЕХНОЛОГИЙ, появилась вполне заметная на первый взгляд принципиальная разница между по-прежнему напрасно преследуемой «ментальной технологией», то есть технологией создания машинного интеллекта, и действием человеческого мозга. А происходит это потому, что до самолета был китайский бумажный змей, до космического челнока американцев были фейерверки, до автоматической линии (конвейера под присмотром компьютера) был ручной труд от палеолита до слесарного ремесла и кузнечного дела, а до компьютера были только счеты, затем усложнившиеся до арифмометра, но никакого технического следа имитации разумной жизни хотя бы муравьев или мух не появилось. Мы не умеем инженерно подражать тому, что не следует из результатов исследования конструкции! Мы не знаем, ни как и откуда берется сознание, ни где рождаются наши мысли, ни как понятия превращаются в предложения языка, но скромные попытки механизации вместе с усилиями обучения машины печатанию диктуемого текста дают такие результаты, что рентгенолог предпочитает сам (или диктуя стенографистке) делать описание рентгеновского снимка, чем потом исправлять текст, напечатанный компьютером с самой лучшей программой. Это так, но это совсем не означает, что так должно быть. Уже были отрасли во главе с атомной физикой, в которых теоретический скачок через невежество, невозможный путем малых шажков, оказался и возможным и необходимым — и дело дошло до желаемых, и нежеланных успехов. Но о «многообразии возможных искусственных интеллектов» поговорим, может быть, в другой раз.