Пенроуз Р

Глава 8. Возможные последствия 598

8.1. Искусственные разумные "устройства" 598

8.2. Что компьютеры умеют делать хорошо... и что не очень 602

8.3. Эстетика и т. д 607

8.4. Опасности компьютерных технологий 610

8.5. Неправильные выборы 613

8.6. Физический феномен сознания 617

8.7. Три мира и три загадки 625

Эпилог 640

Литература 641

Предметный указатель 673

ПРЕДИСЛОВИЕ

Эту книгу можно считать, в некотором смысле, продолжением "Нового разума короля" (далее - НРК). То есть я и в самом деле намерен продолжить развитие темы, начатой в НРК, однако излагаемый здесь материал можно рассматривать и совершенно независимо от предыдущей книги. Отчасти необходимость в повторном обращении к предмету первоначально возникла из желания дать как можно более обстоятельные ответы на множество вопросов и критических замечаний, которыми самые разные люди отреагировали на рассуждения и доказательства, представленные в НРК. Тем не менее, тема новой книги представляет собой совершенно самостоятельное исследование, а предлагаемые здесь идеи отнюдь не ограничиваются рамками, установленными в НРК. Одну из главных тем НРК составило мое убеждение в том, что, используя сознание, мы способны выполнять действия, не имеющие ничего общего с какими бы то ни было вычислительными процессами. Однако в НРК эта идея была представлена лишь как осторожная гипотеза; имелась также некоторая неопределенность относительно того, какие именно типы процедур следует включать в категорию "вычислительных процессов". На страницах же этой книги, как мне представляется, читатель найдет гораздо более последовательное и строгое обоснование приведенного выше общего утверждения, причем представляемое обоснование оказывается применимо ко всем типам вычислительных процессов, какие только можно вообразить. Кроме того, здесь имеется и существенно более правдоподобное (нежели это было возможно во времена НРК) предположение относительно механизма церебральной активности, посредством которого наше управляемое сознанием поведение может основы-

1 The Emperor's New Mind. (He так давно книга была переведена на русский к: Пенроуз Р. Новый ум короля, М.: Едиториал УРСС. 2003.) - Прим. перев.

ваться на какой-либо физической активности невычислительного характера.

Упомянутое обоснование проводится по двум различным направлениям. Одно из них по сути своей негативно; здесь я решительно выступаю против широко распространенного мнения, согласно которому нашу сознательную мыслительную деятельность - во всех ее разнообразных проявлениях - можно, в принципе, адекватно описать в рамках тех или иных вычислительных моделей. Другое направление моих рассуждений можно счесть позитивным - в том смысле, что оно предполагает подлинный поиск (разумеется, в рамках необходимости придерживаться строгих и неопровержимых научных фактов) инструментов, позволяющих описываемому в научных терминах мозгу применять для осуществления требуемой невычислительной деятельности тонкие и по большей части нам пока не известные физические принципы.

В соответствии с этой дихотомией, представленная в книге аргументация разбита на две части. В первой части содержится всестороннее и обстоятельное исследование, результаты которого самым решительным образом подтверждают мой тезис о том, что сознание, в его конкретном проявлении человеческого "понимания", делает нечто такое, чего простые вычисления воспроизвести не в состоянии. Причем под термином "вычисления" здесь подразумеваются как процессы, реализуемые системами "нисходящего" типа, действующими в соответствии с конкретными и прозрачными алгоритмическими процедурами, так и процессы, реализуемые системами "восходящего" типа, которые программируются не столь жестко и способны вследствие этого к обучению на основании приобретенного опыта. Центральное место в рассуждениях первой части занимает знаменитая теорема Гёделя; приводится также подробнейшее рассмотрение следствий из этой теоремы, имеющих отношение к нашему случаю. Подобное изложение существенно расширяет аргументацию, представленную сначала самим Гёделем, а позднее Нагелем, Ньюменом и Лукасом; кроме того, здесь же я постарался по возможности обстоятельно ответить на все известные мне возражения. В этой связи приводятся также подробные доказательства невозможности достижения системами восходящего (равно как и нисходящего) типа подлинной разумности. В заключение делается вывод о том, что сознательное мышление и в самом деле должно включать в

себя процессы, которые с помощью одних лишь вычислительных методов невозможно даже адекватно смоделировать; еще менее способны вычисления, взятые сами по себе, обусловить какое бы то ни было сознательное ощущение или желание. Иными словами, разум, по всей видимости, представляет собой такую сущность, которую никоим образом невозможно описать посредством каких бы то ни было вычислений.

Во второй части мы обратимся к физике и биологии. Хотя отдельные звенья цепи наших умозаключений и носят здесь явно более предположительный характер, нежели строгие доказательства первой части, мы все же попытаемся разобраться, каким именно образом в пределах действия научно постижимых физических законов может возникать подобная невычислимая активность. Необходимые фундаментальные принципы квантовой механики излагаются начиная с самых азов, так что от читателя не требуется какого бы то ни было предварительного знакомства с квантовой теорией. Приводится достаточно глубокий анализ некоторых загадок и парадоксов квантовой теории с привлечением целого ряда новых примеров, графически иллюстрирующих роль нелокальности и контрфактуальности, а также некоторых весьма сложных проблем, связанных с квантовой сцепленно-стью. Я глубоко убежден - и готов свою убежденность обосновать - в необходимости фундаментального пересмотра (на определенном, четко обозначенном уровне) наших сегодняшних квантовомеханических воззрений. (Высказываемые здесь соображения весьма близки к идеям, недавно опубликованным Ги-рарди, Диози и др.) Следует отметить, что со времен НРК в этом отношении произошли существенные изменения.

Я полагаю, что именно на этом уровне в действие должна вступать физическая невычислимость - условие, необходимое для объяснения невычислимости деятельности сознания. В соответствии с этим предположением я должен потребовать, чтобы уровень, на котором становится значимой упомянутая физическая невычислимость, играл особую роль и в функционировании мозга. Именно в этом пункте мои нынешние предположения наиболее существенно расходятся с теми, что были высказаны в НРК. Я утверждаю, что, хотя сигналы нейронов и могут вести себя как детерминированные в классическом смысле события, управление синаптическими связями между нейронами происходит на более глубоком уровне, т. е. там, где можно ожидать

наличия существенной физической активности на границе между квантовыми и классическими процессами. Выдвигаемые мною специфические предположения требуют возникновения внутри микроканальцев цитоскелета нейронов макроскопического кван-товокогерентного поведения (в точном соответствии с предположениями Фрёлиха). Иначе говоря, я полагаю, что упомянутая квантовая активность должна быть неким невычислимым образом связана с поддающимся вычислению процессом, который, как утверждают Хамерофф и его коллеги, имеет место внутри этих самых микроканальцев.

Представляемые мною доказательства указывают на то, что распространенные сегодня в некоторых областях науки взгляды ни в коей мере не способствуют хоть сколько-нибудь научному пониманию человеческого разума. И все же это не означает, что феномен сознания так никогда и не найдет своего научного объяснения. Я глубоко убежден - и в этом отношении мои взгляды со времен НРК ничуть не изменились - в том, что научный путь к пониманию феномена разума несомненно существует, и начинаться этот путь должен с более глубокого познания природы собственно физической реальности. Я полагаю чрезвычайно важным, чтобы любой серьезный читатель, намеренный разобраться в том, каким образом столь выдающийся феномен, как разум, может быть объяснен в понятиях материального физического мира, составил бы себе прежде достаточно четкое представление о том, какими странными могут оказаться законы, в действительности управляющие этим самым "материалом", из которого состоит наш физический мир.

В конечном счете, именно ради понимания мы и затеяли всю науку, а наука - это все же нечто большее, нежели просто бездумное вычисление.

Оксфорд, Р. П.

апрель 1994

БЛАГОДАРНОСТИ

За помощь, оказанную мне в написании этой книги, я весьма обязан многим людям - слишком многим, чтобы поблагодарить каждого из них в отдельности, даже если бы я смог вспомнить все имена. Тем не менее, особую благодарность я хотел бы выразить Гвидо Баччагалуппи и Джереми Баттерфилду за критические замечания, которые они сделали в отношении некоторых частей чернового варианта книги, обнаружив, в частности, серьезную ошибку в моем тогдашнем рассуждении (исправленный текст вошел в третью главу окончательного варианта книги). Кроме того, я благодарен Дэну Айзексону, Абхею Аштекару, Мэри Белл, Брайану Берчу, Джеффу Брукеру, Сьюзан Гринфилд, Робину Гэн-ди, Роджеру Джеймсу, Дэвиду Дойчу, Эцио Инсинне, Рихарду Йоже, Фрэнсису Крику, Джону Лукасу, Биллу Макколлу, Грэму Мичисону, Клаусу Мозеру, Теду Ньюмену, Джонатану Пенроузу, Оливеру Пенроузу, Стэнли Розену, Рэю Саксу, Грэму Сигалу, Аарону Сломену, Ли Смолину, Рэю Стритеру, Валери Уилло-уби, Соломону Феферману, Эндрю Ходжесу, Дипанкару Хоуму, Дэвиду Чалмерсу, Антону Цайлингеру и в особенности Артуру Экерту за всевозможную информацию и помощь. После выхода в свет моей предыдущей книги ("Новый разум короля") я получил множество устных и письменных отзывов о ней. Пользуясь случаем, хочу поблагодарить всех, кто выразил свое мнение, - оно не пропало даром, хотя на большую часть писем я так и не собрался ответить. Если бы я не извлек пользы из всех этих очень разных комментариев по поводу моей предыдущей книги, вряд ли я ввязался бы в столь устрашающее предприятие, как написание следующей.

Я благодарен организаторам Мессенджеровских лекций в Корнеллском университете (название этого курса лекций совпадает с названием последней главы настоящей книги), Гиффордов-ских лекций в университете Св. Андрея, Фордеровских лекций в

Новой Зеландии, Грегиногговских лекций в университете Аберистуита и знаменитой серии лекций в Пяти Колледжах (Амхерст, штат Массачусетс), а также многочисленных "разовых" лекций, которые я читал в разных странах. Благодаря этому я получил возможность изложить свои взгляды перед широкой аудиторией и получить ценный отклик. Я благодарен Институту Исаака Ньютона в Кембридже, Сиракузскому университету и университету штата Пенсильвания за их радушие и за присуждение мне званий, соответственно, Почетного внештатного профессора математики и физики, а также Почетного профессора математики и физики Фонда Фрэнсиса и Хелен Пентц. Я также благодарен Национальному научному фонду за поддержку в виде грантов PHY 86-12424 и PHY 43-96246.

Есть, наконец, еще три человека, которые заслуживают особого упоминания. Невозможно переоценить бескорыстную помощь и поддержку, которую оказал мне Энгус Макинтайр, проверив мои рассуждения относительно математической логики в главах 2 и 3 и предоставив мне множество полезной литературы. Выражаю ему свою глубочайшую благодарность. Стюарт Хамерофф рассказал мне о цитоскелете и его микроканальцах; два года назад я и не подозревал о существовании подобных структур! Я очень ему благодарен за эту бесценную информацию, а также за помощь, которую он оказал мне, проверив большую часть материала главы 7. Я навеки у него в долгу за то, что он открыл моим глазам чудеса нового мира. Он, равно как и все остальные, кого я здесь благодарю, конечно же, ни в коей мере не ответственен за те ошибки, совсем избавиться от которых нам так и не удалось. Особо признателен я своей любимой Ванессе по нескольким причинам: за то, что она объяснила мне, почему отдельные части этой книги нужно переписать; за помощь с литературой, что просто спасло меня, а также за ее любовь, терпение и понимание, особенно если учесть, что я постоянно недооцениваю то количество времени, которое отнимает у меня написание книги! Ах, да, чуть не забыл: еще я благодарен ей за то - она, кстати, об этом ничего не знала, - что она отчасти послужила моделью для вымышленного образа Джессики, героини придуманной мною истории. Мне очень жаль, что я совсем не знал Ванессу, когда ей было столько же лет, сколько Джессике!

Источники иллюстраций

Издатели также выражают благодарность правообладателям за разрешение воспроизвести нижеперечисленные иллюстративные материалы.

Содержание