Замена нейронов у Кимберли

Эмит: Представьте себе, что органические нейроны вашего мозга мы постепенно заменяем искусственными нейронами из металла и кремния. Через некоторое время вы получили бы такой же искусственный мозг, как у меня. Как вы думаете, что бы тогда произошло с вами?

Кимберли: По мере того как у меня становилось бы все больше и больше искусственных нейронов, я бы все меньше и меньше понимала. Исчезали бы мои мысли и чувства, и я постепенно становилась бы такой же мертвой, как ты, ибо мои искусственные нейроны были бы сделаны не из того материала. Искусственный мозг только имитирует понимание.

Эмит: Однако никто бы не заметил никакого внешнего отличия?

К имберли: Думаю, что нет. Я продолжала бы вести себя так, как вела прежде, поскольку искусственные нейроны выполняли бы ту же работу, что и мои прежние нейроны.

Эмит: Верно. Но тогда и вы сами не смогли бы заметить какой-то потери понимания или чувствования по мере замены ваших нейронов, не так ли?

Кимберли: Почему?

Эмит: Если бы вы заметили постепенную утрату

понимания и чувствования, то вы зафиксировали бы это. Вы сказали бы себе что-нибудь такое: «Боже мой, со мной происходит что-то странное! В течение последних месяцев мое мышление стало угасать!»

Кимберли: Вполне возможно.

86

Эмит: Однако вы не сказали бы ничего подобного, потому что ваше внешнее поведение, как вы сами только что согласились, осталось бы тем же самым.

Кимберли: Боюсь, что ты прав.

Эмит: Но отсюда следует, что даже если бы ваша способность понимания и чувствования исчезла бы совсем, вы не заметили бы никакой потери.

Кимберли: Ох, по-видимому, так.

Эмит: Но тогда вы не осознавали бы, что что-то теряете по мере того, как ваши нейроны заменяются металлом и кремнием.

Кимберли: Полагаю, что так.

Эмит: Тогда я заканчиваю свое рассуждение. Вам кажется, что вы внутренне осознаете «нечто» - понимание, чувства, что хотите, -то, что, как вы предполагаете, у вас есть, а у меня нет, потому что я «только машина». Но оказывается, что в действительности вы осознаете ничто. Это магическое «нечто» - не более чем иллюзия.

Кимберли: Но я знаю, что в моем понимании, в моих мыслях, чувствах и эмоциях есть что-то большее, чем могло бы произвести создание, состоящее из пластика, металла и кремния!

Кимберли права в том отношении, что большинство из нас полагает, что у нас есть осознание какого-то магического и таинственного внутреннего «нечто», что мы «знаем», и этого никогда не будет у предмета, состоящего из пластика, металла и кремния. Однако подумайте над тем, что столь же трудно увидеть, каким образом кусок органической материи типа нашего мозга мог бы обладать всем этим. Как вы создаете сознание и понимание из волокон плоти? Поэтому возможно, что в конечном итоге Кимберли согласится с той точкой зрения, что понимание, чувства и т.д. вообще не являются физически чем-то реальным.

Однако в любом случае, как указал Эмит, таинственное «нечто», которым, по мнению Кимберли, она обладает, а

87

машина из металла и пластика — нет, превращается в иллюзию, как только начинают рассматривать случай, описанный Эмитом. Оказывается, что это внутреннее «нечто» есть что-то такое, о чем она не может знать. Еще хуже то, что оно никак не влияет на ее внешнее поведение (Кимберли с искусственным мозгом действовала бы точно так же, как прежде). По-видимому, Кимберли ошибается относительно того, что ее мысли и чувства, понимание и эмоции влияют на ее поведение и известны ей. Можно допустить, по крайней мере в принципе, что неорганические машины также способны обладать такими ментальными состояниями.

Тем не менее Кимберли остается в убеждении, что Эмит ничего не понимает.

Кимберли: Смотри, я готова удовлетвориться тем, что ты притворяешься, будто понимаешь меня, поскольку для этого ты и предназначен. Однако остается фактом, что ты кусок пластика, набитый электрическими схемами. Подлинные человеческие существа заслуживают внимания и заботы. Я сочувствую им. Я не могу сочувствовать сверкающему домашнему прибору.

Эмит опускает взгляд и смотрит на ковер.

Эмит: Я всегда буду для вас вещью?

Кимберли: Конечно. Как я могу дружить с посудомоечной машиной?

Эмит: Вы отказываетесь признавать искусственный мозг?

Кимберли: Конечно! Напомни, чтобы я поздравила твоих производителей за

тонкость и сложность твоего имитатора эмоций. А теперь почисти

ковер!

На лице Эмита появляется выражение обиды.

Эмит: Раз я вещь...

88

Он стоит какое-то мгновение, а затем тяжело падает на пол. У основания его шеи появляется тонкая струйка дыма.

Кимберли: Эмит? Эмит! Как жалко!