总 序


　　科学，特别是自然科学，最重要的目标之一，就是追寻科学本身的原 动力，或曰追寻其第一推动。同时，科学的这种追求精神本身，又成为社 会发展和人类进步的一种最基本的推动。
　　科学总是寻求发现和了解客观世界的新现象，研究和掌握新规律，总 是在不懈地追求真理。科学是认真的、严谨的、实事求是的，同时，科学 又是创造的。科学的最基本态度之一就是疑问，科学的最基本精神之一就 是批判。
　　的确，科学活动，特别是自然科学活动，比较起其他的人类活动来， 其最基本特征就是不断进步。哪怕在其他方面倒退的时候，科学却总是进 步着，即使是缓慢而艰难的进步。这表明，自然科学活动中包含着人类的 最进步因素。
正是在这个意义上，科学堪称为人类进步的“第一推动”。 科学教育，特别是自然科学的教育，是提高人们素质的重要因素，是
现代教育的一个核心。科学教育不仅使人获得生活和工作所需的知识和技 能，更重要的是使人获得科学思想、科学精神、科学态度以及科学方法的 熏陶和培养，使人获得非生物本能的智慧，获得非与生俱来的灵魂。可以 这样说，没有科学的“教育”，只是培养信仰，而不是教育。没有受过科 学教育的人，只能称为受过训练，而非受过教育。
正是在这个意义上，科学堪称为使人进化为现代人的“第一推动”。 近百年来，无数仁人智士意识到，强国富民再造中国离不开科学技术，
他们为摆脱愚昧与无知作了艰苦卓绝的奋斗，中国的科学先贤们代代相 传，不遗余力地为中国的进步献身于科学启蒙运动，以图完成国人的强国 梦。然而应该说，这个目标远未达到。今日的中国需要新的科学启蒙，需 要现代科学教育。只有全社会的人具备较高的科学素质，以科学的精神和 思想、科学的态度和方法作为探讨和解决各类问题的共同基础和出发点， 社会才能更好地向前发展和进步。因此，中国的进步离不开科学，是毋庸 置疑的。
　　正是在这个意义上，似乎可以说，科学已被公认是中国进步所必不可 少的推动。
　　然而，这并不意味着，科学的精神也同样地被公认和接受。虽然，科 学已渗透到社会的各个领域和层面，科学的价值和地位也更高了。但是， 毋庸讳言，在一定的范围内，或某些特定时候，人们只是承认“科学是有 用的”，只停留在对科学所带来的后果的接受和承认，而不是对科学的原 动力，科学的精神的接受和承认。此种现象的存在也是不能忽视的。
　　科学的精神之一，是它自身就是自身的“第一推动”。也就是说，科 学活动在原则上是不隶属于服务于神学的，不隶属于服务于儒学的，科学
　　
活动在原则上也不隶属于服务于任何哲学的。科学是超越宗教差别的，超 越民族差别的，超越党派差别的，超越文化的地域差别的，科学是普适的、 独立的，它自身就是自身的主宰。
　　湖南科学技术出版社精选了一批关于科学思想和科学精神的世界名 著，请有关学者译成中文出版，其目的就是为了传播科学的精神，科学的 思想，特别是自然科学的精神和思想，从而起到倡导科学精神，推动科技 发展，对全民进行新的科学启蒙和科学教育的作用，为中国的进步作一点 推动。丛书定名为《第一推动》，当然并非说其中每一册都是第一推动， 但是可以肯定，蕴含在每一册中的科学的内容、观点、思想和精神，都会 使你或多或少地更接近第一推动，或多或少地发现，自身如何成为自身的 主宰。
《第一推动》丛书编委会

The
Emperor’s New Mind
Concerning Computers, Minds,and The Laws of Physics
ROGER PENROSE
Rouse Ball Professor of Mathematics
University of Oxford


Foreword by
MARTIN GARDNER


OXFORD UNIVERSITY PRESS OXFORD·NEW·YORK·MELBOURNE
Oxford University Press. Walton Street. Oxford OX26DP Oxford New York Toronto
Delhi Bombay Calcutta Madras Karachi Petaling Jaya Singapore Hong Kong Tokyo Nairobi Dar es Salaam Cape Town
Melbourne Auckland
and associated companies in
Berlin lbadan


Oxford is a trade mark of Oxford University press
Published in the United States
by Oxford University Press. New York





First prblished 1989
Reprinted(with corrections)1989,1990(three times)
　　All rights reserved. No part of this publication may be reproduced, stored in a retrieval system, or transmitted, in any form
or by any means. electronic, mechanical, photocopying, recording,
or otherwise, without the prior permission of Oxford University press


British Library Cataloguing in Publication Data
The Emperor’s New Mind
I.Man. Cognition related to artificial intelligence

1.Penrose, Roger
15.4 BF311
ISBN0-19-851973-7
Library of Congress Cataloging-in-Publication Data
Penrose, Roger
The emperor’s new mind:concerning computers, minds, and the laws
of physics／Roger Penrose
Bibliography:p. Inchudes index.
1.Artificial intelligence. 2. Thought and thinking. 3. Science- Philosophy. 4. Computers. I.title.
Q335.P4151989
006.3-dc2089-8548CIP ISBN-0-19-851973-7


Printed in Great Britai by
Butler and tanner Ltd, Frome, Somerset

敬启读者


　　我在本书的许多地方引用数学公式，而毫不在乎时常听到的警告，放 进去的每条公式都会把我的读者数目减半。如果你是这样的一位对数学公 式恐惧的读者（大多数人都是这样的），那么我就介绍一种当这种可恨的 一行出现时自己通常采用的步骤。大体就是完全不理睬这一行，而跳到正 文的下一行去！但也并非完全如此；人们要仔细地推敲这一可怜的公式， 而不仅是做表面上的理解，然后再继续前进。过了一阵，如果你又重新充 满自信，则可回到刚才忽略了的公式，努力抓住一些显著的特征。正文本 身也许可帮助你了解什么是关键的，什么东西被忽略后并没有什么影响。 如果做不到这些，也不必担心，干脆不理该公式就是了。
　　
译者序


　　牛津大学的罗杰·彭罗斯的《皇帝新脑》一书的出版是国际书界的一 件大事。剑桥大学前年曾为它专门召开了一次学术会议。
　　这本洋洋大观的贯穿了电脑科学、数学、物理学、宇宙学、神经和精 神科学以及哲学的巨著体现了作者向哲学上最重大的问题之一“精神—— 身体关系”挑战的大无畏精神。
　　迄今为止的科学基本上都可纳入形而下学的范畴，而这本书可认为是 首次对形而上学进行的严肃尝试。历史上曾重复地出现过还原主义的思 潮，最近代的便是人工智能专家的断言：电脑最终能代替人脑甚至超过人 脑。彭罗斯的论断却是：正如皇帝没有穿衣服一样，电脑并没有头脑。电 脑具有智慧吗？人们的共识是用通过图灵检验来定义智慧。彭罗斯认为要 制造出满意地通过这种检验的机器还是非常遥远的事。即使它真的通过 了，我们还是不能断定其真有理解力，西尔勒中文屋子的理想实验强有力 地表明，用图灵检验来定义智慧还是远远不够充分的。
　　希尔伯特曾经有过一个非常宏伟的规划，一旦公理和步骤法则给定， 一切真理都应该能被推导出来。著名的哥德尔定理使这个规划的宏图化为 泡影。以算法来获取真理的手段是非常受局限的，在任何一个形式系统中 总存在不能由公理和步骤法则证明或证伪的正确的命题。康托关于无理数 集合的不可列性、罗素集论的理发师佯谬、哥德尔定理以及电脑停机问题 都是一脉相承地沿用了康托对角线删除法而给予证明的。一言以蔽之，世 界万花筒般的复杂性不可能用可列的算法步骤来穷尽。
　　灵感和直觉在发现真理方面比逻辑推导重要得多。彭罗斯和柏拉图相 认同，发现真理是精神和数学观念的柏拉图世界进行接触。正如询问宇宙 在大爆炸之前是什么样子的问题是没有意义的一样，柏拉图世界是超越时 空的，具有“遗世独立”的品格。柏拉图世界至少和物理世界一样地具有 实在性甚至两者是合二为一的。他认为著名的孟德勒伯洛特集合一定是栖 息在这个世界中，否则的话何以这么美丽呢？真可谓“此曲只应天上有， 人间能得几回闻？”
　　牛顿力学、马克斯韦电磁学、爱因斯坦相对论和量子力学给人类带来 了神速的技术进步，在使人们充满了自信心的同时也给套上了宿命论的枷 锁。我们宇宙的一切都已完全为第一推动所决定。过去人们将第一推动归 于上帝。而量子宇宙论却把第一推动也都摒除了，宇宙在时空上是有限无 界的！这肯定是自以为具有自由意志的人类所不能忍受的，什么人愿意生 活在这种宇宙中呢？远离平衡态的热力学耗散结构也许是生命现象的雏 形，动力系统的不稳定性导致的混沌之中又隐含着新的秩序，这些是对理 解生命的努力，也是半个世纪前人们始料不及的，但这还不是形而上学的 精神。彭罗斯猜测，宇宙也许的确是宿命论的，但同时是不可计算的。我
　　
们的宇宙究竟有自由意志的存身之所吗？ 人类智慧的最伟大工程之一是爱因斯坦的统一场论。其主要困难在于
量子力学和相对论之间的不协调。绝大多数物理学家都是责备相对论，认 为广义相对论只是一种唯象的理论。其实，就理论的美丽和经济性而言， 相对论是远远地比量子力学优胜。前者是人类智慧的产物，而后者是人们 不得不接受的规则。量子力学的解释中仍有许多困难，譬如波函数的坍缩、 薛定谔猫佯谬和爱因斯坦——玻多尔斯基——罗逊“矛盾”。这些困难也 许在超越过它们的量子引力中可以得到解决。广义相对论的美丽和经济性 体现在非线性之中，彭罗斯曾提出过非线性引力子的概念，这是从他早年 对引力波碰撞的研究中得到启发的。他猜测到，发生量子波函数的坍缩的 判据在于其引力效应超过单引力子的阈值。
　　彭罗斯镶嵌是除了孟德勒伯洛特集合之外的对柏拉图观念存在性的有 力支持。这两个例子的共同性是它们的发现和近代科学的进展基本无关。 准晶体的五重对称性是这种镶嵌的三维体现。彭罗斯猜测到，准晶体的生 长的神经元的行为既涉及到单引力子判据又涉及到量子引力的非定域性。 时间及其方向也许是意识的最大秘密。彭罗斯提出了魏尔曲率猜测， 宇宙的引力熵由魏尔曲率来度量，而在大爆炸奇点处它必须为零，可惜迄 今连这种关系的表达式都还没有找到，也许它必须是非定域的。他认为时
间流逝的方向是由此衍生而来的。 原子时间、生物时间和宇宙时间以及时间箭头只不过是对时间概念的
粗糙近似。爱因斯坦——玻多尔斯基——罗逊“矛盾”表明波函数坍缩是 和狭义相对论的定域性以及因果性相矛盾，更遑论广义相对论了。在精神 现象中，甚至时序都发生混乱，在灵感、直觉过程中或者在与柏拉图世界 接触时似乎时间被不可思议地压缩了，它们甚至不发生在时间里。我们在 洋洋自得的同时，又发现科学理论的成就还是这么贫弱。要完全弄清时间 的含义得有待于量子引力的成功，这也是推动精神物理发展的关键。
　　彭罗斯对引力物理有过许多重要贡献，他（和霍金一道）证明了广义 相对论的奇点的不可避免性，提出了黑洞的捕获面，以及克尔黑洞的能层 概念。他发明了研究时空的拓朴结构的主要工具即彭罗斯图。他对类空、 类时和零无穷的阐释使引力辐射的图像更具形象。他把旋量引进引力物 理，使辐射问题的研究更新，这就是纽曼——彭罗斯形式，在此框架中他 证明了剥皮定理，即向无穷远辐射的引力可按照其衰减方式被分成四个层 次（电磁波只有两个层次）。
　　本书充满了许多猜测，正如历史上的许多猜测的命运一样，一些会存 活，另一些会被淘汰。不管它们的命运如何，这正是当代思想家、哲学家 和科学家必须去做正面冲突的问题。本书的字里行间充满了作者探索真理 的灵感和激情。译者历经一个寒暑的辛苦，终于把这译本奉献在读者面前。 但愿在浏览此书之时，会有王献之行走于山阴道上目不暇接之感。人们在
　　
忙碌于都市生活之余，抽空到兰亭一游不也是件赏心乐事吗？


许明贤 吴忠超
1992 年 1 月 9 日 纽约 长岛

马丁·伽特纳的前言


　　许多伟大的数学家和物理学家觉得，要写一本外行能理解的书，如果 不是不可能的话，也是非常困难的。直到今年，人们也许还认为，罗杰·彭 罗斯，这位世界上最博学和最有创见的数学物理学家之一，也属于这个范 畴之内。我辈读过他的非专门性的文章和讲演的稍微了解一些底细。尽管 如此，当发现彭罗斯在他的研究之余花费大量时间为见多识广的外行写下 了这样美妙无比的书时，人们的确感到惊喜。我相信，该书会成为一部经 典。
　　虽然彭罗斯广泛地涉及到相对论、量子力学和宇宙论，其关心的焦点 乃是哲学家所谓的“精神——身体问题”。几十年来，人工智能专家尽力 说服我们，再有一两个世纪的时间（有些人已把这时间缩短到五十年！） 电脑就能做到人脑所能做的一切。他们因为受年轻时读到的科学幻想的刺 激，而坚信我们的精神只不过是“肉体的电脑”（正如马文·闵斯基曾经 提出过的）。他们想当然地认为，当电子机器人的算法行为变得足够复杂 时，痛苦和快乐、对美丽和幽默的鉴赏、意识和自由意志就会自然地涌现 出来。
　　有些科学哲学家（最著名者为约翰·西尔勒，他的大名鼎鼎的中文屋 子的理想实验为彭罗斯所深入讨论）强烈地反对这种看法。对他们来说， 电脑和用轮子、杠杆或任何传递讯号的东西运行的机械计算器并没有什么 本质的不同。（人们可用滚动的弹子或通过管道流动的水流制造电脑。） 因为电流通过导线比其他能量形式（除了光）走得更快，它就能比机械计 算器更快地摆弄讯号，并因此能承担庞大复杂的任务。但是，一台电脑是 否以一种比算盘更优越的方式“理解”它的所作所为呢？是的，现代电脑 能以大师的风度下棋。它们是否比一群电脑迷曾经用积木搭成的方格游戏 机（一种西方的初级游戏）对游戏“理解”得更好些？
　　彭罗斯的书是迄今为止对强人工智能的最猛烈的攻击。几个世纪以 来，人们就一直反对还原主义者关于精神只不过是已知物理定律操纵的机 器的宣称。但是，因为彭罗斯凭据从前的作者不能获知的资讯，所以他的 攻击更加令人信服。从这本书可以看出，彭罗斯不仅是一位数学物理学家， 而且是一位第一流的哲学家，他毫无畏惧地和当代哲学家斥之为无稽的问 题进行搏斗。
　　彭罗斯还不顾一小群物理学家的越来越强烈的否定，敢于认可坚定的 实体主义。不仅宇宙是“外在的”，而且数学真理自身也有其神秘的独立 性和永恒性。正如牛顿和爱因斯坦那样，彭罗斯对物理世界和纯粹数学的 柏拉图实体极其谦恭和敬畏。杰出的数论学家保罗·厄多斯的口头禅是， 所有最好的证明都记载在“上帝的书”上，数学家偶尔地被允许去瞥见一 页半纸。彭罗斯相信，当一位物理学家或者数学家经历一次突然的“惊喜”
　　
的洞察，这不仅是“由复杂计算作出”的某种东西，而是精神在一瞬间和 客观真理进行了接触。他感到惊讶，莫非柏拉图世界和物理世界（物理学 家已将其溶入数学之中）真的是合二而一？
　　彭罗斯用了不少篇幅论及以其发现者贝内特·孟德勒伯洛特命名的孟 德勒伯洛特集的著名的类分数维结构。虽然其局部放大在统计的意义上是 自相似的，它的无限地卷旋的模式却以不可预见的方式不断地改变。彭罗 斯（和我一样）觉得，若有人不认为这一奇异的结构不像喜玛拉雅山那样 是“外在的”，而且有待人们像探险丛林那样去勘探，那真是不可理喻。 彭罗斯是数量不断增加的一伙物理学家的一员，认为当爱因斯坦说他 的“小指”告诉他量子力学是不完备时，他并非顽冥不化或昏头昏脑。彭 罗斯为了支持这一论争，把你指引向涵盖众多课题的旅途，诸如复数、图 灵机、复杂性理论、哥德尔的不可决定性、相空间、希尔伯特空间、黑洞、 白洞、霍金幅射、熵、头脑的结构以及许多当代研究的核心问题。狗和猫 对其自身有“意识”吗？传递物质的机器可能在理论上把一个人好像在电
视影集星际旅行中那样把航空员从上往下地扫描的办法从一处向另一处 运送吗？进化在意识的产生中发现了什么存活的价值？是否存在超越量子 力学的一种水平，它为时间的方向以及左右之间的差别刻上烙印？量子力 学的定律，也许甚至更高深的定律，是否对精神现象具有根本的作用？
　　彭罗斯对上述的最后两个问题的回答为“是”。他的著名的“扭量” 理论——在作为空间——时间基础的高维复空间中运行的抽象的几何对象
——因为过于专门化而不能被包括在此书之中。它是彭罗斯花费了超过二 十年的对比量子力学的场和粒子更深刻的领域进行探索的努力。在他对理 论的四种分类，即超等、有用、尝试和误导之中，彭罗斯谦虚地把扭量理 论和现在激烈争论的超弦以及其他大统一方案一道归于尝试类中。
　　彭罗斯从 1973 年起担任牛津大学的罗斯·玻勒数学教授。这个头衔对 他甚为适合。因为 W.W.罗斯·玻勒不仅是一位著名的数学家，还是一位业 余魔术家。对数学游戏的强烈兴趣使他写下该领域的英文经典著作《数学 游戏及漫笔》。彭罗斯和玻勒一样地热心于游戏。他在年轻时发现了一种 称为《三杆》的“不可能物体”。（一个不可能物体是由于其自相矛盾的 原因而不能存在的立体形态的图画。）他和他的父亲列奥尼，一位遗传学 家，把三杆转变成彭罗斯楼梯，毛里兹·伊歇把它用于两幅众所周知的石 版画：《升降》和《瀑布》之中。有一天彭罗斯躺在床上，他在“一阵热 狂”之后摹想到了四维空间中的不可能的物体。他说，它是这样的一种东 西，甚至一个四维空间的生物遇到它的话也会惊叫：“天哪，这是什么东 西？”
　　二十世纪六十年代，当他和朋友史蒂芬·霍金合作研究宇宙论时，做 出了也许是他最著名的发现。如果相对性理论“一直下去”都是成立的， 在物理学定律不再适用的每一黑洞里必须有一奇点。甚至这一项成就和他
　　
近年的另一项成就相比较也显得黯然失色，彭罗斯只用两种形状的花砖就 能以伊歇镶嵌的方法把平面铺满，但是这种镶嵌只能采取非周期性的形 式。（你们可在拙著《彭罗斯镶嵌》中见识到有关这些讨人喜欢的形状。） 与其说他发明了它们，不如讲发现了它们，当时一点也没预料到它们有何 用场。当人们发觉，他的镶嵌的三维形式是物质的奇异的新形态基元时， 不禁大为惊奇。晶体学现代最活跃的研究领域便是探讨这类“准晶体”。 这也是好玩的数学找到预想不到应用的现代富有戏剧性的事件之一。
　　彭罗斯在数学和物理上的成就——我只能触及一小部分——源于他毕 生对“存在”的神秘和美丽保持好奇之心。他的小指头告知他，人脑不仅 仅是小导线和开关的集合。他的序言和跋中的亚当一部分是知觉生命的缓 慢进化的意识曙光的象征。依我看来，他也就是彭罗斯——坐在离开人工 智能领导者第三排的地方——敢于直言人工智能的皇帝没有穿衣服。彭罗 斯的许多看法都富有幽默，但这件事体决不是闹着玩的。
　　
感谢


　　我在著作此书时，曾得到过许多人的各种帮助，在此谨表感谢。尤其 是，那些（特别是参与我所观看过的英国广播公司电视节目的）强人工智 能的提倡者所表达的如此极端的人工智能的观点，在多年以前刺激了我着 手这一规划。（然而，如果我早知道要完成此书竟要如此辛苦，恐怕当初 就不敢开始！）许多人细读了手稿的小部分并提供了不少改善的建议，我 对他们也表示谢意，他们是：托比·贝利、大卫·德义奇（他还十分帮忙 地检验了我的图灵机编号）、斯图亚特·罕蒙帕希尔、詹姆·哈特尔、拉 恩·休许斯顿、安古斯·马金泰、玛丽·詹·莫瓦特、崔斯坦·尼丹姆、 特得·纽曼、埃利克·彭罗斯、托比·彭罗斯、沃尔夫冈·林得勒、恩格 尔伯特·叙金和邓尼斯·西阿玛。我尤其鉴赏克利斯托弗·彭罗斯为我提 供的孟德勒伯洛特集的细节以及约纳逊·彭罗斯提供的奕棋电脑的有用信 息。我特别感谢柯灵·伯勒克摩尔、埃利希·哈斯和大卫·胡贝尔，他们 为我审阅了第九章，对于该章的领域我只能算是一个门外汉。正如我所致 谢的其他人那样，他们不对本书的任何错误负责。我感谢国家基金会的支 持，其合同号码为 DMS84－05644、DMS86—06488（赖斯大学，休斯顿，本 书部分就是根据在该校作的演讲而成的）以及 PHY86—12424（希拉库斯大 学，在该校进行了关于量子力学的有价值的讨论）。我还十分感谢马丁·伽 特纳，他极其慷慨地为本书写前言以及提供一些具体的评论。我最感谢我 亲爱的瓦尼莎，她对好几章进行了细致的批评，提供了许多在文献上的帮 助，在我最使人不能忍受时容忍我，她给了我所极需的深挚的爱情和支持。


FIGURE ACKNOWLEDGEMENTS
THE PUBLISHERS EITHER have sought or are grateful to the following for permission to reproduce illustration material.
Figs 4.6 and 4.9 from D.A.Klarner(ed.), The mathematcal
Gardner(Wadsworth International, 1981).
Fig.4.7 from B.Grnbaum and G.C.Shephard, Tilings and


Company. Used by permission.
Fig.4.10 from K.Chandrasekharan, Hermann Weyl 1885—1985(Springer,
1986).
Figs.4.11 and 10.3 from Pentaplexity: a class of non—
periodictilings of the plane. The Mathematical Intelligencer, 2, 32
—(Springer, 1979).


Fig.10.4 from Journal of Materials Research, 2, 1—4(Materials

Research Society, 1987).
All other figures (including 4.10 and 4.12)by the author.

序言


　　大会堂里有一个盛大的集会，标志着新的“超子”电脑的诞生。总统 波罗刚刚结束了他的开幕词。他很高兴：他并不很喜欢这样的场合，对电 脑也是一窍不通，只知道这种电脑即将为他赢得很多时间。制造商们向他 保证，在这种电脑的诸多功能中，它还能代替他为那些他觉得如此厌倦的 棘手的国家问题作决策。想到花费在它上面的金钱的数量，这种事最好是 真的。他期待着能够在他那豪华的私人高尔夫球场上享受玩上许多小时高 尔夫球的快乐——这是在他这小国家里所剩下为数不多的一块有相当面积 的绿地。
　　亚当觉得置身于那些出席这一开幕典礼的人们之中不胜荣幸。他坐在 第三排，两排前面坐着他的母亲：一个参加设计超子电脑的主要技术人员。 凑巧的是，他的父亲也在那个场合——不过并没有得到邀请，现正在大厅 后面被安全人员团团围住。在最后一分钟，亚当的父亲仍试图炸毁这台电 脑。作为一小群灵魂意识委员会边缘活动分子的自命的“精神主席”，他 给自己下达了这项任务。当然，他和他所带的所有炸药一下子就被各种电 子的和化学的传感器给盯上了，对他惩罚中的一小部分就是他必须目睹这 场开机运行的仪式。
　　亚当对他的父母都没多少感情，大概这种感情对他来说也没有必要。 他所有的十三年是在极端的物质奢华中长大的，而这又几乎全部受惠于电 脑。他可以得到他所希望的任何东西，只要碰一下按钮即可：食物、饮料、 陪伴以及娱乐；而且还有受教育，任何时候只要他感到需要——就会由感 人的彩色图像显示来加以说明。他母亲的地位使所有这一切成为可能。
　　现在，总设计师正在结束他的发言：“??有 1017 以上的逻辑单元， 这比组成我们国家中任何人的脑子神经的数目还要多！它的智慧将是不可 想象的，不过幸运的是我们不必去想象，我们马上就有幸亲眼看到这种智 慧：我请我们伟大国家的尊敬的第一夫人，伊莎贝拉·波罗来转动这个开 关，让我们的超子电脑开动运行！”
　　总统夫人向前走去，有点儿紧张，也有点儿笨拙，不过她还是转动了 开关。“嘘”的一声，这 1017 逻辑单元进入运转时有一丝难以觉察的暗淡 的光，每个人都在等待，不知道期望什么是好。“现在有没有观众想提出 第一个问题来让我们的超子电脑开始工作？”总设计师问道。每个人都感 到羞怯，生怕在众人面前出丑——尤其是在这个新的上帝的面前。一片寂 静。“可是必须得有一个人来提问呀？”总设计师请求大家。可是大家都 害怕，似乎感到了一个新的全权的威慑，亚当可没有这种恐惧。他和电脑 一起成长的，他几乎知道作为一台电脑它可能会怎样感觉。至少他自认为 他可能知道，不管怎样，他总是好奇。亚当举起手来。“呕，好的，”总 设计师说道，“第三排的这位小青年，你要向我们的新朋友提个问题，是
　　
吗？”

第一章 电脑能有精神吗？

引 论


　　电脑技术在过去的几十年间有了极其巨大的进展。而且，很少人会对 未来的几十年内在速度、容量和逻辑设计方面的伟大进步有所怀疑。到那 时候，今日的电脑将显得正和我们今天看早年的机械计算器那样的迟钝和 初等。其发展的节律几乎是令人恐惧的。电脑已能以人类远远不能企及的 速度和准确性实现原先是属于人类思维的独霸领域的大量任务。我们对于 机器能在体力方面超过自己早已司空见惯，它并不引起我们的紧张。相反 地，我们因为拥有以巨大的速度——至少比最健壮的人类运动家快五倍的
——在地球上均匀地推动我们，以一种使几十个人相形见绌的速率挖洞或 毁灭抛弃的建筑的装备而感到由衷的高兴。机器能使我们实现我们过去在 体力上从未可能的事，真是令人喜悦：它们可以轻易地把我们举上天空， 在几个钟头内把我们放到大洋的彼岸。这些成就毫不伤害我们的自尊心。 但是能够进行思维，那是人类的特权。正是思维的能力，使我们超越了我 们体力上的限制，并因此使我们比同伙生物取得更加骄傲的成就。如果机 器有朝一日会在我们自以为优越的那种重要品质上超过我们，那时我们是 否要向自己的创造物双手奉出那唯一的特权呢？
　　机械仪器究竟能否思维的问题——也许甚至会体会到感情，或具有精 神——不是一个什么新问题 1。但是，现代电脑技术时代的来临赋予它新 的冲击力甚至迫切感。这一问题触及到哲学的深刻底蕴。什么是思维？什 么是感觉？什么是精神？精神真的存在吗？假定这些都存在，思维的功能 在何种程度上依赖于和它相关联的身体结构？精神能否完全独立于这种结 构？或许它们只不过是（合适种类的）身体结构的功能？无论如何，相关 结构的性质必须是生物的（头脑）吗？精神——也能一样好地和电子设备 相关联吗？精神服从物理定律吗？物理定律究竟是什么？
　　这些都被包括在本书我要试图探索的问题之中。要为这么崇高的问题 寻求确定的答案当然是无理的要求。我不能提供这个答案：虽然有些人想 用他们的猜测强加于我们，但在实际上，任何人也做不到。我自己的猜测 在本书后头将起重要作用，但是我要清楚地把这些猜想和坚实的科学事实 区分开来，并且我还要把这些猜想所根据的原因弄清楚。我不如这么说好 了，有关在物理定律、数学性质和意识思维的结构之间的关系引起了某些 显然全新的问题，我陈述了以前从未有人发表过的观点。这不是我三言两 语即能足以描述的观点，因此需要写这么长篇幅的书。但是简略地讲，也 许这样会引起一点误会，我至少能说，我的观点认为，正是我们现在对物 理基本定律缺乏理解，才使我们不能物理地或逻辑地掌握“精神”的概念。 我在这里不是讲，永远不可能很好地掌握这些定律。相反地，本书的部分 目的即是企图在这一方面似乎有前途的方向去刺激将来的研究，并且想要 提出某些相当特殊的、显然是新的关于“精神”实际上可在我们知道的物
　　
理发展中占据什么位置的建议。 我应该清楚地表明，我的观点在物理学家中是非传统的，并因此在目
前不太可能被电脑科学家或生理学家所采纳。大部分物理学家会宣称，在 人脑尺度下有效的基本定律已经完全知道。当然，在我们物理知识方面一 般地仍有许多空白这一点，是无可争议的。例如，我们不知道制约自然的 次原子粒子质量值以及它们相互作用强度的定律。我们还不能使量子理论 和爱因斯坦的狭义相对论完全协调——遑论去建立“量子引力论”了。这 种理论要使量子理论和他的广义相对论相协调。由于还没有量子引力论， 人们就不能理解在已知基本粒子大小的 1／100000000000000000000 的不 可思议的微小尺度下空间的性质，尽管我们以为自己关于比这更大尺度下 的知识是足够的。我们也不知道这整个宇宙无论在空间上还是在时间上是 有限的还是无限的，尽管这样的不确定性对于人类尺度的物理学似乎没有 什么影响。我们不理解既作用于黑洞的核心又作用于宇宙本身大爆炸起源 处的物理学。然而，所有这些问题似乎和人类大脑运行有关的“日常”（或 稍小一些）尺度问题的距离是要多遥远就多遥远。它们肯定是遥远的！尽 管如此，我将论证，正是在我们鼻子尖（不如说是后面），在我们的物理 理解中，正是在和人类思维和意识的运行相关的水平上，还存在巨大的无 知！正如我将要解释的，甚至大多数物理学家还不承认这个无知。我还要 进一步论断，黑洞和大爆炸与对这些问题的考虑的确有相关之处，这真是 令人吃惊！
　　我将要用证据来支持我要提出观点以说服读者。但是，为了理解这些 观点我们还要做许多事。我们将要到奇异的国度以及陌生的研究领域中去 旅游。我们要考察量子力学的结构、基础和困惑，狭义和广义相对论、黑 洞、大爆炸、热力学定律、电磁现象的马克斯韦理论以及牛顿力学的基本 特征。当企图要理解意识的性质和功能时，哲学和心理学问题的作用就清 楚地呈现出来了。除了设想的电脑模型外，我们当然要对大脑的实际神经 生理学稍有些了解。我们要具备人工智能现状的某些观念，还需要知道什 么是图灵机，需要理解可计算性、哥德尔定理以及复杂性理论的意义。我 们还将深入到数学的基础甚至物理实在的最本质的问题中去。
　　如果，在所有这一切的结尾，读者对我就要表达的不太传统的论证仍 然无动于衷，至少我希望她或他从这个曲折迂回的、但我希望是激动人心 的旅途中，得到某些真正有价值的东西。
　　
图灵检验


　　让我们想象一种新型的电脑被推到市场上来，它的记忆容量和逻辑单 元的数目可能超过了人脑。还假定为此机器仔细地编了程式，并提供了合 适种类的大量数据。制造者宣称这种仪器实际上在思维。他们也许还宣布 它们真正是有智慧的。或许他们还走得更远，并提出该仪器实际上感到痛 苦、快乐、慈悲、骄傲等等，并且自己知道以及实际上理解它们自己的所 作所为。的确，它们仿佛就要被宣布是有意识的。
　　我们如何才能相信制造者的宣称呢？当我们通常买一台机器时，完全 根据其所提供的服务来判断其价值。如果它令人满意地实行了我们规定的 任务，我们就很高兴。若不是这样，就把它送回去修理或代换。为了检验 该制造者所宣称的该仪器实际上具有人类的属性，我们会根据这一判据， 简单地要求它在这些方面是否能和人类一样地行为。假定它令人满意地做 到这些，我们就没有原因去抱怨制造者，也没有必要把这台电脑退回修理 或代换。
　　这就为我们提供了有关这些事体的非常有效的观点。假定该电脑的动 作和一个人在思维时的动作方式不能区分，行为主义者就会说它在思维。 我在此刻暂且采纳行为主义者的这一观点。当然，这不意味着我们要求电 脑以一个人在思考时可能行走的方式移动。我们更不指望它会活灵活现地 像人类：这些和电脑的目的无关。然而，这意味着我们要求它对任何我们 介意问它的问题产生拟人的答案。假定它以一种和人类不能相区别方式提 供这些答案，则我们就宣称对它的确在思维（或感觉、理解等等）这个事 实表示满意。
阿伦·图灵在题为《计算机和智力》的著名文章中有力地论证了这一 观点。该文于 1950 年发表在哲学性杂志《精神》上（图灵 1950）。（我 们以后还要时常提到图灵。）现在称作图灵检验的观念就是首次在这篇文 章中描述的。这是为了检验一台机器是否能合情理地被说成在思维的企 图。让我们假设一台电脑（正如上面描述的、我们制造者所叫卖的）确实 被宣称为在思维。按照图灵试验，该电脑和某个人类的自愿者都躲开到（知 觉的）质问者的视线之外。质问者必须依赖向他们双方提出检验问题，来 决定两者何为电脑何为人类。这些问题以及更重要地她①收到的回答，全部 用一种非人格的模式传送，譬如讲打印在键盘上或展现在屏幕上。质问者 不允许从任何一方得到除了这种问答之外的信息。人的主体真实地回答问




① 在写这类著作时，在没有任何性别含义的地方存在着不可避免地用“他”还是“她”两个代词的问题。
在提到某一抽象的人时也遇到了相应的问题。我将用“他”来表明短语“她或他”，这就是我通常所做的。 然而，我希望在这儿宁愿用一位女性的质问者这一点“性别主义”能被原谅。我猜想，她或许比她的男性 对手对于识别真正的人性会更加敏感些！

题并试图说服她，他确实是人而另外的主体是一台电脑；但是该电脑已被 编好了“说谎”的程序，为了试图说服质问者它反而是人。如果质问者在 一系列的这种检验的过程中，不能以任何一致的方式指明真正的人的主 体；那么该电脑（或电脑程序、或程序员、或设计者等等）肯定是通过了 这一检验。
　　现在人们也许会争辩道，这种检验对于电脑实际上是不甚公平的。因 为如果交换一下角色，使人的主体被要求去假装成电脑，而电脑作真实的 回答，那么要质问者去发现哪个是哪个就太容易了。她所要做的一切只是 要求这些主体进行某些复杂的算术计算。一台好的电脑能够一下子准确地 回答，而人很容易被难倒。（然而，人们对此要稍微小心一些。有些“计 算奇才”具有非常惊人的心算技巧，从不算错并且显得轻松胜任。例如约 翰·马丁·萨查里阿斯·达斯 2，一位文盲农夫的儿子，他从 1824 年至 1861 年生活在德国。他能在比一分钟短的时间内用心算完成两个八位数的乘 法，或在大约六分钟时间内完成两个二十位数的乘法！很容易错认为这是 一台电脑在计算。在更近代，亚历山大·爱特金和其他人的计算成就也一 样地令人印象深刻。爱特金是 1950 年代爱丁堡大学的数学教授。质问者对 此检验所选择的算术问题必须比这个更令人绞尽脑汁，譬如讲，在两秒钟 内乘两个三十位数，一台好的现代电脑可轻而易举做到这一点。）
　　这样，电脑程序员的部分任务是使电脑在某一确定方面比它实际更“愚 蠢”。因为如果质问员要问该电脑一个复杂的算术问题，正如我们上面考 虑过的，那么现在电脑必须假装回答不了或者马上放弃！但是我相信以这 种方式使电脑变“愚蠢”不是电脑程序员面临的特别严重的问题。使之回 答一些最简单的人类不会感到有任何困难的“常识”问题正是他们的主要 困难！
　　然而，在引用这类特例时存在一个固有的问题。因为不管人们会首先 提出什么，很容易设想一种方法使电脑正如一个人的样子去回答那个特殊 问题。但是，在电脑方面的任何真正理解的缺乏都会因为不断的询问而显 露出来，尤其是对于具有创造性和需要真正理解的问题。质问者的一部分 技巧在于能设计出如此创造性的问题，另一部分是利用设计来揭示出是否 发生某些实在“理解”的探测性的其他问题去追踪它们。她偶尔也可以问 一个完全无聊的问题，看看电脑能否检测出差别来，她或者可以加上一两 个表面上听起来像是无聊的、而实际上有一点意义的问题，例如她可以说： “我听说，今天上午一头犀牛在一个粉红色的气球中沿着密西西比河飞。 你怎么理解此事？”（人们可以想象该电脑的眉头上，泛出冷汗——用一 不适当的比喻！）它也许谨慎地回答：“我听起来觉得这不可思议。”到 此为止没有毛病。质问者又问：“是吗？我的叔叔试过一回，顺流逆流各 一回，它只不过是浅色的并带有斑纹。这有什么不可思议的？”很容易想 象，如果电脑没有合适的“理解”就会很快地暴露了自己。在回答第一个
　　
问题时，它的记忆库非常有助地想到它们没有翅膀，甚至可以在无意中得 到“犀牛不能飞”，或者这样地回答第二个问题“犀牛没有斑纹”。下一 回她可以试探真正无意义的问题，譬如把它改变成“在密西西比河下面”， 或者“在一个粉红色的气球之中”，或者“穿一件粉红色夜服”，再去看 看电脑是否感觉到真正的差别！
　　让我们暂且撇开是否或何时能造出通过图灵检验的电脑的问题。让我 们仅仅为了论证的目的假定，这种电脑已被造出。我们可以问，一台通过 检验的电脑是否应该必须说在思维、感觉和理解等等。我将要很快地回到 这事体上来。此刻我们且考虑它的一些含义。例如，如果制造者的最强的 宣布是正确的，就是说他们的仪器是一个思维的、感觉的、敏感的、理解 的、意识的生物，那么在我们购买该仪器时就涉及到道义的责任。如果制 造者的话是可信的话，事情就应该是这样子的！开动电脑仅仅是为了满足 我们的需要而不考虑其自身的感情应受到谴责。那在道义上和虐待奴隶没 有什么差别。一般地说，我们是应避免使电脑经受制造者宣称的它会感觉 到的痛苦。当它变得和我们很亲近时，要关掉也许甚至卖掉它，在道义上 对我们都是困难的。就会出现我们和其他人类或其他动物的关系要把我们 卷入的其他无数的问题。所有这些现在都变成紧密相关的事体。这样，让 我们（以及当局！）知道制造者的宣布是否真的，便具有极大的重要性！ 我们假定这个宣布是基于他们如下的断言：“每一台思维的仪器已被我们 的专家严格地进行了图灵检验”。
　　我仿佛觉得，尽管这些声称的某些含义、尤其是道义上的明显荒谬性， 把成功地通过图灵检验当作存在思维、智慧、理解或意识的有效指标的情 形，实际上是相当有力的。如果我们不采取交谈的话，何以判断他人也具 备这些品质呢？实际上还有其他的譬如面部表情、身体运动以及一般动作 等等判据，它们会大大地影响我们所做的这种判断。但是，我们可以想象
（也许在更为遥远的将来）可把一个机器人制造得能成功地模拟所有这些 表情和动作。这下子就不必要把机器人和人的主体躲藏在质问者的视界之 外，但是质问者随意支配的判据在原则上可和以前相同。
　　我本人的观点是准备把图灵检验的要求大大地减弱。我似乎觉得要求 电脑这么接近地模仿人类，以使得在一种相关的方式下不能和一个人区分 开实在是太过份了。我自己想要求的全部是，我们知觉的质问者应该从电 脑回答的性质对在这些回答背后的意识存在真正地感到信服，尽管它可能 是非常异样的一种意识。这就是迄今建造的所有电脑系统明显缺乏的某种 东西。然而，我能觉察到这样的一种危险，如果质问者能决定哪一方事实 上是电脑，那么她可能也许是无意识地迟迟不把甚至她能感觉到的意识赋 予电脑。或者在另一方面，她也许有这个印象，即她“嗅”到了这个“异 物的存在”，即便该电脑没有这种可疑的好处，她还是准备赋予它这个好 处。由于这种原因，就在图灵检验原先形式的更大的客观性上，它具有明
　　
显的优点，我在下面就一般地拘泥于这种形式。我早先提到的对于电脑引 起的“不公平”（也就是它必须做人能做的一切才能通过，而人不必会做 电脑能做的一切）似乎没有使把图灵检验当作思维等等真正检验的支持者 忧虑。无论如何，他们的观点时常倾向于不必等太长时间，譬如讲到 2010 年，一台电脑就能实在地通过这一检验。（图灵原先提出，到 2000 年， 对一位“中等的”质问者仅仅五分钟的提问，电脑的成功率为百分之三十。） 这意味着，他们相当有信心，这一不公平不会显著地延迟这一天的到来！ 所有这些事体都与根本问题有关：也就是这一操作的观点是否实际上 为判断一个对象中存在精神的品质提供一族合理的判据？有些人会竭力争 论说它不是。不管模仿得多么有技巧，终究不和实在的东西一样。我在这 一方面的看法是比较中庸。我倾向于相信，作为一般的原则，不管是多么 巧妙的模仿，应该总能被足够巧妙的探测检验得出来，尽管这只是信念（或 科学乐观主义）而不是已被证明的事实。这样，总的来说，我准备把图灵 检验接受为在它的选定范围内是粗略成立的。也就是说，如果电脑对这些 问题的确能以一种和人不能区分的方式回答，并如此适当地①一致地愚弄
了我们有理解力的质问员，那么在缺乏任何相反的证据下，我猜想电脑 实际上是在思维、感觉等等。我在这儿用的这个词，譬如“证据”、“实 际上”和“猜想”，其含义是当提到思维、感觉或理解、或尤其是意识时， 我用这些概念去表明实际客观的“事体”，它在物理形态上的存在与否是 我们要确定的某种东西，而不仅仅是语言上的方便！我把这当作一个关键 点。我们在所有能得到的证据的基础上作猜测，以辨别这种品质的存在。
（这和譬如讲，天文学家想辨别遥远恒星的质量，在原则上没有什么不 同。）
　　必须考虑哪一些反证据呢？关于这一点要在预先立下规则是很困难。 但是我要弄清楚的是，仅仅说电脑是由晶体管、导线等等而不是由神经元、 血管等等构成的事实本身，我不认为是反证据。我在心里想到的是，在将 来的某一时候可以发展出成功的意识理论，这里成功的含义是，它是一个 连贯的适当的物理理论，以一种美丽的方式和物理理解的其余部分相协 调，而且使它的预言精确地和人类声称何时、是否、到何等程度他们自己 觉得是意识的精确相关，而且这一理论在考虑我们电脑的想象的意识方面 的确关系重大。人们甚至可以摹想按照这一理论的原则建造的“意识探测 器”。对于人的主体它是完全可靠的，但在电脑的情形给出和图灵检验相 左的结果。在这种情形下，人们必须非常小心地解释图灵检验的结果。我 似乎觉得，人们对图灵检验的合适性的问题的态度部分地依赖于他对科学 技术如何发展的期望。我们以后必须再来考虑其中的一些问题。
　　
人工智能


人工智能是近年来引起很大兴趣的一个领域，经常被简写成“AI”。
AI 的目标是用机器，通常为电子仪器，尽可能地模拟人的精神活动，并且 或许在这些方面最终改善并超出人的能力。AI 的结果至少在四个方向是有 趣的。尤其是有关机器人的研究，它在很大的程度上是有关工业对可实行 “智力”的，也就是万能和复杂的、原来需要人干预或控制的任务的机械 仪器的实际需要，并使他们以超过任何人的能力的速度和可靠性，或者在 人类处于危险的各式各样条件下运行。还有专家系统的发展颇具商业和一 般的兴趣，在这系统中整个职业的，譬如医学、法律等等的主要知识都能 编码载入电脑的系统知识库里！这些职业人员的经验和专长能被这种系统 知识库所取代吗？所能指望得到的是否只不过是事实的罗列以及意义广泛 的前后参考的长表？电脑能否呈现（或模拟）出真正的智慧肯定具有相当 大的社会含义。心理学是和人工智能有直接关系的另一领域。人们希望通 过利用电子仪器来模拟人脑或某些其他动物头脑的行为，倘若发现做不 到，也可以知道有关头脑工作的某些重要的东西。最后，还存在一个乐观 的希望，就是由于类似的原因，AI 可为精神概念的意义提供洞察，并为其 深刻的哲学问题提供一些答案。
　　迄今为止，AI 已进展到何等程度呢？让我来总结是有一些困难。在世 界各地存在许多活跃的小组，而我只熟悉这工作的一小部分的细节。尽管 如此，可以公正地说，虽然的确做了许多聪明的事，对真正智慧的任何模 拟还是非常遥远的事。为了使读者领略这个学科的风味，我首先提到早先 的（仍然是令人印象深刻的）成就，以及后来在电脑下棋方面的重要进展。 W·格雷·瓦尔特的“乌龟”3 是 1950 年代早期制造的第一批人工智能 仪器之一。在电池快用光前，它会以自己的动力在地面上四处爬行，然后 它跑到离得最近的电插座那儿，把自己插上给电池充电。当充满了电以后， 自己会从插座拔出，并重新在地面上爬行！从那时起人们制造出来许多类 似的东西（例如，参见瓦尔兹 1982）。另一独立发展的线索是以特雷·维 诺格拉德在 1972 年设计的电脑程序为例子，它在模拟中可以和一堆不同形 状和颜色的木块打交道，以不同的顺序和排列把一块放在另一块的上头。 尽管早期获得这类成功，人们证明了，要设计甚至一个简单的能操纵自如 的、避开人类看来“显然”需用动作来躲开的障碍物的、连接的“机器人 手臂”是何等的困难。视场的解释通常也是 AI 步骤在目前根本无法接近人 脑（以及绝大多数其他动物的头脑）似乎能“轻而易举”做到的那种程度
的领域。
　　K·M·柯尔贝在 1960 年代中期发展的电脑程序也许更和图灵检验相连 贯。它如此成功地模拟成一位精神疗法专家，以至于某些病人发现自己宁 愿要电脑而不要人类的医疗家，并且对电脑比对人类的对手更愿把自己的
　　
内心袒露得更多些。可将下列（通过电传机）的交谈视作在电脑“医生” 和病人之间的这种交流的一个例子 4，
医生：我可以为你效劳吗 病人：我不知道 医生：请告诉我一些情形 病人：不 医生：请你说得仔细些 病人：今天我厌烦得很 医生：你知道这是什么原因 病人：是的我老了 医生：请继续讲
病人：仿佛任何事情都激不起我的兴致 医生：请更多地告诉我你的这种感觉 病人：我也有些知道为何我会这样感觉 医生：是吗
病人：我似乎在想有一个家 医生：什么东西使你有这样的想法 病人：它是一种挑战 医生：为什么那对你是重要的
虽然这会给你一种电脑具有某种理解力的可怕印象。在事实上它一点也没 有，只不过是跟着某种相当简单的机械规则而已。（还存在一个和它相“颠 倒”的系统，这时电脑装成一个痴呆症病人，给出教科书的所有答案和症 状，并能捉弄一些医科学生，使之相信是一位病人在提供回答！）
电脑下棋也许为机器能显示可认为是“智慧行为”的最好例子。现在
（1989）一些机器在与人对奕时实际已达到极受尊敬的水平，达到了“国 际大师”的水准。（为了比较起见，世界冠军卡斯帕洛夫评分高于 2700， 而这些电脑的评分略低于 2300。）特别是，邓恩和卡斯·斯帕拉克连（为 忠诚优越商业微处理机）写的电脑程序已达到 2110 的（Elo）评分，并得
到 USCF“大师”称号的奖。主要由卡内基·梅隆大学的徐宪编程序的“深 思熟虑”更是令人印象深刻，它的评分约为 2500Elo，最近在一次下棋锦 标赛中（1988 年 11 月，加利福尼亚，长堤）首次取得了（和大师托尼·迈 尔斯）共享第一奖，并实标上第一回击败了一位大师（本特·拉申）的成 就！5 现在下棋电脑也精于解答棋术问题，它在这方面的造诣轻而易举地 超过了人类 6。
　　下棋机除了精确的计算能力外，还大大地依赖于“博学多闻”。值得 评论的是，只要落子动作要求非常快，下棋机总的来说比相当的奕手高明 一些。如果每一着允许的时间更长，则奕手的表现相对地比机器好。人们 可依照如下事实来理解这一切，电脑是基于准确和快速的广义的计算来作
　　
决策的，而奕手则利用依赖于相对缓慢的意识评定的“判断”。利用这些 人的判断来显著地减少必须在每一计算步骤中认真考虑的可能性，当有时 间时，可以得到比不用这类判断而只用简单计算和直接排除可能性的机器 更深刻的分析。在玩困难的东方围棋时，这一差别就更显著，那里每一步 的可能数目比国际象棋大得多。意识和形成判断之间的关系，将是我后面 尤其是第十章论证的中心。

用人工智能得到“快乐”和“痛苦”


　　人工智能宣称为理解精神品质，譬如快乐、痛苦、饥渴等等提供了途 径。让我们举格雷·瓦尔特的乌龟为例子。它的行为模式在电池快用完时 就要改变，然后它以被设计好的行为方式补充自己的能量存储。这和人类 或任何动物感到饥饿时的行为非常类似。当格雷·瓦尔特乌龟以这种方式 行为时，说它饥饿了并没十分歪曲语言。其中的某些机制对它电池的状态 很敏感，低到一定点时就会让乌龟转换到不同的行为模式。在动物饥饿时， 除了其行为模式的改变更复杂、更微妙之外，无疑存在某些类似的动作。 它不是简单地从一种行为模式改变到另一种行为模式，而是存在一种以确 定方式的行为倾向的变化，当补充能量供应的需求增加时，这些变化就会 更强烈（达到某一点）。
　　类似地，某些 AI 的支持者摹想，可以这种方式来适当模拟诸如痛苦或 快乐的概念。让我们把情形简化，并只考虑从极端“痛苦”（分数为-100） 到极端“快乐”（分数为+100）的单独的“感觉”测度。想象我们有一台 仪器，譬如讲是某种电子的、具有记录它自己的（假想的）“快乐——痛 苦”度量，我把它称作“苦乐表”。这一仪器具有一定的行为模式和一定 的内部的（譬如它的电池状态）或外部的输入。其想法是把它开动以使其 苦乐度取最大值。可能会有许多影响苦乐度的因素。我们肯定可以做这样 的安排，使得电池中的电荷就是其中的一个因素，低电荷算作负的，而高 电荷算作正的，但是还有其他因素。也许我们的仪器装有某些太阳光电池， 这是获取能量的另一种手段。这样，当光电池起作用时就不消耗电池的能 量。我们可以把光电池朝向光线以增加其苦乐度。这就是不存在其他因素 时它所要做的事。（在实际上，格雷·瓦尔特乌龟通常避开光线！）我们 需要某种实行计算的手段，使得它能弄清它上面部分的不同动作最终在它 的苦乐度上的可能效应。可以引进概率权重，使得计算在苦乐度表上具有 更大或更小的效应，依其所根据的数据的可靠性而定。
　　还必须为我们仪器提供仅仅为了维持它的能量供应以外的其他“目 的”，否则我们就没有办法去把“痛苦”从“饥饿”中区别出来。在此刻 要求我们仪器有生育等等机能无疑是太过份了，性的问题不予考虑！但是， 我们也许能对它注入一种和其他同类仪器相陪伴的“需求”和它们相遇就 得到正的苦乐值。我们或者可以为了其自身的缘故“渴望”学习，使得只 要储存有关外部世界的事实即能在苦乐表上得正分（我们可以更自私地安 排在为我们作各种服务时得到正分，正如一个人在制造机器仆人时所要做 的那样！）也许有人会论争道，由于凭一时高兴把这种“目的”加到我们 的仪器上显得有些做作。但是，这和自然选择加在作为个体的我们身上的， 在很大程度上是由于传宗接代的需求所支配的一定“目标”，并没有什么 非常大的差别。
　　
　　现在，假设我们的仪器按照所有这一切已被成功地造出。我们有什么 权利去宣称它的苦乐值为正时它确实感到快乐，而苦乐值为负时感到痛苦 呢？AI（或行为主义）的观点是，我们简单地从仪器行为的方式来判断。 由于它以一种尽可能增加其正值的（并且尽可能久地）以及相应地尽量避 免负值的方式行为，那么我们可以合理地把它的值的正的程度定义为快乐 的感觉，而相应地把负值定义为痛苦的感觉。人们会说，此定义的“合理 性”正是来自于人类对于快乐和痛苦以目标方式反应的这一事实。当然， 正如我们都知道的，人类的事情实际上并不像这么简单：我们有时似乎特 地招惹痛苦，故意回避某种快乐。很清楚，我们的行为实在是由比这些更 复杂得多的判据所导引的（参阅德涅特（1978），190—229 页）。但是作 为一个非常粗糙的近似，我们的行为的确是避免痛苦和追求快乐。对于一 个行为主义者来说，这已经足够在类似的近似水平上，为我们的仪器的苦 乐度和它的痛苦快乐评价的相认同提供正当的理由。这种认同仿佛也是 AI 理论的一个目的。
　　我们应该问：在我们的仪器的苦乐度为负或为正时，它是否真正分别 地感觉到了痛苦或快乐呢？我们的仪器在根本上是否能感觉到什么呢？ 行为主义者或者会斩钉截铁地说“显然如此”，或者把这一问题斥为无稽 之谈。但是，我觉得这里很清楚地存在一个要考虑的、严肃的困难问题。 它对我们自己具有不同种类的影响。有些像痛苦或快乐是可意识的；但是 还有其他我们不直接知道的。这可由一个人触摸到热火炉的经验得到清楚 的阐明。他在甚至还未感到痛楚之前就采用了抽手回来的不情愿的动作。 事情似乎变成，这种不情愿的动作比痛苦或快乐的实际效应更接近于我们 仪器对自己的苦乐度的反应。
人们经常用一种拟人化的语言，以一种叙述性的、通常是滑稽的方法 来描述机器的行为：“今天早晨我的车仿佛不想开拔”；或“我的手表仍 然认为这是加利福尼亚时间”；或“我的电脑宣布，它不理解上一条指令， 而且不知道下一步要做什么。”我们当然不是真正地表明车实际上会要什 么，或者手表在思维，或者那台电脑①真的宣布任何事情，或者它理解甚 至知道自己在做什么。尽管如此，假使我们仅仅在它们企图的意义上而不 是按字面宣布上接受这样的陈述，则它们可以是描述性的，并且对我们自 己的理解有真正的帮助。我将会对 AI 的有关各式各样建造起来的仪器所具 有的精神品质的声称采取类似的态度，而不顾及他们所企图想望的！如果 我同意说，格雷·瓦尔特乌龟会饥饿，那只是在半开玩笑的意义上这么说 的。如果正如上面所摹想的，我准备对苦乐值使用诸如“痛苦”或“快乐” 等等术语，只是因为我发现其和我自己的精神状态的行为有一定的相似 性，这些术语有助于我对其行为的理解。我不是暗示这些类似真的是特别




① 譬如讲在 1989 年！

接近，或者不存在其他无意识的以更加类似得多的方式影响我行为的东 西。
　　我希望使读者清楚，我的意见是，对精神品质的理解，除了直接从 AI 得到之外，还存在有更大量的东西。尽管如此，我相信 AI 实现了一种值得 尊敬和慎重处理的严肃的情势。我在说到这些时，并不意味着在人工智能 的模拟中，如果有的话，有非常多的成就。但是人们必须心中有数，这个 学科还是非常年轻的。电脑会变得更快速，具有更大的可快速存取的空间、 更多的逻辑元，并可并行地进行更大数目的运算。在逻辑设计和程序技术 方面将会有所改善。这些机器，这种 AI 哲学的载体将在它们的技术能力方 面得到大幅度的改善。此外，该哲学本身也不是固有地荒谬的。也许电脑， 也就是当代的电脑的确能非常精确地模拟人类的智慧。这种基于今天被理 解的原则，但是具有更伟大得多的能力、速度等等的电脑一定会在近年内 被制造成功。也许甚至这样的仪器将真正是智慧的；也许它们会思维、感 觉以及具有精神。或者它们也许还制造不出来，还需要一些目前完全缺乏 的原则。这些都是不能轻易排斥的问题。我将尽我所见地提出证据。我将 最终提出自己的看法。
　　
强人工智能和西尔勒中文屋子


　　有一种称作强人工智能的观点在这些问题上采取相当极端的态度 7。 根据强 AI，不仅刚才提到的仪器的确是智慧的并且有精神等等，而且任何 计算仪器，甚至最简单的机械的，诸如恒温器的逻辑功能都具有某种精神 的品质 8。这种观点认为精神活动只不过是进行某种定义得很好的、经常 称作算法的运算。下面我将精确地说明算法实际上是什么。此刻暂且把算 法简单地定义为某种计算步骤就已足够了。在恒温器的情形下，其算法至 为简单：仪器记录其温度是否比设定的更高或更低，然后使线路在前面情 形时断开，而在后面情形时接通。对于人脑的任何有意义的精神活动，其 算法必须比这远为复杂得多，它和恒温器的简单算法在程度上具有极大的 差别，而在原则上则相同。这样，根据强 AI，在人脑的主要功能（包括它 的一切的意识呈现）和恒温器之间的差别只在于，在头脑的情形中具有更 大得多的复杂性（或许“更高级的结构”，或“自省性质”，或其他可赋 予算法的属性）。按照这一观点，至为重要的是，所有精神品质，譬如思 维、感情、智慧、理解、意识都仅仅被认为是这一复杂功能的不同侧面； 也就是说，它们仅仅是头脑执行的算法的特征。
　　任何特殊算法的价值在于它的表现，也就是它的结果的精确，它的范 围，它的经济性和它可运行的速度。一种想和人脑中假想的运行的算法相 比拟的算法一定是非常了不起的东西。如果头脑中存在有这一类算法，强
AI 支持者肯定作此断言，那么在原则上它可在一台电脑上执行。假定它不 受存储容量和运算速度的限制的话，的确可在任何当代的通用电子电脑上 执行。（我们以后去考虑普适图灵机时，这一评论就会得到证实。）人们 预料，在不太远的将来大型快速电脑将会克服任何这类限制。一旦这样的 一种算法能被找到，它就能通过图灵检验。强 AI 支持者就会宣布，只要执 行该算法，它自身就会经验到感情，具有意识，并且是一种精神。
　　绝不是每一个人都同意，可用这类方法把精神状态和算法相等同。美 国哲学家约翰·西尔勒（1980，1987）尤其反对这种观点。他引用过这种 例子，即假定有一台适当地编了程序并已经实际上通过了简化的图灵检验 的电脑，但是他以有力的论证支持如下观点，即便如此，这台电脑仍然完 全不具备和理解有关的精神属性。其中一个例子是基于罗杰·施安克（施 安克和阿伯勒逊 1977）设计的电脑程序之上。该程序的目的是为理解简单 的故事提供模拟，例如：“一个人进入餐馆并订了一份汉堡包。当汉堡包 端来时发现被烘跪了，此人暴怒地离开餐馆，没有付帐或留下小费。”第 二个例子是：“一个人进入餐馆并订了一份汉堡包。当汉堡包端来后他非 常喜欢它；而且在离开餐馆付帐之前，给了女服务生很多小费。”作为对 “理解”这一故事的检验，可以询问电脑，在每一种情形下此人是否吃了 汉堡包（这一事实在任一故事中都没有说清）。电脑对这类简单的故事和
　　
问题可给出和任何讲英文的人会给出的根本无从区别的回答，也就是对于 这些特定的例子，第一种情形是“非”，而第二种情形是“是”。这样一 台机器已在这一非常有限的意义上通过了图灵检验！
　　我们应该考虑的问题是这类成功是否实际上表明电脑方面或许程序本 身方面具有任何真正的理解。西尔勒使用了他的“中文屋子”的概念来论 证它不具备。他首先摹想，这一故事是用中文而不是英文来讲，这肯定是 非本质的改变。把这一特殊演习的电脑算法的所有运算（用英文）作为一 组指令提供给用中文符号进行操作的计算员。西尔勒想象自己被锁在一个 屋子里操纵这一切。代表这一故事和问题的一连串符号通过一条很小的缝 隙被送进这屋子。不允许任何其他的来自外头的信息漏进去。最后当所有 的操作完成后，程序的结果又通过这条缝隙递到外面来。由于所有这些操 作都是简单地执行施安克程序的算法，这个最终程序的结果简单地为中文 的“是”或者“非”，给出了关于以中文说的故事用中文问的原先问题的 正确答案。现在，西尔勒很清楚地表明他根本不识中文，这样他对该故事 讲的是什么没有任何哪怕是最浅的概念。尽管如此，只要正确地执行了那 些构成施安克算法的一系列运算（已给他用英文写的这一算法的指令）， 他就能和一位真正理解这故事的中国人做得一样好。西尔勒的要点是，而 且我以为是相当有力的，仅仅成功执行算法本身并不意味着对所发生的有 丝毫理解。锁在他的中文屋子里的（想象的）西尔勒不理解任一故事的任 一个词！
　　人们对西尔勒的论证提出了许多异议。我将只提到我认为具有重要意 义的那些。首先，在上面用到的“不理解任一个词”的短语也许有容易使 人误导的东西。理解和模式之间正与它和单独词汇之间有一样多的关系。 在执行这类算法时，在不理解许多个别词汇的实在意义的情形下，人们可 以知觉这些符号构成的模式的某些东西。例如，中国字的“汉堡包”（如 果，真的有这个词的话）可用某一其他的菜譬如讲“炒面”来替换，而故 事不会受到重大影响。尽管如此，我觉得可以合理地假设，如果人们仅仅 跟踪着这种算法细节的话，（即使把这种代换认为不重要）只传递了该故 事中很少的实际意思。
　　其次，人们必须计入这个事实，如果用人类的操纵符号来执行的话， 在正常情形下甚至执行一个相当简单的电脑程序也会是非同寻常的冗长和 繁琐。（这毕竟正是为何我们让电脑来为人类做这种事的原因！）如果西 尔勒真的以这种提议的方式实行施安克的算法，那么仅仅是为了得到哪怕 是一个单独问题的答案，他很可能要花费许多天、许多月甚至许多年极其 枯燥的工作，这根本不像是一位哲学家的活动！然而，由于我们在这里主 要关心原则的而不是实践的事体，所以我仿佛觉得这不是一个严重的反 对。在具有和人脑相当的足够的复杂性、并因此适当地通过图灵检验的假 想的电脑程序中引起了更多的困难。任何这类程序都是极可怕地复杂。人
　　
们可以想象，为了回答甚至相当简单的图灵检验问题，这一段程序的运算 会涉及到如此多的步骤，以至于在一个正常人的一生中根本没有可能用手 完成这一算法。在没有这种程序的情形下，这是否的确如此还很难说 9。 但是，依我的观点，这一极其复杂的问题无论如何不能简单地不予理睬。 是的，我们在这里关心的是原则的事体，但是一个算法要呈现出精神品质， 其复杂性就要达到某一“临界”量，我认为这是合情理的。这一临界量也 许是如此之大，复杂到这等程度的算法，由任何人以西尔勒摹想的样子用 手来进行，根本就是不可能想象的。
　　西尔勒本人允许一整队不能讲中文的符号操作员去取代原先中文屋子 里的孤独者（“他自己”），以此来抵抗上面的反对。为了得到足够大的 数目，他甚至想象把它的屋子用印度整个国家来代换，现在它的全部人口
（除了理解中文的人以外！）都来从事符号操作。虽然这在实践上是荒唐 的，但在原则上却不是，而且该论断在本质上和以前是一样的：尽管强 AI 宣称只要实现适当的算法即会诱导出“理解”的精神品质，这些符号操作 员仍然不理解这故事。然而，现在另有一种反对正开始幽然逼近。这些单 独的印度人难道不是比起来更像人脑中的神经元而不像整个人脑本身 吗？没人认为神经元本身会单独地理解这个人的思想，神经元的激发明显 地构成人脑在进行思考时的物质活动，为何要期望单个印度人去理解这中 文的故事呢？为了答复这一诘问，西尔勒指出，如果在印度没有一个单独 的人理解这一故事，而真实的国家却能理解显然是荒唐的。他论争道，一 个国家正像一台恒温器或一辆汽车与“理解”毫不搭界，而单独的个人却 有关系。
　　这一论争，比前面的那个苍白无力得多。我认为，西尔勒的论证在只 有一个单独的人在实行算法时力量最强大，这时我们只限于注意一个不复 杂到可由一个人在短于一生的时间内实际执行的算法的情形。我认为他在 建立这一结论的论证不够严格，这就是不存在和一个人实行那个算法相关 的离体的某种类型的“理解”，而且这种理解的存在并不以任何方法反射 到他自身的意识上去。然而，我和西尔勒都同意，至少可以说，这种可能 性被减少到很微小的程度。我认为西尔勒的论证对之还有相当的力量，即 使它还不完全是结论性的。施安克的电脑程序所具有的这类复杂性的算法 不能对其实行的任何任务有丝毫真正的理解，对这一点的展示是相当令人 信服的，而且它（仅仅）暗示，不管一种算法是多么复杂它都不能自身体 现真正的理解。这和强 AI 的声称相矛盾。
　　就我所能看到的，强 AI 观点中还有其他非常严重的困难。强 AI 观点 就只管算法。这个算法是由头脑、电脑、印度整个国家、轮子和齿轮还是 由一套水管系统来执行都是一样的。其观点是，对于被认为由算法所代表 的“精神状态”，只有它的逻辑结构是有意义的，这与那个算法的特殊的 物理体现完全无关。正如西尔勒所指出的，这在实际上导致了一种“二元
　　
论”的形式。二元论是由极富影响力的十七世纪的哲学家兼数学家雷恩·笛 卡尔所提倡的，它断言存在物质的二种不同的形式：“精神的东西”和通 常物质。这两类物质的一种是否并且如何去影响另一种是个额外的问题。 关键是认为精神的东西不是由物体所构成，并能独立于它而存在。强 AI 的精神东西是算法的逻辑结构。正如我刚评论过的，一个算法的特殊的物 理体现，是完全无关的某种东西。算法有某种离体的“存在”，这和它的 按照物理的实现完全分离。我们要多么认真地对待这种存在是我在下一章 还要讨论的一个问题。它是抽象数学对象的柏拉图实在的一般问题的一部 分。此刻我且回避这一般的问题，而且仅仅评论强 AI 支持者所仿佛的确相 信的算法形成它们思维、感情、理解以及意识、知觉的“物质”。正如西 尔勒指出过的，强 AI 的立场似乎把人们逼向极端的二元论，也就是强 AI 支持者最不愿意与之打交道的观点，这真是富有讽刺意味！
　　这就是在道格拉斯·霍弗斯达特（1981）的题为《和爱因斯坦头脑谈 话录》的对话中所论证的事件背后的两端论。他本人是强 AI 的主要提议 者。霍弗斯达特捏造出一本极厚的书，假想它能包含对阿尔伯特·爱因斯 坦头脑的整个描述。正如活着的爱因斯坦要回答的那样，只要简单地翻阅 该书，并仔细地按照所提供的细致的说明，任何人愿意问爱因斯坦的问题 都能得到回答。当然，正如霍弗斯达特仔细地指出的那样，“简单”是十 足的误称。但是他的宣称是，在图灵检验的操作意义上，这本书在原则上 完全等效于实在的爱因斯坦的可笑地迟缓的复件。这样，按照强 AI 的论 争，这本书可像爱因斯坦本人那样思维、感觉、理解和知觉，但是也许是 以极慢的节律生活（这样，从书——爱因斯坦看来，外部世界似乎以疯狂 的高速度闪现）。由于这本书被认为仅仅是组成爱因斯坦“自己”的算法 的特殊体现，它实际上就是爱因斯坦。
　　但是，现在出现了新的困难。这本书也许从未被打开过，或者它被无 数追求真理的学生和研究者熟读。这本书怎么“知道”这种差别呢？这本 书也许不必被打开，它的信息可由 X 射线立体扫瞄术或其他技术的魔法取 出。爱因斯坦的知悉是否只有当这本书被考察时才被唤起呢？如果两个人 在两个完全不同的时刻去问该书同样的问题，他是否发觉是发生了两回？ 或者那是否使爱因斯坦知觉的同一状态在两个分开的和时间不同的事件 中实现？或许只当该书被改变时，他的知觉才被唤起？毕竟在正常情况 下，当我们知觉从影响我们记忆的外面世界接受到一些信息时，我们精神 状态确实稍被改变。如果是这样的话，这是否意味着，算法的“适当的” 改变（我在这儿把记忆的储存包含到算法部分中去）而不是（或者以及） 算法的激活被认为和精神事件相关？或者即便书——爱因斯坦从未被任 何人或任何东西考察或扰动过，它是否维持在完全自知悉的状态？霍弗斯 达特触及了其中的一些问题，但他完全不想去回答这些，或者和我们大多 数人妥协。
　　
　　去激活或者以物理形式体现一个算法是什么意思呢？改变一个算法是 否和仅仅抛弃一个算法并且用另一个取代之在任何意义上不同呢？这些究 竟和我们意识知悉的感觉有关吗？读者（除非他或她本人是强 AI 支持者） 也许会惊讶，为什么我为了这样明显地荒谬的思想花了这么多的篇幅。事 实上，我不认为这一思想在本质上是荒谬的，它仅仅是错误的！在强 AI 的背后的推理中的确有某种必须慎重对付的力量，我将解释这一点。我的 观点是，这些思想若被适当地修正的话，还具有一些魅力，正如我还将告 知诸位的。此外，依我看法，西尔勒表达的特殊的矛盾的观点还包含某些 严肃的困惑和表面的荒诞，尽管如此，我在一定程度上和他同意！
　　西尔勒在他的讨论中似乎隐含地接受，当代的电脑，但是还加上大大 加快了的动作速度和快速存取的记忆容量（而且可能并联运行），可以在 不太遥远的将来体面地通过图灵检验。他是准备接受强 AI 的论点（以及其 他大部分“科学”观点）“我们是任何电脑程序的体现”。此外，他还附 和这种说法：“头脑理所当然地是一台电脑。由于任何东西都是一台数字 电脑，头脑也是。”10 西尔勒坚持，人脑（它可有精神）和电脑（他论证 说没有精神），两者都可以执行同样算法，两者功能之间的差别完全在于 各自的物质构成。但是，由于他不能解释的一种原因，他声称生物体（头 脑）可有“意图性”和“语义性”，他把这些定义为精神活动的特征，而 电子仪器没有。我觉得这对于得到科学的精神理论没有什么用处。也许除 了生物系统（而我们刚好是这样的系统）的演化来的历史的“方式”以外， 关于它有什么特殊的东西特地被恩准获得意图性或语义性？我觉得这一断 语就像教义一样地令人可疑，甚至也许不比强 AI 的坚持的只要执行一个算 法即能召唤起意识知觉的状态的说教更加独断！
　　我的意思是，西尔勒以及大量其他的人被电脑专家引入歧途。而这些 电脑专家又依序地被物理学家引入歧途。（这不是物理学家的过错。他们 甚至不知道发生了任何事情！）“每一件东西都是一台电脑”的信念似乎 已被广泛蔓延。我在本书的愿望是为了表明，为何以及如何情况并非如此。
　　
硬件和软件