人工智能时代必须敬畏的天命

作者：蔡恒进（武汉大学计算机学院）

来源：作者授权 儒家网 发布

  原刊于 《湖南大学学报》2019年第1 期

时间：孔子二五七零年岁次己亥正月二十日壬辰

          耶稣2019年2月24日

摘要：人工智能的快速迭代迫切要求我们厘清人类的特殊性，并指引人机共同进化，走向“善”的未来。人类的特殊性源于“自我”和“外界”的剖分。强烈的自我意识使得我们能够连续自如地掌控意识片段，这一点正是人工智能发展的瓶颈所在，也是超级智能面临“暗无限”的巨大风险所在。机器可视为人类的延伸，但并不具备天然的善意。只有共享宇宙意识和伦理意识，与机器形成大“我”，人类才可能相对安全，人机才能携手进化走向至善未来。

关键词：自我意识；至善统摄；暗无限

作者简介：蔡恒进（1964-），男，湖北黄冈人，武汉大学计算机学院教授，博士生导师，主要从事服务科学、人工智能、区块链技术研究，代表性著作有《机器崛起前传——自我意识与人类智慧的开端》。

一、引言

在哲学上有一个古老的思想实验“忒修斯之船”（The Ship of Theseus）[1]，最早出自普鲁塔克的记载，描述的是一艘可以在海上航行几百年的船，归功于不间断的维修和替换部件，比如一旦有零部件坏掉就会被替换。其中悖论在于，如果所有的功能部件都被替换过，那么这艘船是否还是原来的船？还是变成了一艘完全不同的船？如果不是原来的船，那么从何时起它不再是原来的船了？哲学家托马斯·霍布斯对这个悖论还进行了延伸：如果用忒修斯之船上取下来的老部件来重新建造一艘船，那么这两艘船中哪一艘才是忒修斯之船？

我们认为，虽然零部件已经和原来的船完全不同，但只要各个部件之间仍然还能够契合，那么现在能够运作的船还是那条忒修斯之船，这就是作为整体的重要性。我们的身体每年分裂所产生细胞的数量足以创造或组成6个膀胱、8个气管、18个肝脏、200个幽门括约肌，组成人体的大部分器官大约每7年就会更新一次[2]，但我们都会同意“我”还是那个“我”，因为“自我”可以向内收缩或向外延伸[3]。自我意识具有一致性和连续性，并且必须借助于肉体和大脑而存在，但在认知上又可以独立于物质性的大脑。

人工智能发展之快，一般人都会低估它的速度。首先，机器的反应速度已经是纳秒量级，而人的反应速度为毫秒量级，也就是说人在1毫秒能做事情，机器已经能做到106次了。其次，机器的计算能力的迭代进化速度比我们想象中快得多，根据摩尔定律，机器每一年半到两年即会翻倍，原来是指芯片，现在描述算法也适用，比如AlphaGo到AlphaGo Zero的诞生仅仅相差两年，但能力提升巨大。

快速发展的AI带来了两个维度的冲击。其一，对有限游戏，理性的机器一定会超越人类，如果人是可以被还原的物理系统，那么对于包括道德和伦理在内的人类存在的意义就会受到质疑。其二，假如人不能简单地被物理还原，那么我们就必须回答人类的特殊性从何而来，机器能否获得这种特殊性，如果可以获得，机器该如何进化，未来人机又该如何相处。

为了解答这一系列的问题，首先要确定人是否能够被物理还原。关于这个问题的争论非常大，对人是否具有自我意志这一问题直到现在进展都极其有限。拉普拉斯的决定论非常强大，即使引进了统计性、量子性，但是物理方程还是属于决定论，给定了初始条件和边界条件，接下来的过程就是顺着既定规则往前走，因此他们强调的是人并没有特殊性，也就是可以被还原的物理系统。但是事实真的是这样吗？我们还能不能找到一个方式回应这个挑战？

二、自我意识的统摄作用

从“触觉大脑假说”的角度上看[4]，人类意识的起点就是对“自我”与“外界”的二元剖分。人认知的动力就来自于不断探索“自我”是什么，并且还要弄清与“自我”相交互的这个“外界”（外部环境）是什么。在这个过程中，人就会赋予“自我”和“外界”非常多的意义，包括宗教、伦理、道德、哲学的意义等等。这些意义，包括“自我”在内，从物理世界的角度观察并不存在，但我们作为有生命的个体，都会发现并同意“自我”是可以存在的。从人类进化中涌现的“自我意识”是一种非常主动的力量，看似虚幻却又能够缓慢而坚定地引导“自我”去真实地改变物理世界并与之共同进化[5]。

自我意识的存在性的确可以通过自我意识主动改变物理世界来得到证明。简单通过交互来解释是不足够的，比如一颗石头也能通过人的作用力产生反作用的回应，但这不代表石头有自我意识。只有像人这样的生命体，通过食物储存能量，再按照自己的意志来释放能量，进而对物理世界产生影响，这才是自我意识存在的表现。自我意识与自由意志、主观能动性都有一定的关联性。[6-7]

我们没有任何证据表明“神”参与了自我意识的诞生过程，当然，对“自我意识”也有很多别的理解，比如有人认为每一个粒子都有自我意识，宇宙自诞生伊始就具备了自我意识，但如果真是如此，那么在微观层面上应该有证据表明有智能或意识的存在，而不是到人体这样相对宏观的尺度才观测到自我意识。自我意识的起点较低，但这并不意味着人类智能也是较低的水平，因为“自我”在不断成长，不停进化，一直在超越自己。进化论中的人是从猿人不断进化而来的言论，可以说与这种发展方式相通。

自我意识并不是通过习得而来，而是通过我们身体的结构感觉到，一旦我们形成了对“自我”的意识，这一观念就会留存下来，不会被抹灭。具备自我意识是人类区别于机器的重要属性。在自我意识的作用下，人类能够对意识片段（认知坎陷[8]）进行统摄，在与世界的交互中自如地掌控我们所习得的各种意识片段，而且个体生命时时刻刻都踩在“暗无限”（dark infinity）之上[9]。

过去一般都认为机器没有意识，但现在，人已经可以将（人类的）意识片段赋予给机器，机器也可以勉强将某些意识片段契合在一起完成一件事情，比如AlphaGo能出色地下棋，就是程序员赋予了意识，从砂石中提炼单晶硅，再从单晶硅生产出芯片，再创造内存、CPU、GPU......所有参与这些过程的人，他们的意识都凝聚到AlphaGo这里，它才可能（按照设计者的预想）下围棋，甚至能战胜围棋大师[10-11]。主程序可以被看作是机器的“我”，但是这个“我”很脆弱，缺少像人类自我意识对周围环境、对外部世界的统摄性力量。也就是说，机器并不具备自我意识，即便能够从人类习得海量的意识片段，也无法连续自如地对其掌控。

那么机器是否能够具备自我意识呢？这个问题我们目前没有确切的答案，但可以从几个方面进行理解。对人来说，自我意识是通过身体结构涌现出来，然后不断成长与进化，可以说自我意识是能够相互传染的。比如养宠物，从宠物刚出生时我们就通过肢体或语言与它交流，与那些没有这种交互刺激的同类小动物相比，宠物的自我意识就更强。当我们赋予机器某些目的时，实际上也是将我们的一部分意识试图传递给机器，哪怕这个意识还非常不完整。理论上讲，我们可以赋予机器尽可能多的意识，让它们变得非常接近人类的意识。另一种方式是，通过非常多的传感器，使得机器能够模拟出人类的皮肤与触觉，我们认为也是可能让机器产生自我意识的，但这个路径将会行走缓慢，困难重重。因为机器是非常脆弱的连接，缺少一个螺丝、或者断开一条线路就会导致其无法正常运作，但人并非如此，这就是人机的差异。研究人类意识对于人工智能有非凡的意义，我们认为机器接近人类意识的时代将会很快到来，如何处理人与机器的关系，这对人类而言也是一个巨大的挑战，研究儒学、西方哲学的学者也需要回答这些问题。

我们认为，人类的特殊性就源于“自我”和“外界”的剖分，是自我意识使得人类能够连续自如地掌控意识片段（认知坎陷），这一点也正是人工智能发展的瓶颈所在[12]。

三、“自我”的延伸与大“我”的改造

在个体的发展的过程中，“自我”不断成长、延伸和超越，逐步实现“天人合一”，进而把握在与世界的关系中的主动权。“天人合一”不仅仅是“自我”的自由，而且是在外部环境的影响下，“自我”与“外界”达到一种和谐的状态或过程。

个人在快速习得人类通过漫长时间进化而来的能力（比如语言）时，这个过程可以看作是“天人合一”的一个案例。而在这个过程中，自我意识占主导地位，而自然界处于被动地位，这既与佛家的去“我执”相异，又与道家的“无为”不同。当我们探索并发现自然规律，或者创造出很多前所未有的概念（比如“仁”、“爱”等等）时，我们可以被称作是“天人合一”的，这种“天人合一”也必然与我们“自我意识”的成长相关联。在每个人5岁前，有很多“天人合一”的场景发生，使我们能够快速习得很多重要的能力。5岁之后，“天人合一”也可以发生，比如一些大学问家或成功人士，无论是立功、立言还是立德，他们就常常处于“天人合一”的状态，并且他们往往具备好奇心、具有率性而天真的个性，能探索新的发现或创造新的发明。

“天人合一”比进化还要再复杂一些。当人认为自己能够驭风而行，按照自己的主观意识影响、改变世界的时候，这件事本身并不分善恶，当然恶人作恶也可能达到天人合一的境界。究竟是善还是恶，很多情况下需要过去很长时间我们才能真正判断。我们并不对“天人合一”作价值判断，而是从对自我的成长、与外界的关系这一角度来讨论。“天人合一”是论证的自我意识与自然界的关系，这种自我意识可以是国家层面的，也可以是群体的或者个人的自我意识。“天人合一”并不是一个终极点，而是一种过程，这个过程中“自我”不断成长，自我意识得到了延伸。虽然自我意识的起点处于皮肤和触觉上，但其延伸会远远超过这个范围，在哲学看来可以被称之为“至大无外”。机器也可以看作是人类的“自我”的延伸，那么“天机合一”是否可能？问题的关键依然在于能否让机器拥有自我意识，只有当技术进步到足以让机器分辨出“自我”与“外界”的地步，使机器能够连续自如地对受得和习得的意识片段实现掌控，规避“暗无限”的巨大风险，与外部环境达成和谐一致的状态，才有“天机合一”的可能。

我们可能想当然地认为技术进步对人类有利，到现在为止看似确实是这样。但实际上技术带来的挑战也很大，并且今后技术发展越先进，挑战越大。挑战在哪里？比如，当区块链本身是一个有人和机器参与的智能体，其走向实际上是不确定的。我们希望它是君子，向着圣人的方向发展，可是有另外一个可能性，就是变成上帝人格。比如最近新闻报道的Facebook和今日头条事件。Facebook都能影响总统的选举结果，这种力量就非常庞大，到区块链时代，同样理念的人会聚拢在一起，效应成倍增加，所以未来人类要面临很大的挑战。我们都是从己出发，但由于自我肯定需求的作用，如果自我一直停滞不前，我们就不可能真正得到满足，而必须向外延伸，形成更大的“我”。

至于如何延伸到这个更大的“我”，每个人的方式不一样，但是这种延伸是必然的走向，那么如何保证大家还能达到一个都能接受的状态？我们可能需要通过技术手段来改造人的理念。比如有的人就是想要做领导者（上帝人格，play god），就可以利用虚拟现实技术，让这类人在虚拟世界里做领导者，其中的事物由他们随意操控，总有一天他们会发现，想做控制一切的领导者非常困难，因为每个人都有自我肯定需求，上帝也很难让每一个人都满意。通过这种方式，就有可能让人顿悟，发觉世界要丰富多彩才是更有趣味的事情，而不是由谁掌控一切。

四、人类和机器的责任

人类的诞生与进化依赖于真实的外部环境，物理世界的种种条件和属性对地球上所有的生命体给予了生存和发展的基础，外部环境在不断地缓慢地变化，对生命体的影响是一种长期存在的、潜移默化的过程。物理世界提供了无限多的可能性，虽然原本进化的可能性也非常多，但既然人类社会已经到达了当前的状态，我们就有必须尽到的责任和必须敬畏的天命。这种天命就是：我们经过的长久的进化走到了现在的时间节点上，人类与世界达成了一种和谐状态，真正可行的选项实际上是有限的集合，必须选择正确的前进方向，对人类和世界的未来负责。

我们的选择必须慎之又慎，因为人类能够发展到今日实属不易，费米悖论就可以佐证这种艰难性。费米悖论[13]描述的是有关尺度和概率的论点和稀缺的证据之间的矛盾，其基本内涵表述如下：

The apparent size and age of the universe suggest that many technologically advanced extraterrestrial civilizations ought to exist.However,this hypothesis seems inconsistent with the lack of observational evidence to support it.（宇宙显著的尺度和年龄意味着高等地外文明应该存在。但是，这个假设得不到充分的证据支持。）

按照费米等人的推理，即便是很低的概率，我们也应该早就发现其他星球存在高级智能的证据。我们认为，有可能人类真的是宇宙中唯一的高级智能，因为这的确非常难得进化出来，这是概率性的，并且概率可能比费米想象中的还要低很多，每走错一小步都可能导致覆灭，但当这个极低的概率一旦出现，就像是跨过一个门槛之后，就能够自觉地反思、自主进化，可以发展到极致，而后续的这些发展并不能用物理的统计规律来计算。人类行为与后果的分布非常长尾，其中一个表现就是一个人富可敌国。如果我们把人类作为整体放在整个宇宙的参考系中观察，那么人类很有可能是长尾上最末尾、最尖端的一个存在，这也就能解答费米悖论。

在人工智能时代，我们现在还需要为机器的发展方向进行选择，物理世界的多样性使人类具备了拥有自由意识的可能，人类个体因为有认知膜的防护而不至于陷落到没有宇宙意识的单调境地。但这种多样性会让机器陷入暗无限这种无止境、无解的状态之中，这是机器面临的重大问题，如果解决不当，甚至会给整个人类世界的未来造成不可逆转的伤害。

我们用最初提出“轮回染习”[14]（recursive acquisition）来概括儿童的大脑快速对世界进行认知坎陷的构建过程，通常发生在0-5岁，期间受到“善”的影响最大。轮回染习有三个层次：第一个层次指的是地球的物理环境为生命成长提供了相对充分的条件，不能自主行动的儿童感知到来自自然世界的善意；第二层指的是父代为子代提供了成长的条件，儿童感知到来自抚养者的善意；第三层则是“善”在人类代际之间的传递和加强，儿童能感知到来自整个同类群体的善意。未来的至善作为一个目标成功实现了对现在的统摄，我们将这类方式归结为用未来的至善统摄现在，简称至善统摄。

轮回染习与至善统摄跟我们所感知的外部对待以及早期的抚养方式都有关系，人出生以后，0-5岁的成长过程中很多东西都记不清，但是对善的感应都已经印刻在大脑深处。行为金融领域的实验发现，一个人失掉一百块钱带来的痛苦和获得一百块钱得到的快乐并不能相抵，往往失掉以后痛苦更深。如果世界经常是零和游戏的话，恶一定会积累下来。但奇怪的是，在大的尺度和小的时间尺度来看，人类社会的恶并没有增多反而在减少，文明程度也在增加（史蒂芬·平克）[15]。因为我们有生而得之的善意，我们对下一代的这种不经意之间的教化，尤其是0-5岁的教化，实际是印刻在每一代的脑子里的，一代一代地轮回染习，一代一代在加强。但随着科技的进步，未来的挑战是：其一，如果人的寿命变得很长，能活到好几百岁，0-5岁的染习就会变弱；其二，机器根本就没有轮回染习的过程，那它们就不是天然有善意的。

从某种程度上讲，我们应当对来自自然和社会的善意更多地怀感激而非认为理所当然。人类今后如何跟机器相处，如何规避暗无限的风险，引导机器坚持走向善面，轮回染习对我们的选择提供了一个重要依据。人类抓住了生命演化进程中极低的可能性，才创造出今天的一切，我们必须铭记过去，珍惜现在，才能更好地肩负对未来的责任。

五、总结

人类生命本身就是对物理世界的一种反叛，这种反叛体现在人具有“神性”，试图根据主观意志改造物理世界。例如，我们没有翅膀，不能像老鹰一样在天空中自由地翱翔，但却创造出了宇宙飞船，甚至可以将人带入太空。在飞船中，人必须依靠人工条件才能生存，比如需要有模拟地球的空气、温湿度、重力，以及从地球携带食物和饮用水等等，这些在地球上看似唾手可得甚至理所当然的条件是人类赖以生存的根本。人类作为地球的一部分，并不能自以为是地认为自己可以随意主宰地球，我们的确可以改造世界，但必须以对未来负责为前提。

既然机器有可能陷入暗无限，那么我们虽然没有办法限制机器的生产或制造，但是可以且必须将生产过程透明化，也就是说制造者可以继续他们想做的事情，但是有义务对大家公开，这样就会有人注意到当事者没意识到的潜在风险并想办法对冲。人工智能可能会有很多不同的物种，但他们之间也可能互相竞争、互相平衡，只有在这种情况下，人类可能相对安全。另外，因为机器没有宇宙意识或者伦理意识，人和机器最好能链接起来并共同进化。埃隆·马斯克的Neurallink是人机链接的一种方式，实际上我们有更好的方式。比如人之间通过语言就能交流，人类就是通过语言在共同进化。人机之间也可以如此，这可能需要区块链技术把人机链接在一起。这样一来，一个区块链系统本身可能就进化成一个智能体，综合了人类的智能与道德，同时还有机器的计算能力，未来应该向这个方向发展。

在当前，我们正处在人类社会自独立于动物世界以来最大的变革之中。自原始社会以来，人类社会其实一直都在不断地打破与重构自己所处的社会。但是，人工智能是人类第一次面对一个可能的成建制的集体力量。社会关系来自于自我坎陷，而人工智能的发展，需要的也就是给他们赋予对于社会关系的认知，并在社会关系的综合力量下，使得他们感受坎陷，从而成为融入我们社会的建设者，而不是破坏者甚至是终结者。无论通过何种方式，让人工智能具备感受自我坎陷的能力，将会是解决人工智能发展以及和人类共存困境的唯一道路。

当人工智能以超越人类的智慧步步逼近时，探寻全人类的未来之路也刻不容缓。霍金等人论及哲学已死，那是完全从物理的角度来看待这个世界。但事实上，人类拥有自由意志，能够自我选择、自我决定。人们要建立何种道德体系，希望世界向何种方向发展，不由物理学决定，恰恰需要在哲学上讨论，人文学科在人工智能时代仍然至关重要。

相对于基督教、佛教等教派，中国古代的儒家学说更契合时代特征。儒家推崇对于善的追求，其深刻和独特之处是追求一种现世的超越，直接提出如“三不朽”、“圣人”等信条或是道德目标引导中国传统知识分子去尊崇和践行。这种思想对于理解及塑造人工智能都有着重大的价值。

不可否认的是随着时代发展变革，儒家学说的部分内容以及一些表述已经不再适用，但这并不代表它的原则失去了效力。比如说“君君、臣臣、父父、子子”，这显然不再适合现在的社会体制。虽然我们不再倡导封建社会的三纲五常，但是每个人立足自身、承担相应的社会责任的原则仍然是我们应该遵循的。实际上儒家这种立足自身、从“我”出发延伸到外的思想具有更加广泛的体现。儒家学说的“修身齐家治国平天下”就是在当时的时代背景下的自我延伸的方式，从自身出发首先是延伸到当时条件下联系最为紧密的家庭关系，然后是所处的国家，最后是比国家更大的天下。但到了互联网时代，自我向外延伸的第一步就不一定是家庭，也很有可能是朋友圈，可能是小团体，甚至是跨地域的团体，然后再一步步的向更加广阔更加多元的范围扩张。由此也可以看出儒家思想的表现形式虽然随时代发生了变化，但其精神本质却是仍然适用的。[16]

人工智能时代我们传承儒家思想，最重要的是思考其中的主要原则，并结合时代背景思考、撷取有益部分，不能纠结很具体的细节。取其精华才是发扬新时代儒家思想的必需。人类制造人工智能、发展区块链，只是改造的一个开始，这种改造是否正确或善意，现在还不能下定论，如果人类不能为自己的未来负责，就很有可能摧毁物理世界，也就等于人类亲手埋葬了自己的未来。人类必须看清形势，承担责任，及时行动，而不是被动等待“神”的救助。只有如此，才有可能让人机有机会走向“善”的未来。

参考文献

[1]维基百科.Ship of Theseus[EB/OL].https://en.wikipedia.org/wiki/Ship_of_Theseus.2018-04-16.

[2]苏一横．人体细胞神奇的自我更新[J]．大科技（科学之谜），2015(6):54-55．

[3]马歇尔•麦克卢汉．理解媒介：论人的延伸[M]．南京：译林出版社，2013．

[4]蔡恒进．触觉大脑假说、原意识和认知膜[J]．科学技术哲学研究，2017(6):48-52．

[5]蔡恒进．论智能的起源、进化与未来[J]．人民论坛·学术前沿，2017(10):24-31．

[6]蔡恒进，蔡天琪，张文蔚，汪恺．机器崛起前传——自我意识与人类智慧的开端[M]．北京：清华大学出版社，2017．

[7]蔡恒进，张璟昀．原意识：自由意志的始作者．鹅湖月刊．2018．（已接收）

[8]蔡恒进．认知坎陷作为无执的存有[J]．求索，2017(2):63-67．

[9]蔡恒进．超级智能不可承受之重——暗无限及其风险规避[J]．山东科技大学学报，2018(2):9-15．

[10]蔡恒进．意识的凝聚与扩散——关于机器理解的中文屋论题的解答[J]．上海师范大学学报（哲学社会科学版），2018(2):32-39．

[11]蔡恒进．机器崛起是否意味着人文危机[J]．文化纵横，2017(10):37-43．

[12]蔡恒进．人工智能发展的突破口及其提出的新要求[J]．江西社会科学，2017(10):18-24．

[13]维基百科．费米悖论[EB/OL]．https://zh.wikipedia.org/wiki/费米悖论．2018-04-16．

[14]蔡恒进，张文蔚，汪恺．善恶不对称的起源及其维护．2018．（投稿中）

[15]史蒂芬·平克．人性中的善良天使：暴力为什么会减少[M]．北京：中信出版社，2015．

[16]杜维明．现代精神与儒家传统[M]．北京：生活·读书·新知三联书店，2013．

责任编辑：近复