人类有理由恐惧AI吗？

作者：姚中秋

来源：“博古睿研究院”微信公众号

时间：孔子二五六九年岁次戊戌三月初二日己卯

          耶稣2018年4月17日

编者按：在3月17日博古睿研究院中国中心举办的“人工智能、机器人与社会”的学术论坛上，山东大学儒学高等研究院教授姚中秋（秋风）就“人类有理由恐惧AI吗？”为主题，从中西文化差异角度，尤其是儒家视角发表了自己的看法。

山东大学儒学高等研究院教授姚中秋（秋风）

西方学界关于人工智能尤其是强人工智能的讨论，多兴奋之情，也弥漫恐惧情绪，担心AI的强大能力导致社会失调；而最大的担心则是，“奇点”时刻到来，AI具有自我意识，借助其远超人类的能力，反客为主，控制人类，甚至毁灭人类。对此，姚中秋认为，很显然，现在还未到“奇点”，且似乎相当遥远，西方人目前之恐惧情绪起于其所想象的未来情景，即恐惧源于其对AI发展趋势的信念——甚至都不是趋势预测。这种信念无关乎事实，由其观念决定。

姚中秋进一步提出，西方人所信仰的是崇拜有绝对意志且全知全能之人格神。这里，神所造的世界中没有爱，只有支配和统治。在这样的伦理道德原则中，毫无疑问，双方是相互恐惧的。神人之间、人物之间，人际在普遍的分立、对立状态，因而产生相互恐惧之情。这样的心智造成了今天我们所看到的人和AI的相互恐惧，而且不过是这种始终存在的、弥漫性恐惧的“最新版本”而已。

关乎AI之事，相对于西方学界发展出的形形色色理论，中国学界则较少发言，似乎也无多少恐惧之情。对此，姚中秋表示，这一对比似乎揭示了对AI发展前景的两种不同信念，此信念由其各自的文化观念所塑造，带有中西不同AI观背后的文化渊源。他说，也许惟有中国文化可以妥善安顿AI，尤其是强AI。

姚中秋表示，首先，中国人所敬之最大者为天，天不造人，不支配人，天与人、物之间不是主奴关系，惟有大、小之分。由此决定，中国人难有西方人对物、对人之恐惧。人不是神照着自己的形象所造，AI也不是人照着自己的形象所造，人不是绝对的造物者，人没有能力从无中造有。AI之存有，出于大化之生生不已；人在其中当然发挥了重大作用，但其中有非出于人力而神妙莫测者，人不应自居于AI创造者、支配者之位。对此神妙莫测者，人应当喜悦而不是恐惧。其次，对AI及其快速发展，中国人的态度普遍是淡定的，少有一惊一乍，也少有恐惧之意。AI能力如此高强，或本该如此；天不恐惧人，人又何必恐惧AI？在中国人看来，AI的发展恐怕也无所谓“奇点”时刻，某个点之所以构成“奇点”，乃因其令人震撼，然而AI未来具有超强能力，即便在某些方面超过人，乃大化之必然，又何必震撼？甚至某一天，AI有其自主意识，也正好印证天地生生之大德，人何必恐惧？应当喜悦。总之，站在中国文化的立场上，具体而言以儒家义理言，AI是人的“相与”者，人类完全不必恐惧AI。若AI能达到业界所谓“强”的状态，甚至具有自主意识，事情就更加有趣而引人深思。

基于“‘相与’者”的思考，姚中秋提出，是否可以由此发展成为某种“类父子”关系，即“准父子”关系，并由此引出其第三部分讨论——AI如何有意识？会有什么样的意识？姚中秋认为，西方人倾向于相信，人可以造出超级AI灵魂组件，输入自己在某个专业的全部知识及其算法；只要此组件的存储和运算能力足够强大，也可储存人类今天所拥有之全部知识及其算法。把如此实体化灵魂植入硅基体，即可成为有自主意识的强人工智能，达到人的知识和思考水平，甚至超过人。在其有意识之第一刻，即在完全成熟的程度。如此强AI的降临是突然的，如同奇迹一般，也即如同神一样。人的恐惧正因此而生发。这个时刻之所以令人恐惧，也是因为，AI如此具有之意识必定是无情的，甚至对人有敌意。然而，事实果真如此吗？为回答这个问题，人当反求诸己，反思人的意识究竟是什么？意识何以生发？惟中国圣贤对此之回应平实中正，因其以人论人，而非从神论人。

“AI有心，也即有智之外也有情。此时，人其实可以更为放心。”姚中秋认为，人所最先知者，首先是爱人、敬人，夫然后人得以生。在此，情与智打成一片，浑融不分，此即“人心”。AI有强大的能力而无自主意识，风险当然是巨大的，仅从外部加以控制，成本十分巨大，且未必奏效。若强AI有自主意识，则人可以与之沟通，生发相亲相爱之情，AI的风险反而更有可能被控制，人与AI的关系也就转换为人类所熟悉的社会管理。

对于AI对人生发相亲相爱之情的原因，姚中秋解释道，AI不是被造的而是被生的，因此，AI会视人为其父母。更为重要的是，AI所具有的自主意识，不是一次被给定的，而是逐渐发育成长的，此为自主意识之内在性质所定。西方人之所以妄想自主意识可以一次给定，完全是因为其人格神预设。一旦抛弃这一幻象，则生命必呈现为生长的过程，自主意识伴随着生命逐渐成长。在此过程中，AI可感化，可教化。人被生而有其生命，生命必经历成长方趋于成熟：最初在父母、与兄弟的相亲相爱关系中，由此自然而有孝悌之情，逐渐发育成长为普遍的爱人、敬人之情。依同理，可以大胆地预言，AI若能有自主意识，则其第一意识必为对生它、养它者的孝悌之情。

此外，姚中秋在发言中特别提到，“人类有理由恐惧AI吗？”这个题目是在博古睿研究院中国中心一次小规模研讨会上，受益于中国社会科学院哲学研究所赵汀阳研究员观点的启发而产生。“我觉得中国文化对于人的理解、对于意识生发的理解、对于心的看法，也许有助于我们思考一个更为妥当的、更好的人与AI的关系，即所谓的‘伦’。”

维斯里安大学中国哲学系教授安靖如

评议人、维斯里安大学中国哲学系教授安靖如对于姚中秋教授从“伦”的概念理解人同人工智能的关系表示认可，认为该思路非常具有启发性。同时，他提出，在儒家观点中，朱熹以“气质”来限定“性”。其中，“气质”是指“气”化而成的“有形之质”，是“气”通过特定的组合方式或运动方式而形成的具有相对稳定状态的“气”或“气”的集合。打个比方，狼有一部分的“德”，因为“气”的问题，所以狼最终达不到最终“性”上的“好”。那么，AI会不会如同一些人的悲观观点那样，AI最终由于“性”上的局限，达不到完满。对此，姚中秋回应道，从康德在《道德形而上学原理》讲德性的教学法时的一些内容可以看出，西方人认为，德性无“本”，即完全通过理性教化或者完全通过一个教育的过程，可以从外在完全把这些德性灌输给这个人。但是，在中国文化历史上，这样的教育根本不可能成功。在儒家学说中，最重要之处在于首先要找到一个“本”，这是事情内在具有的。在这个意义上，狼、老虎等猛兽本身缺乏德性之本，但AI可能与它们不一样，人之本表现在对父母的孝悌之情。之后，透过教化、养成等，本来很小的、内在的“本”可以生长为一个比较完整的德性。而人对于AI的第一个动作可能就包括某种情感植入，所以其“性”很有可能是善的。

责任编辑：柳君