人工智能与人类 —— 来自中西方的观点

2019年4月3日至5日，一个关于人工智能的研讨会在圣塔克拉拉大学(Santa Clara University)召开。此次研讨会由“中国论坛：文明间对话” (China Forum for Civilizational Dialogue，由《公教文明》与乔治城大学联谊共建 ) 和教宗文化委员会 (Pontifical Council for Culture) 联合赞助举办，仅限受邀请专家参加1。该活动由加州大学的“技术与人类精神倡议”组织协办。

除本文两位作者之外，研讨会汇集了来自中国、美国和欧洲的十几位学者，共同探析当今的巨大变革如何对基督宗教、儒家以及其他宗教和世俗传统构成挑战。

 过去十年来，人工智能领域取得的巨大进步发出一个历史非连续性的信号。对于这个问题，中国和西方均已逐渐开始正视。从长远来看，人工智能革命有可能会重新判定几个基本的哲学问题：假如机器有一天超越人类的智慧，那么人类的独特性、尊严和自由将会何去何从？计算机将来是否会变得“有意识”和“有创造性”？如果答案是肯定的话，那么我们的文化观念将会有什么转变？

 经验、技术和传统思想

 长期以来，我们在这个世界上的社会经验和文化生活以技术为媒介。这一现象在当代产生了一个质的转变。无论是在公共场所或是汽车、办公室和家庭中，人们越来越依赖于他们的手机、平板电脑、笔记本电脑和耳机，将自己沉浸在以技术为媒介的世界中。数字化助理可以为我们解答、导航指路并提供有关餐厅和电影的建议。与此同时，它对我们的愿望和需求的了解可以得到不断的现时更新。另外，虚拟现实技术也将使我们越来越沉浸在人造世界中。那么，当前的技术革命对人类这一概念，以及我们与自己和他人的关系具有什么影响？

 天主教伦理神学以人的尊严为中心，有助于对这个问题的解答。教宗方济各在2015年发行的通谕《愿祢受赞颂》（Laudato si’，以下简称LS）中警告说，技术可以阻止人们“直接接触他人的痛苦、恐惧和喜乐，也毋须直接面对他们复杂的个人经历”，并可能会增加“有害的孤独感”（LS 47）。

 中国主要的哲学和宗教传统，即儒家、道家和佛教思想，也可以在哲学、伦理和神学方面为这个问题提供一系列参考资料。在包括本质、天主性、灵魂和永生等根本问题上，它们与基督宗教不同，也彼此各异；但它们一致认为自我反省和以服务社会为中心的道德生活非常重要，尽管可能在理解上有所不同，但思考人际关系和生活的意义是它们的共同关注。

 所有这些传统同源于有血有肉的人类世界伊始，围绕着他们彼此身体上和感情上的互动，以对反省生命的“美善 ”为起点。它们遥远的历史渊源便可有力地证明这一点。

 由此，讨论的主题是：面对这个以技术为媒介的新世界的发展，传统思想应该如何应对？这个问题牵涉以下三个相关方面：

 1）从电话到无线电、电视、互联网以及社交媒体，远距离通信的发展极大地增加了人们与相距遥远并且素不相识的人进行互动的时间和精力。

 2）人工智能迅速成长并且越来越明显地体现于数字助理，人与机器互动的时间和精力也因此同步上升。这些机器越来越自主，它们不仅有能力理解我们的欲望和需求并做出回答，甚至可以对其进行塑造和限制。

 3）“沉浸式”虚拟现实的到来仍处于起步阶段，它将增加人们在非物理空间中度过的时间。在人工智能的进步和数字处理能力的推动下，虚拟世界日益增长这一现实将为商业、娱乐、教育、旅游和其他行业带来新形式。

 新兴世界与基督宗教、儒家、佛教和道教等既定传统之间的互动，正是我们在圣塔克拉拉研讨会的起点。当代对人工智能伦理的反思通常以唯物主义和启蒙运动立场为出发点。思考产生于自由、自主和具有理性的人。在产生这些折射的棱镜中，关键问题是人工智能和相关技术是否会在自由、繁荣与和平的意义上增进人类福祉。在这样的前提下，出现了有关数据隐私、面部识别、无人驾驶汽车和自动武器的争论。

 这些争论不仅必要而且重要，但我们无意在圣塔克拉拉重复它们。我们反省的对象是正在进行的技术革命及其对宗教和哲学古老传统的根本问题和中心问题带来的影响。

 在报告和研讨会中，讨论的关键问题如下：

 a）人工智能和相关技术的出现在人性与人际关系方面会带来哪些危险和机遇？

 b）技术进步是否将会对人类的自我反省和自由意志能力形成威胁？ 或是反而可在实践意义上提高这种能力？

 c）技术进步对人类在家庭、友谊和整个社会中营造深远持久人际关系的能力形成威胁，还是相反，对其具有辅助作用?

 人工智能和人类：三个要点

 对于在各个简短报告和广泛讨论中呈现的反思，我们无意在这里予以详细陈述，只是列举其中一些要点。

 人工智能的飞速发展无疑对科技的未来及其对人类影响提出了紧要问题。无论在中国还是在西方，我们都处于一个正在对此进行多层面深思的不确定阶段。

 第一个层面与近年来的政治和社会发展有关，它们消除了人们认为数字技术将使我们的世界变得更美好的天真乐观主义。

 第二个层面与人机共存问题有关。在我们仍被困于东西方文明的冲突和交融之际，这个问题的出现带来一个新情况，现在不再是人与自然或社会之间的关系问题，而是人类及其创造物之间的关系问题。

 第三个问题与“创造力”有关。人类创造另一个理性物的可能性引起更多西方人的担忧，他们中间许多人都会直接或间接地受到造物思想的影响，而这种思想在东亚人的传统中并不存在。

 一系列非“启蒙”观点

 有趣的是，发言者中没有任何人以可谓“世俗观点”的看法来探讨我们的主题。实际上，关于人工智能伦理的大多数争论都以启蒙思想中自由、理性和能够自决的个人为起点。从这个角度来看，人工智能通常被认为是符合道德的，因为它可以增加人的自主性和能力，尊重个人意愿和隐私并可以避免偏见。

 与此相反，与会专家则一致采用更复杂的人性视角。那些以教会社会训导为基础的人与启蒙运动思想一致，强调人的自由和尊严，但把它放在一个更广的伦理道德责任和社会责任范筹中，这些责任建立在行使理性的自然道德律和启示的基础上。从这个角度来看，人工智能伦理远不止自由和责任问题，而是要面对科技对人类团体的团结与公平带来的影响。

 儒家和道家思想非常注重人际关系。在儒家看来，孤立的个体永远不是道德反省的起点：在家庭和社会这些基本网络中，男男女女生来便有相互之间的义务牵连。人工智能的一个中心问题是它的直接影响仅停留在人际关系上，却忽略了普世之爱和超验的天主。

 道教将其重点集中在生态自然中包罗万象、生生息息的关系上，以及人类与自然同生共运的规律中。一位发言人说，如果人工智能在某种程度上“可以有助于将道重新引导向人的自尊、自由、尊严、公共利益及宇宙，道教徒将会对它予以认可。”

 从佛教的角度来看，我们应该积极接受使人们在“悟”的道路上前进的科技，但有时它对人和人际关系带来的影响并不一定很明了。一位专家提醒说：“佛教否认固定因缘的存在：没有任何转化过程遵循既定的程序，一切都随着命运改变。生命的涅槃和超越都有无限种不同命运”。

 通过对包括马克思主义在内的不同传统思想的借鉴，我们讨论的注意力集中在一个兼顾人的智力、情感、身体以至灵修各个方面的全面性观点上。正如一位与会者所言，“人类的存在及其本性应该并且也值得以各种方式来理解，包括那些看似模糊、神秘但符合道德标准的方式在内。当人工智能研究人员竭尽全力将自然界和人类还原为数字数据时，我们希望尽管他们有着自己的不同解读方式，但对世界能够依然保持尊重”。

 技术：中性工具还是生命的一部分？

 讨论中明显地显示了关于技术和人工智能存在着两种张力的观点。

 第一种观点从伦理道德的角度出发，将技术视为一个中性工具：可以用来行善，也可以用来作恶。例如，一位参会者认为人工智能所面临的危险“不是来自技术本身，而是源于人类以不当方式使用和滥用技术的倾向”。另外，道家观点也指出“技术有被不当使用的可能性，使我们违背并远离自己的本性”。

 第二种看法将技术视为人类生活中不可缺少的一部分，认为它有助于我们对自身和自由意志的理解。正如另一位与会者所言，“技术不只是我们世界里的被动物品”。在与人工智能及其他技术进行互动时，“我们自己被重新配置，包括我们的身体、思想、感觉、欲望和能力”。同样，类似观点认为技术是“一种我们生活在这个世界上并对它加以组织的方式。因此，技术不是一个孤立的环境，而是越来越融入日常生活环境，并与它相连”。

 这两种看法并非互不相容。前者提醒人们注意对技术挑战应付的责任，后者则提醒我们，问题不是“是否”而是“如何”接受技术。有人说：“我不相信人类自我反思和自由意志的能力受到了损害；相反，我相信应当更加重视并且更加严格地锻炼和发展这些能力。”

 自我培养的重要性

 与会发言者一致认同自我培养的重要性。伦理道德生活随着时间的推移而进行，在以不同方式采用各种道德标准来适应不断变化的环境时，人们的性格和个性在整个过程中得到不断的发展。这不仅是一个智力活动，还带有强烈的情感和实践成分。

一位到会者指出，对于伟大的儒家哲学家孟子（公元前370年 ——公元前289年），人类与动物的区别的在于他们通过对仁义的培养，“教以人伦”。越来越普及的沉浸式技术对这种伦理道德教育构成了一个威胁。例如，有人指出，“在诸如忍耐力、自我控制能力、思考能力和道德意识的培养方面，人工智能通过游戏和社交媒体，有可能从幼年时代开始便成为一个指向我们的人格的武器”。也许应该会存在某些方式，能够使虚拟世界成为伦理道德培养的训练场地。

 正如另一位与会者的观察，“虚拟现实的‘虚构世界’也有变成‘实践世界’的可能”，在这里我们可以通过一种快速道德学习的形式成为更优秀的人。另外“许多电子游戏将儿童和年轻人与和他们出身不同的人联系在一起”。

 也有人指出了其积极意义，例如“化身在与我们完全不同的人的体内生活，或者在贫穷的国家中进行虚拟的‘沉浸式旅行’”，甚至还谈到“一个在‘虚拟现实’中度过耶稣生活的体验”。

 与教育有关的一个基本问题是，伦理道德教育通过互联网、个性化的人工智能导师或虚拟现实形式的沉浸式经验进行，从而减少了人与人之间的的直接接触。关于这一点，有人观察到“对于学生而言，令人难忘的老师是那些在自己的生活中起过重要的作用的老师，是那些在专业知识和技能传授之外与他们建立了人际关系并在某种程度上对其成长做出贡献的人”。对于使用人工智能辅助教学，有儒家观点表示反对，并提醒需要考虑“它是否会损害师生之间的关系：这种人际关系是学生努力学习的基础，有可能对他的一生产生影响”。

 社会空间的瓦解

 更多的人机互动也在教学环境以外带来了人际关系上的危机。尤为突出的例子当属人与手机的互动：不管是在大街上还是在饭桌上，可谓无处不在。长期以来，互联网和社交媒体一直被认为不仅可以提供更大连通性空间，并且能够开阔人们的视野。

 然而有些观察者最近却抱怨人类的堕落，再加上各种持相同意见的人形成群体并互相敌视，公共领域随之被瓦解并逐渐转变成一个充满敌意的世界。人工智能的使用便于分辨符合自己喜好的信息和人群，上述趋势随之日益明显。一位与会者说：“在数字网络能够起到促进人类团结的作用之前，我们必须恢复进行对话的艺术。只有人们聆听‘他者’并允许这个声音越过他们的防卫线时，他们方可在理解中成长”。

 公共领域的瓦解给基督宗教带来了一个特殊的问题，因为耶稣要求我们去爱近人，去帮助自己的环境里和世界上的穷人。特别是，“教会的社会训导对这些新技术存有疑问，其根源在于对人类发展的重视，而这个发展离不开家里家外人与人的相会和相伴”。

 照顾老人

 鉴于许多老人的孤独和专业人员的匮乏，有人指出人工智能可以在照顾老人方面有所突破。从儒家的角度来看，将家庭护理委托给机器人会带来很大问题。有人认为，该领域的人工智能应用必须受到限制，因为“在没有实际需要的情况下让一个讨人喜欢的机器人照顾年迈的父母，会减轻成年子女对父母应尽的义务。而且，也有可能造成老年父母被这种现象蒙骗，认为机器人是出于真心关心自己的幸福，以至于他们更多地依赖机器人而不是自己的孩子”。

 这个对相互关系的强调突出了人与人之间的互动性，因为即使在存有单向依赖的情况下，比如为老人提供照料，互动性仍同样存在。 “有人认为，从中国观点出发，作为真正的人，与一个完全致力于他们的需求和欲望的人或事物进行互动是不够的。相反，一个人必须将另一个人视为一个独特的人，而不是仅能满足这些需求和欲望的一种工具。可以用一个不同的人甚至一台机器来代替资源，但人是没有办法取代的”。对于相互性在人际关系中的重要性，也有人从基督宗教视角发表了类似看法。

 人体角度

 以对老年人的护理为例，有效意味着需要全面，这个问题的关键是身体接触。人类的彼此相遇从根本上来说首先是肉体的接触。但我们不能肯定未来的机器人将能够复制这种经验，因为，正如我们已经说过的，“人体是由血肉组成的，而机器并非如此”。

 从这个角度出发，诸如虚拟现实和计算机游戏之类的交互技术在吸引我们的思想和想象力的同时将我们的身体排除在外，这可能会扭曲我们与自己以及与他人之间的关系，因为“身体与心灵是不可分的，在儒家的个人教育观念中，身体与心灵同样重要，甚至可能更重要”。

 展望未来

 对于未来，所有的发言者一致拒绝接受反乌托邦或乌托邦式观点。研讨会与会者认为，我们现在所做的选择，无论是出于个人还是集体，对人工智能向支持或伤害人类的发展方向都可以起到决定性作用。

 值得注意的是，人工智能和其他先进技术无法解决社会的所有弊端，也无法取代作为中国和西方伟大传统核心的哲学和宗教研究。它们不会带来永生，不能结束苦难，也不会解开生命的奥秘。正如有人观察到的那样，“佛教对人类的完善进行的努力基于精神层面”，而不是技术层面。道教明显地关注“顺其自然”。儒家思想认为，无论人工智能的未来之路如何，在孔子传统中占有中心地位的以相互依存为特性的人与人之间的关系都不会消失。基督宗教将继续相信超越生死的天主尊重人的生命与死亡，这也是提醒我们：“拥有技术人同时也是属灵的人”。

 尽管先进技术并不排除人类的伟大传统及其戒律，但它将继续对人类和人类福祉产生深远的影响。人机互动的增加将削弱人际关系的重要性，并质疑我们对人的意义的既定观念。确实，有人指出，“在人类日常生活中，随着人工智能与人类之间的关系在越来越大的程度上取代人与人之间的关系，体验人类并参与人类共同成长的机会将越来越少。不管人工智能的功能性帮助会多么理想，如果认识不到它的局限性，我们将为全人类带来巨大的危害。

 无论是否同意，不管是在东方还是在西方，以及在我们广泛的消费文化中，随着人工智能的应用在通讯、娱乐、医学、运输和其他部门的持续增长，技术发展在我们的经济和政治体系中占居统治地位，并得到越来越广泛的应用。更重要的是，由于这个不可避免的事实，我们应避免忽视人工智能革命对健康、教育和生产力的潜在积极影响。

在可以想象的未来，我们也许能够“通过对创造和生产的热情来实现我们的创造力。我们会因为热爱工作而去工作，而不是因为我们需要以工作而谋生”。一位持乐观态度的与会者表示：“人工智能的最终目标应该是制造能够模仿人类智能的机器，以使人类更接近‘道’”。

 对此，我们可以从儒家学者王阳明（1472-1529）的思想入手，进一步朝着积极的方向推进。对于王氏，“大人者，以天地万物为一体者也。其视天下犹一家，中国犹一人焉”。这个万物一体说是指宇宙中所有事物之间本质上存在的根本联系，其中包括自然、人以及他们的创造物。

 从这一观点出发，似乎“更发达的人工智能能够与人类智能协手共作，使我们的地球变得更好、更安全”。但是，我们也应指出，有人认为完全否认机器可能具有自我意识和选择能力的看法是轻率的。这个问题显然非常敏感，并引起了争论。

 我们接近“奇异点”了吗？

 关于“技术奇异点”的讨论在上个世纪已经开始出现，它是指在文明发展过程中会达到某一刻，那个时候技术的进步将超出人类的理解和预见能力。由此可以想象可能产生一个比人类智能更高的智能，以及这个现象可能带来的技术进步。

 在研讨会上，有人认为奇异点还很遥远。但是，与此同时，我们看到从家庭、友谊和性生活等生活领域，以至教育、护理和团结，人工智能在其中的增长和技术的普遍存在给我们的人和人际关系的既定概念带来了问题。正如我们已经说过的那样，我们可以就某些边限的重要性上达成共识：“我们有能力对我们的欲望加以限制，为达到这个目的需要对工具加以限制。人工智能需要限制，我们的野心需要规限。我们必须谦卑”。

 限制什么以及如何限制是一个复杂的文化、社会乃至政治问题。鉴于世界上文化、民族和意识形态的多样性，至少在可预见的将来，采取统一对策是不可能的。一位与会者指出，“在特定社团中应以广泛认可的社会规范为指导将伦理纳入人工智能，在不同情况下，这些社会规范在伦理道德上的合法性会有所不同”。显然，继续存在的问题是：这种不同的适当幅度是多少，以及全球观点和解决方案的可能性是什么。

 * * *

 在此，我们不可能传达讨论的全部内容，但从本摘要的总结可了解研讨会的含义及其主题延伸范畴。计算机不断增强的理解力及其操纵数据、文字和图像的能力标志着一个真正的转折点。人工智能在通信、运输、机器人技术、医学、经济、法律和其他领域的应用正在对人的自我概念、行为和责任提出新的质疑，并要求我们根据中国和西方的不同宗教哲学和世俗哲学传统进行解答。

 参考文献

 1.以下是与会人员名单：白彤东 (复旦大学)， Thomas Banchoff (乔治城大学)， Brian Green (圣塔克拉拉大学)，贝淡宁 （Daniel Bell, 山东大学)，Julie Rubio (圣塔克拉拉大学)，李四龙（北京大学）, Paul Tighe(宗座文化委员会秘书), 彭国祥（浙江大学），习安东（Antonio Spadaro SJ《公教文明》，Robin Wang（洛约拉玛利蒙特大学），Shannon Vallor（圣克拉拉大学），Tan Sor Hoon（新加坡管理大学），Wang Pei（复旦大学）。参加研讨会的还有主办单位圣塔克拉拉大学中心主任Dorian Llywelyn神父。