教宗方济各：人工智能是份恩典，但也需要“演算法伦理”

梵蒂冈人工智能研讨会

（梵蒂冈新闻网）今日人类处在“人工智能”时代，在作出即使是重大的决定上也经常是“人的意愿与一系列演算法”的共同果实。教宗方济各2月28日向宗座生命科学院研讨会与会者发表的讲话中表达了上述思想。教宗由于身体欠安未能亲自到场问候与会人士，他的讲话由宗座生命科学院主席帕利亚（Vincenzo Paglia）总主教宣读。

教宗在讲话中阐明，充斥“数字银河”的技术是“天主的一份恩典”，但也是一种含有复杂因素的资源，其中“人确实作出的贡献与自动计算”必须加以深入研究，因为“预料其效果”以及“确定其责任”往往不那么容易。可见，新技术并非“中立的工具”，它们因其本质使“迄今为止被视作界限鲜明的事物变得模糊，其中包括无机与有机、实际与虚拟、稳定身份与关系不断变化的事件”。

就个人层面，“数字时代改变了对空间、时间和身体的感知”，“赞同则成了结为社群的主要准则”。如此一来“承认和赞赏差异就变得越来越困难”。在社会-经济层面上，“用户经常被简化为‘消费者’和少数人手中私利的奴隶”。

教宗说：“从互联网留下的数字痕迹，演算法提取得以控制心智和关系网习性的数据，在我们往往不知情的情况下将它们用于商业或政治目的。极少数的人掌握我们的全部，而我们对他们却一无所知。这种不对称的现象在麻痹我们的批判性思维和行使自由的意识。这些不平等行为在肆无忌惮地扩张，知识和财富囤积在少数人手中，给民主社会带来严重危险。”

教宗承认，技术的确有许多优势，人工智能对生物科学作出了很大贡献。然而，在对待生命的问题上，我们有义务“保护和促进的不仅是组建生命的生物幅度，也包括生命历程中不可低估的特质”。“从新设备可以‘支配’人的出生和命运的方式中产生了道德疑问，它们要求为人类团体整个生命史中的人性特质作出新的承诺”。

在这方面，教会素来的角色是让人置于各种人类征服的中心而不是边缘，因为人是天主的肖像。在技术设备的情况中，这意味著只让发明这些设备的人掌握有关的知识还不够，也需要让使用技术的人了解这些知识。

教宗提到被称为“演算法伦理”（algor-etica）的新前沿，指出这个前沿旨在确保“对相关程序进行能够胜任和共同分享的验证，使当今时代的人类与机器之间的关系得以整合”。在这方面，“教会的社会训导原则能作出决定性的贡献，即以人的尊严、正义、辅助及团结互助为准则”。

教宗最后总结道，“演算法伦理”有如“一座桥梁”，能够“透过实际有效的跨学科对话，使这些原则具体地铭刻在数字技术上”。出席宗座生命科学院研讨会的人士于当天签署了《人工智能伦理呼吁》，其中涵盖了3个基本要素：伦理、教育和权利，教宗称这项举动“在这个方向上迈出了重要的一步”。