教宗社会传播日文告：人不应被算法吞噬，传播应充满人性

假新闻和深度伪造、信息茧房、机器学习、社交媒体。新工具、新渠道、新机会，但同时也带来新的“病态”和隐患，特别是对于传播领域而言，它可能成为“认知污染”的对象，即通过虚假叙述、假语音消息和假照片（甚至教宗也是受害者）来扭曲现实，或抹杀战地记者宝贵的作用。教宗方济各在第58届世界社会传播日文告中，再次对人工智能进行反思，主题为“人工智能与心灵智慧：促进一种充满人性的传播”。教宗在1月24日圣方济各·撒肋爵（San Francesco di Sales），即传播主保的瞻礼，于圣若望拉特朗签署了这份文告。在文告中，教宗方济各以赞赏和担忧的目光审视那些“从根本上改变信息和传播”以及“一些公民共存基础”的系统演变。这是涉及到每个人的变革，不仅是专业人士。

记者的重要性

教宗尤其提到新闻界、对战争的报道，以及通过造谣活动进行的“平行战争”。教宗写道：“为了让我们看到他们眼中所见，许多记者在战场上受伤甚至丧生。”“只有亲身接触儿童、男人和女人的苦难，我们才能理解战争的荒谬。”

“如果人工智能的使用不仅不抹杀现场新闻工作的作用，反而从旁协助；如果它能够珍重传播领域的专业性，让每位传播者负起责任；如果它能让每个人在传播中重新获得具有批判能力的主体角色，那么它将能在通信领域作出积极贡献。”

面对新事物不应僵化，对非人类事物却应保持敏感

面对快速传播的“令人惊叹的发明”所引发的“介于热情和困惑之间的惊奇”，教宗邀请人们反思：“我们如何能够保持完全的人性，并引导正在发生的文化变革朝向善的方向？”

因此，“我们需要清除那些灾难性解读及其瘫痪性的影响”；然后，正如罗马诺·瓜迪尼（Romano Guardini）所说，“我们对‘新’事物不能采取强硬态度，试图维护一个注定要消失的美好世界”。与此同时，我们要对所有“破坏性的”和“非人类的”事物保持“敏感”。也就是说，需要在这个“会成为技术发达但人性贫乏”的时代，从内心重新起步。教宗还表示，我们需要智慧，但不能要求机器提供智慧。

“这不是要求机器看起来像人类。这是要唤醒人类，使其从妄自尊大的催眠状态中醒来；人类以为自己无所不能而陷入催眠，认为自己是一个完全自主和可以自我为准则的主体，脱离了各种社会关系，忘记自己受造的属性。”

假新闻的危险

人类自古以来就面临著“没有天主而成为天主”的诱惑。教宗强调，“人类的每一项技术延伸，都可成为爱的服务工具或敌意的统治工具。”“人工智能系统可以帮助人类摆脱无知，促进不同民族和世代间的信息交流。”然而，它们也能成为“认知污染”的工具，即那些利用深度伪造的假新闻，比如“创造”和“传播看似真实却是虚假的图像（我自己也曾是受害者）”，或是“利用某人的声音说一些此人从未说过的话”。教宗告诫说，当这种模拟扭曲了与他人和现实的关系时，就会“变得邪恶”。

社交媒体的机会和风险

接着，教宗谈到了社交媒体，指出它们“若落入错误之手，可能会成为开启负面场景的工具”。“就像人类头脑和双手创造出的其他一切事物那样，算法也不是中立的”。教宗呼吁“采取预防措施”，提出伦理规范模型。他再次呼吁国际社会“制定一项具有约束力的国际条约，来规范人工智能的发展和多种形式的使用”。

“在实现福祉的巨大可能性的同时，也伴随着把一切变成抽象计算的风险，将人简化为数据，思想简化为模式，经验简化为案例，福祉简化为利润，更重要的是，最终会否认每个人及其历史的独特性，将具体的现实简化为一系列统计数据。”

教宗接着表示，“数字革命可以使我们更加自由”，然而，“人工智能的使用若导致匿名思维、未经认证的数据组合、集体编辑责任的推卸”，我们是无法接受的。大数据对现实的描述可能“损害我们自己的人性”。

关键问题

这就引出了一系列思考现在和未来的问题，也是整篇文告的核心要点：“如何保护通信和信息领域工作者的专业性和尊严，以及全世界用户的尊严？如何保证平台间的协同工作？如何确保开发数字平台的公司与传统媒体出版商一样，对其传播的内容和从中获利负责？如何使基于算法的索引和反索引及搜索引擎的标准更加透明，因为这些算法能够突出或抹去人们和观点、经历和文化？”

教宗继续问道：“如何保证信息过程的透明度？如何明确作者身份并追溯信息来源，防止其披上匿名的外衣？如何明确显示一张图片或视频是记录事件还是模拟事件？如何防止信息来源被简化为单一的、算法化的思想？我们又该如何营造一个保持多元化和体现现实复杂性的环境？如何才能使这一功能强大、价格昂贵、能耗极高的工具具有可持续性？如何让发展中国家也能使用它？”

新的奴役与获得自由

教宗方济各强调，从这些问题的答案中，“我们将能了解人工智能最终是否会在信息优势的基础上建立新的等级制度，产生新形式的剥削和不平等”，还是人工智能会“带来更多的平等”，促进正确的信息传播和对时代转变的更深刻认识。

“一方面是新奴役的阴影，另一方面是获得自由；一方面是少数人有可能左右所有人的思想，另一方面是所有人都有可能参与思想的发展。”

答案还没有写出来，取决于我们自己：“是被算法吞噬，还是用自由滋养自己的心灵，这由人类来决定。”

（原载：梵蒂冈新闻网）