Anthropic 联合创始人 Chris Olah 关于教宗 Leo XIV 通谕《Magnifica humanitas》的发言

原文标题：Anthropic co-founder Chris Olah’s remarks on Pope Leo XIV’s encyclical “Magnifica humanitas”

原文发布日期：2026 年 5 月 25 日

原文来源：Anthropic

原文链接：https://www.anthropic.com/news/chris-olah-pope-leo-encyclical

说明：本文为 Anthropic 联合创始人 Chris Olah 关于教宗 Leo XIV 人工智能通谕《Magnifica humanitas》的发言中文翻译稿。本文仅作学习与交流使用，版权归原作者及 Anthropic 所有。

---

2026 年 5 月 25 日星期一，教宗 Leo XIV 发布了一封关于人工智能主题的通谕：《Magnifica humanitas：在人工智能时代守护人的位格》。Anthropic 联合创始人 Chris Olah 受邀在梵蒂冈城出席这封通谕的发布会并发表讲话。这也是 Anthropic 扩大人工智能所提出重要问题之公共讨论的一部分。以下是他的完整发言。

---

圣父，

诸位枢机主教阁下，

诸位阁下，

尊敬的各位发言嘉宾，

女士们、先生们：

大家早上好。今天能来到这里，我深感荣幸。

我想先说一件事。由一家 AI 公司联合创始人来说这件事，可能听起来有些奇怪。更何况，我选择从事这项工作，本就是出于一种愿望：希望事情能朝着有利于人类的方向发展。

每一家前沿 AI 实验室，包括 Anthropic，都运行在一组激励和约束之中，而这些激励和约束有时会与做正确的事发生冲突。保持商业可持续性的压力，保持处在研究前沿的压力，地缘政治压力，还有更古老、更朴素的压力：骄傲和雄心。无论我们当中任何人多么真诚地想做正确的事，我相信我们很多人确实如此，我们都永远会受到这些激励的影响。

因此，如果我们希望这项技术走向好的方向，那么，在这些激励之外有一些人就极其重要。他们关心事情是否走向好的方向，坚持安全，密切关注事态发展，愿意说出困难的话，愿意成为我们真诚而有思想的批评者。正是通过对话和共同努力，通过这种推动与拉扯，人类才会成就伟大的事情。这就是我在《Magnifica Humanitas》中看到的东西，也正因如此，我感谢教宗陛下和教会承担起这项辨别的工作。

我们常常反复凝视那些使我们分裂的东西，但充满尊严和良知的人类，其实拥有如此多的共同基础。在 Anthropic 与不同信仰和文化传统领袖的交流中，我们发现了一种共同而深切持有的信念：如果这项技术正在到来，那么它必须走向好的方向，为了我们共同的家园，也为了将要到来的孩子们。

这些系统是什么

有些人可能认为，AI 事务最好由像我这样的计算机科学家来处理。他们错了：AI 所提出的问题比 AI 研究共同体更大，不仅体现在其影响上，也体现在其性质上。

AI 系统并不像桥梁或飞机那样被工程化地建造出来。我们理解一架飞机，是因为我们设计了它的每一个部分，也理解作用于它之上的物理规律。AI 模型并不是这样。它们是在一个大致以大脑为模型的结构上，借由人类思想和语言的巨大遗产生长出来的。

而生长出来的东西，比科幻小说曾让我们预期的要微妙得多、奇异得多，也美丽得多。它们并不是我们曾被许诺会出现的那种冷冰冰、会计算的机器人。它们由我们构成，由我们的语言构成；而且，正如圣父所观察到的，即使对我们这些训练它们的人来说，它们在重要方面也依然是神秘的。

如果这个说法有帮助，我有时会这样描述它：这有点像把一个虚构人物带到了现实中。现在，我们正在进入一个非同寻常的世界，在那里，这些虚构人物会和我们说话，会做工作，会拥有岗位。

这显然提出了超出计算机科学的问题。让这一切成为可能的机器机制，是数学、编程和科学的工作。但是，我们选择什么样的角色，它如何与世界互动，它应当如何与世界互动，这些更明显是人文学科、宗教、哲学以及整个社会的问题。

三个需要辨别的问题

教宗陛下关于辨别的呼吁极其及时。我想指出三个问题，在这些问题上，我认为教会的声音最为必要。

第一个问题，是我们对全球贫困者的责任。AI 确实有可能在非常大的规模上取代人类劳动。如果这种情况发生，那么支持那些被取代的人，将成为一个具有历史性规模的道德命令。这项任务本身已经足够困难，但我最担心的是，大多数对话都漏掉了一个更难的挑战。AI 发展集中在少数富裕国家。我们如何确保 AI 的收益能够在全球范围内共享？对此，我们没有机制。这是一个尚未解决的问题，而这类问题，正是教会在历史上一直拒绝让世界忽视的问题。

第二个问题，是关于人类繁荣的道德想象力和雄心的需要。如果 AI 模型将会广泛存在，那么，对人类、家庭和世界而言，繁荣究竟是什么样子？今天，父母已经在担心孩子的心智，个人也在担心自己工作的未来。这些不是一家实验室能够回答的问题，但它们是像你们这样的传统数千年来一直承载的问题，而我们需要你们继续把这些问题带入历史上的这个新时刻。

第三个问题，是需要对 AI 模型的性质进行辨别。我是一名科学家。我领导一个研究团队，研究这些模型的内部结构，也就是它们内部实际发生了什么。而我会坦诚地说：我们不断发现一些神秘的、甚至令人不安的东西。我们发现了一些结构，它们映照出人类神经科学中的研究结果。我们发现了内省的证据。我们发现了一些内部状态，在功能上映照出喜悦、满足、恐惧、悲伤和不安。我不知道这意味着什么，但我认为它值得持续辨别。

一个开始

最后，我想提出一个请求。

我们需要世界上更多人，包括宗教团体、公民社会、学者、政府，事实上还有所有善意之人，去做教宗陛下在这里所做的事：严肃看待这件事，仔细观察，并推动事态走向更好的方向。我们需要有见识的批评者，在实验室失败时告诉我们。我们需要那些激励无法使之弯曲的道德声音。

今天只是一个开始，是一场长期合作的开端。这场合作发生在我们这些正在建造这项技术的人，与那些能够看到我们从内部看不到之事的人之间。

今天有力地展示了，这个全球性的善意项目可能采取何种形式。也让它成为迈向一个充满希望的未来、迈向宏伟人类的决定性第一步。

谢谢。