Anthropic 联合创始人奥拉：人工智能的发展不能仅由科技公司主导

5 月 25 日消息，Anthropic 联合创始人克里斯・奥拉（Chris Olah）于当地时间周一表示，人工智能的发展不能完全交由科技公司，他呼吁宗教领袖、政*和民间社会加强监督。

注意到，奥拉在教皇利奥十四世（Pope Leo XIV）首份关于人工智能的通谕发布仪式上发言称，人工智能极有可能在极大规模上取代人类劳动力。

“倘若这一情况发生，为失业群体提供支持将是一项具有历史意义的道德责任。”他在教皇身边落座时如是说。

他补充道，像他所在的公司这类企业，面临着巨大的商业、地缘政*及个人压力，这些压力有时会与社会整体利益相悖。

“每一家前沿人工智能实验室…… 都处于一套激励机制与约束条件之下，这有时会与正确行事的原则产生冲突。”他指出，即便是初衷良好的研究人员，也会受到这些因素的影响。

奥拉强调，正因如此，外部监督至关重要。

Anthropic 是一家总部位于美国的公司，开发了 Claude 人工智能工具。该公司曾与唐纳德・特朗普政*发生冲突，核心分歧在于 Anthropic 坚持设置安全护栏，禁止其模型用于军事目的，例如自主武器瞄准或国内监控。

奥拉对教会介入这一快速发展的新兴技术表示欢迎，称人工智能引发的伦理问题远超工程技术范畴。

“人工智能提出的问题，其重要性已超出人工智能研究社群本身。”他呼吁各界涌现出“真诚且富有深度的批评者”，对科技公司形成制衡，助力推动强大的新型系统朝着积极的方向研发。

奥拉重点指出三大亟待关注的领域：大规模失业风险、人工智能红利的全球普惠、以及日益复杂且不透明的系统行为可解释性难题。

“人工智能技术的发展高度集中于少数富裕国家。我们如何确保人工智能的成果能由全球共享？”奥拉反问道。

周一的这场活动，标志着科技行业与天主教会罕见地走到一起。