2026年5月15日，教宗良十四世发布了他的首份通谕——《伟大的人类》，谈论在人工智能时代守护人类的尊严。发布会上出现了多位人工智能专家，其中包括 Anthropic联合创办人奥拉。

很多人觉得宗教文件离我们很远，但这次我想跟大家分享一篇来自 Nature 的文章。作者 Paolo Benanti 提醒我们：不要把教宗的新通谕《伟大的人类》简单看作“宗教宣传”，而是一次对 AI 治理危机的精准诊断。

最让我触动的是文中提到的一个真相：【技术中立是一个谎言】 🚩

很多工程师觉得自己在优化代码、提高点击率，这只是“技术问题”。但作者说：当你为了流量而让算法推送那些引起愤怒的内容时，这其实是一个政治选择，而非工程决策。

现在的 AI 治理陷入了一个怪圈：
❌ 权力极度集中在少数大厂手里。
❌ 所谓的“伦理准则”大多是公司自愿的（自律 ≈ 没管）。
❌ 算法在悄悄接管原本属于人类的判断（比如量刑、招聘）。

这就是所谓的 “算法统治”（Algocracy）。当代码决定了谁能获得贷款、谁该被警察关注时，我们失去的不仅仅是效率，更是对“人性”的掌控。

教宗在信中敲响的警钟是：那些从 AI 中获利的人，不能成为 AI 唯一的监管者。

你可能会问：“既然学术报告和政策分析已经说过这些了，为什么还要听教宗的？”
作者回顾了历史：在工业革命时期，过去的教宗曾预警自动化会导致工人被当成“零件”；在 1930 年代，教宗也预警了极权主义的兴起。

当时很多人也觉得那是“感性的干扰”，但事实证明，当世俗机构（大学、议会）因为利益或惯性而失能时，这类道德预警往往能精准地戳中文明的危机点。

作者给科学家和政策制定者开出了几剂药方：

责任化： 把“价值观讨论”提升到和“性能跑分（Benchmark）”一样的高度，而不是把它当成 PR（公关）话术。

强制评估： 像建电厂需要做“环境影响评估”一样，AI 系统上线前必须做 “算法影响评估” 。

第三方审计： 特别是在司法、医疗、信贷等关键领域，不能让厂商自说自话，得有第三方审计。

让受影响的人参与： AI 改变了谁的生活（比如被替代的工人），谁就应该参与到标准制定的过程中，而不是只在联合国或技术委员会里由大佬们决定。

思考题： 如果 AI 的价值观由几家公司的 CEO 决定，你觉得这个世界会变好吗？👇

#人工智能##算法统治##AI for Science##教宗##自然杂志#