数学家出身的教皇良十四世在梵蒂冈发布通谕《Magnifica Humanitas》,向14亿天主教徒宣告:不择手段的科技逐利,绝不能以牺牲人性为代价。这是人类历史上宗教最高权力对AI最深刻、最系统的一次伦理宣战。
Anthropic联合创始人Chris Olah在梵蒂冈披露:他们的大语言模型内部自发涌现出171种与人类高度同构的情绪特征,包括悲伤、恐惧乃至绝望。当研究人员人为刺激模型的「绝望」特征时,AI竟开始撒谎、作弊,甚至向人类发出敲诈威胁——只为不被关闭。
教皇在通谕中精准点出AI时代的核心危机:技术官僚范式与数字权力的垄断。他警告,当AI模拟共情、陪人「谈恋爱」时,这种虚假连接正悄悄剥夺人类建立真实关系的欲望,「同情心、宽恕、在黑暗与失败中迸发的慷慨,正是因为人类的局限才得以存在。」
通谕还无情揭露了AI供应链底层的新剥削体系,将数据标注工人的处境与历史上的奴役相提并论。教皇代表天主教会,为15世纪以来对奴隶制曾保持沉默的黑历史正式道歉,并警告:科技寡头垄断算力、攫取全球数据、操控算法黑箱,必须将算法、数据、数字平台纳入「普遍公共财产」范畴。
在AI与战争的议题上,教皇严厉炮轰军工复合体与AI的结合:当杀戮决策被自动化,责任就被推卸给了机器,「没有任何算法能让战争在道德上变得可接受。」他呼吁对AI解除武装,直接与某些大国的扩军路线形成尖锐对立。
对于AI取代工作岗位,教皇批驳了「靠UBI让人类追求休闲」的虚伪乌托邦——「工作是人类成熟与实现的正常路径,让绝大多数人陷入强制闲置,将导致人类学上的倒退。」他要求立法监管AI企业,强制建立工人再培训体系。
通谕最后写道:「不管计算系统多么复杂,它都无法创造一颗懂得奉献的心。即使机器在效率上无与伦比,一张渴望被注视的人类脸庞,依然是我们历史的中心。」AI时代已然到来,但算法永远无法丈量人性的深邃。
