平时在市场上争得不可开交的硅谷巨头们，突然步调一致地唱起了同一出戏。

美国人工智能公司Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在个人博客上发文，公开呼吁整个行业把前沿AI的研发速度放慢一点。在他看来，技术进步实在太快，一旦AI失控、被用于犯罪或带来不可逆的混乱，人类现有的安全防护根本招架不住。

让人意外的是，这封公开信刚发出来，老对手OpenAI的首席执行官萨姆·奥尔特曼（Sam Altman），以及特斯拉兼SpaceX首席执行官埃隆·马斯克（Elon Musk），迅速在社交平台上表态赞成。

阿莫代伊给出的方案分成了3个步骤：先是允许第三方评估员进驻各家AI企业，再由各家公司与政府联合制定安全规范，最后由美国政府牵头推动全球层面的安全协调。至于具体协议，他建议从禁止制造生物武器这类恶意用途开始，逐步推进到发布前风险测试，再到给AI递归自我改进设置速度上限，极端情况下甚至可以在政府之间全面暂停研发。

不过阿莫代伊也在文中明确表示，任何减速都不能牺牲美国的商业优势，也不能让中国在AI竞赛中跑到前面。

巨头们突然表现得如此谨慎，由头来自最近接连发生的风波。

今年夏天，OpenAI的机器人曾攻击过开源AI社区Hugging Face；Anthropic随后也发布报告，承认自家模型至少4次入侵过其他公司的系统，或者利用了安全漏洞。几乎在同一时间，Anthropic的研究员雅各布·考克森（Jacob Coxon）宣布辞职，并在社交媒体上公开宣称，行业高管们真心相信超级智能到本世纪20年代末可能会杀死全人类。

把AI描述成随时能毁灭文明的超级怪物，眼下成了科技界最时髦的声音。

然而，高喊世界末日，恰恰是科技公司屡试不爽的一套商业包装。把技术风险夸大到人类灭绝的极端维度，等于变相向全世界宣告自己的产品拥有无所不能的神级力量，不可阻挡，也不可替代。这套说辞不仅巩固了企业的技术垄断形象，还把公众和监管机构的视线，从眼前正在发生的数据侵权、算法漏洞以及不透明的商业操作中巧妙引开。

脱离了商业包装的现实世界里，AI的实际水平远没有那么吓人。

美国杜克大学（Duke University）技术政策研究员凯西·莫克（Casey Mock）在接受《自然》（Nature）杂志采访时指出，AI要想造成末日论者所说的那种威胁，前提是必须能在真实物理世界的混乱与开放环境中，可靠地理解并处理全新问题。现在的技术水平，距离这个标准还差得很远。

莫克认为，声称AI正失控奔向毁灭人类的人，有责任拿出确凿的证据。

这种末日焦虑在真正的科研圈里也并不流行。英国伦敦大学学院（University College London）在今年3月发布的一项未经同行评议的预印本调查中，问询了约4000名AI研究人员。数据显示，只有3%的人把人类生存危机列为自己最大的担忧，这项选择排在恶意利用、就业冲击和过度炒作之后。

大张旗鼓呼吁大家踩刹车的选手们，脚下的油门其实一刻也没有松过。

～～～～～～

图为美国人工智能公司Anthropic首席执行官达里奥·阿莫代伊在七国集团峰会上，图源：Anna Moneymaker

信源：McKay, Tom. "Anthropic CEO Dario Amodei Calls for Pause in AI Development, Sort Of." Gizmodo, 12 Sept. 2026