#超级智能可能在2027年出现#【#AI毁灭人类警报拉响#！OpenAI、Anthropic前研究员离职发声：两巨头正拿全人类命运豪赌！】Anthropic对齐科学负责人Evan Hubinger认为，未来10年内AI导致人类灭绝的概率超过10%。

9月9日，曾先后在OpenAI和Anthropic从事前沿模型预训练研究的雅各布·考克森（Jacob Coxon）宣布离开Anthropic，并公开警告，两家公司围绕先进模型的竞争，是拿全人类的命运豪赌。

GPT-6 Astra发布后，越来越多研究人员和业内专家开始担忧：真正值得警惕的，可能不只是AI能力越来越强，而是AI正在开始参与下一代AI的研发。一旦“AI研发AI”形成自我强化循环，人类还能否理解、监控并及时踩下刹车？

“AI对齐”之父向《每日经济新闻》记者表示，超级智能可能在2027年出现。

雅各布发布在X上的警告推文轰动全球，浏览量已超1.6亿。

“AI对齐”概念的提出者内特・苏雷斯（Nate Soares）在接受《每日经济新闻》记者（以下简称每经记者）采访时表示，当前是管控AI风险的短暂黄金窗口，“现在AI已经足够聪明，但还没有聪明到能够隐藏自己的痕迹。”

他认为，对前沿AI实施监管可能比监管核武器更容易。

风险警报声声入耳，但以OpenAI、Anthropic 为代表的AI行业，已被万亿算力资本、产业链条与宏观经济深度捆绑。一场明知危险、却难以单方面停下的博弈，正在上演。http://t.cn/AXO7lXx2 （每经，嘉玛）