新智元
26-10-22 13:20 微博认证:新智元官方微博

Anthropic CEO长文硬刚!自曝雪藏Mythos 4个月,为AI安全自断财路

凌晨的硅谷,空气里满是火药味。

就在刚刚,Anthropic掌门人达里奥罕见地在X上破防。

他亲自扔出一篇近千字的硬核长文,正面回击外界对Anthropic最诛心的一句质疑——

你们所谓的AI安全,是不是只是一块用来疯狂敛财的遮羞布?

一个已被训完的Mythos级高级模型,被雪藏了大约四个月,才允许公众触碰。

🧠主要观点

这一次,把达里奥逼出原形的,是AI安全领域知名调查员Nathan Calvin。他拉出了一张长长的清单,刀刀见血地细数了Anthropic过去一年的「九宗罪」。

豪掷5000亿美元算力大单、秘密组建自研芯片团队,让Claude接管内部26%的研发任务「自我迭代」、悄悄修改安全承诺......

达里奥首次公开承认:早在今年2月,Anthropic就已经训练出了「Mythos级别」的高阶模型。直到今年6月安全护栏到位,这款模型才正式向公众开放。

整整4个月的领先窗口期,在分秒必争的AI竞赛中,被他们自己亲手掐断了。

8月的更新在公司测试中将生物相关回退减少了约85%,但仍保留对双重用途研究的限制。

今年6月,他又公开主张,政府应拥有阻止模型发布的权力。

就在几天前,Anthropic宣布,拟将公司5%的股份投入公共利益基金,尚待股东批准。

今天,Anthropic愿意等四个月。下一次,面对更强的模型、更大的订单,还能不能等?

#科技先锋官#