源深路炒家
26-09-13 09:12 微博认证:投资内容创作者 AI博主

我对 Dario 这套“放缓前沿模型发展”的叙事,还是会多保留一层警惕。

一方面,这本质上有很强的地缘竞争含义。美国现在已经进入更接近 RSI 的阶段,AI 开始反过来加速 AI 研发,领先者一旦进入这个正反馈,和还没进入这个阶段的追赶者之间,差距可能会越拉越快。此时再提出“锁算力”“限制前沿训练速度”,客观效果就是尽可能把现有领先优势固化下来,延长美国相对中国的技术窗口。

另一方面,这对头部模型公司的商业模式其实也未必是坏事。现在最烧钱的是不断训练下一代 frontier model,如果行业能够协调降低训练竞赛的强度,让一代模型的生命周期从半年拉长到一年甚至更久,那么训练端的资本开支压力会明显下降,而推理侧仍然可以持续高速增长。成熟模型的 inference 本身完全有机会做到很高的增量毛利,长期甚至可能达到 80%—90% 的水平。对准备上市的 Anthropic 来说,这种“训练降速、推理变现”的结构,反而有利于改善利润率和自由现金流。

所以中国不能完全陷入这套叙事里。

最关键的问题是:所谓 independent evaluator 到底是谁?监管标准是谁制定?中国有没有参与标准制定、模型评估和验证机制的权利?

如果所谓“独立监管”最终只是美国实验室、美国第三方机构和美国政府内部形成的一套规则,然后再要求其他国家遵守,那它本质上就不只是安全治理问题,也是产业竞争规则问题。

更现实的问题是可验证性。

如果中国真的按照协议降低训练强度,而美国几家实验室表面上遵守 pacing,内部却通过更高效的算法、更强的 agent、更多隐性 compute,继续加速 AI-for-AI research,中国怎么验证?

反过来也一样。

RSI 时代最危险的地方就在这里:只要任何一方偷偷领先几个月,优势都可能迅速通过递归自我改进被放大。因此,“大家一起减速”听起来很美好,但只要没有真正对等、透明、可验证的机制,就很容易变成领先者要求追赶者共同限速。

所以我觉得中国应该支持 AI 安全和全球治理,但前提必须是规则制定权、验证权和监督权真正对等。不能别人已经跑到前面了,然后突然告诉你:现在为了全人类安全,大家都别跑了。 http://t.cn/AXKI1iFh

发布于 上海