当前这个时代有了很多新的变化。Thinking Machines Lab,用仅仅半年多的时间就能from scratch 训练了1T参数量级别的开源大模型,直接就到了opus 4.6级别,——当然参考了同为开源模型deepseek的架构设计并且大规模蒸馏了kimi作为合成数据——,而在此模型发布之前,这个实验室被普遍认为是一群frontier lab的失意者,跟不上大模型节奏,只能用qwen跑跑rl、opd然后写两篇lora without regret,on-policy distillation之类的blog,然后再发布一些显得不合时宜交互toy model。
认准方向后半年的时间足够追赶,借助于(特别是咱们中国的)开源模型东风,熟悉训练流程、架构设计、infra、data有经验的ai researchers,从NVDA弄来足够的计算资源,——这一切似乎不是thinking machines lab所独有。
这大概率会带来示范效应,即大厂和frontier labs不满足于仅仅受制于两家闭源模型,特别是大模型最近趋势又再次越来越偏离通用性,走向专用coding & agent主导。于是,随着这些(现在看似稀缺但用量不断上升)experienced ai researchers 持续扩散,所以理论上全世界任何一个有同样规模的实验室都可以训练几T级别的大模型,这对计算资源的需求会更进一步增加,保守估计五年内,新增的frontier lab,美国有50家+中国和欧洲等地区50家,相当于现在增长了10倍之多,带来计算资源需求必然会同样增长。
按照这种估计,当前NVDA估值是5万亿,所以可以预见五年后市值大概是50万亿美元。老董认为,如果我们十四亿人,每个人十万美元专门贷款炒股,共计140万亿美元,五年后就变成了1400万亿美元,收益1260万亿美元,扣除贷款利息和正常损耗,保守估计收益1000万亿美元,每年给国家带来净收入200万亿美元,——这就是计划经济的伟力所在。
当然了,这都是老董叔一些非常浅显的个人拙见,欢迎大家积极雅正。
发布于 中国香港
