新智元
26-10-19 11:20 微博认证:新智元官方微博

一张96GB显存的专业卡卖13.8万元,一套128GB的DDR5内存逼近2.5万元。

连一向淡定的库克,都在财报会上把这轮内存暴涨形容成「百年一遇的洪水」。

离谱的是,硬件越贵,AI公司越往本地端猛砸。OpenAI刚被曝一口气买下数万台Mac,专门用来训练能自己操作电脑的Agent。

原因很简单,24小时连轴转的Agent如果全搁在云端跑,光Token费就能把账单烧穿,大模型往端边搬家已经是明牌。

但把芯片和内存买回来,只算交了半张门票。

要把大模型做成一台稳定好用的终端产品,模型适配、框架打通、性能调优,如果有现成的工具和经验,开发团队就不用样样从头摸索。

今天的生态合作伙伴大会上,后摩智能宣布,整套AI生态软件栈将全面开源!