一张96GB显存的专业卡卖13.8万元,一套128GB的DDR5内存逼近2.5万元。
连一向淡定的库克,都在财报会上把这轮内存暴涨形容成「百年一遇的洪水」。
离谱的是,硬件越贵,AI公司越往本地端猛砸。OpenAI刚被曝一口气买下数万台Mac,专门用来训练能自己操作电脑的Agent。
原因很简单,24小时连轴转的Agent如果全搁在云端跑,光Token费就能把账单烧穿,大模型往端边搬家已经是明牌。
但把芯片和内存买回来,只算交了半张门票。
要把大模型做成一台稳定好用的终端产品,模型适配、框架打通、性能调优,如果有现成的工具和经验,开发团队就不用样样从头摸索。
今天的生态合作伙伴大会上,后摩智能宣布,整套AI生态软件栈将全面开源!
