低成本模型竞争开始了,opanai刚推出了o3-mini模型,通过蒸馏和减枝技术,大幅降低了模型的推理和部署成本。从技术文档描述看,大致可以将成本降低三分之二以上,极限压缩情况下,成本可以降低90%。
ds的出现,成功的将行业的竞争拉往低成本推理方向。从逻辑上,这个确实不利于英伟达。
目前看,有利的方面有三:
1: 利好边缘计算:包括适合于边缘计算的cpu,以及aiot设备。
2: 利好手机。(这也能够解释苹果股价最近的上涨)
3: 利好机器人,智能驾驶。
补充:训练阶段的成本目前看还没发降低,依旧得依靠全模型以及大规模的数据。
发布于 日本
