提拉米苏过 26-04-25 11:56
微博认证:屯采(上海)供应链有限公司 业务主管 投资内容创作者 历史博主

国产算力芯片爆发前沿(他怒了)
dpv4版本发布跟华为昇腾芯片适配实现了深度协同。
中国大模型的新生态今后将在3个方面实现共振。未来中国AI的机会也将在这里。
1)芯片适配
V4是模型,昇腾是芯片,几乎所有的模型他的算力都来自于芯片,但是芯片和模型想要协同配合看似简单其实不然,所以这次V4和昇腾芯片能实现深度协同,意味着V4能毫无障碍的跑在昇腾芯片上,我们以前出大模型新版本的时候直接跑在英伟达的卡上,中间会出一个补丁在去适配国产算力卡,但是这次直接绕过中间商,直接适配昇腾芯片。
2)基础设施开源
怎么理解基础设施开源?“cuda生态”这个是黄仁勋以及英伟达最核心的部分。比如操作系统,工具,语言等等。如果说模型只是开放了这个权重,那么大家在做这个模型的时候还是要用到英伟达。开源基础设施就是把最底层的工具分享出来,吸引大家都来用然后通过标准去构建一个更稳固更长期的竞争优势。
3)压低算力成本
V4的发布大家讨论的不是这个模型本身,而是在热议算力的便宜,很多人在对比小龙虾算力的输出金钱上毫不夸张的说就是金钱的碎纸机。当DPV4和华为携手后给了一个非CUDA生态的解决方案,结果又便宜,又好用。这个时候在谈生态迁移,让大家把原本在英伟达转移到国产芯片上,就有资本了。今后假以时日国产算力卡出海。那么这个想象空间是巨大的。

发布于 上海