#全球首个6nm晶圆级垂直堆叠芯片# 说真的,小米玄戒O100这哪是手机芯片,这就是移动端的HBM!1.22TB/s的内存带宽是什么概念?比现在旗舰手机整整快了16倍,这水平都摸到H100的边了,甚至超过了HBM3的规格,关键它居然能塞到移动端里,这技术真的过于先进了!以前总说端侧大模型跑不起来,本质就是内存带宽卡脖子,数据喂不进去算力再强也白搭。小米直接掏出WoW晶圆级垂直堆叠技术,把NPU和专用内存面对面叠在一起,258万个键合节点打通垂直数据通路,直接把内存墙给干碎了。万万没想到,第一个把移动端HBM做出来的居然是小米。有这颗O100打底,端侧大模型算是真正摸到了实用化的门槛,以后手机本地跑几十上百亿参数的大模型,真的不是梦了。
发布于 福建
