#全球首个6nm晶圆级垂直堆叠芯片# 移动端也用上HBM级内存了?[哆啦A梦害怕]
8月24日小米正式发布玄戒O100,是全球首个6nm制程下实现晶圆级垂直堆叠的AI加速芯片。我翻完参数第一反应是,这技术也过于先进了,1.22TB/s的带宽已经超过HBM3水平,完全就是移动端HBM,能称作“mHBM”?
这个带宽是现有旗舰手机的16倍,已经接近H100的水平。端侧大模型最核心的内存带宽瓶颈直接被捅破,可以说这颗芯片开启真正的端侧大模型时代。
WoW晶圆级堆叠本来就是端侧大模型的根技术,万万没想到第一个落地做出来的居然是小米。
这颗芯片计划明年商用,到时候端侧跑大模型的体验估计会有质的飞跃。[流鼻血]
发布于 广东
