【从平面到立体：玄戒O100如何用3D堆叠突破"内存墙"】端侧大模型跑不起来，瓶颈往往不在算力，而在带宽。8月24日的小米玄戒芯片技术沟通会上，玄戒O3旗舰SoC、玄戒O100 AI加速芯片、玄戒D100智驾芯片三芯齐发，其中#全球首个6nm晶圆级垂直堆叠芯片#玄戒O100，给出的解法是把芯片"竖起来" 。
这款6nm AI加速芯片采用3D Wafer on Wafer立体堆叠，通过Hybrid Bonding混合键合技术，将2层DRAM晶圆和1层NPU计算晶圆高温键合在一起，节点间距仅1.4μm——这一指标超越了云端AI芯片所使用的HBM内存。
超高密度的互联通路带来了16倍于主流手机的超高内存带宽，端侧大模型推理速度最高可达330 Token/s。根据规划，玄戒O100将于明年正式商用。