小米在2026年8月24日发布了全球首颗6nm晶圆级垂直堆叠芯片玄戒O100,用1.22TB/s的内存带宽把端侧大模型的内存墙直接拆掉,让手机本地跑大模型首次接近云端速度。
一、内存墙的根源:算力增长快,数据搬运慢
剪刀差困境:过去二十年芯片算力增长约60000倍,而内存带宽仅增长约100倍,计算单元长期处于“等数据”的空转状态。
端侧痛点:主流旗舰手机内存带宽约60-80GB/s,运行3B参数大模型时,每次生成token都要反复读取全量权重,NPU再强也喂不饱数据。
本质矛盾:内存不是不够大,而是数据在计算与存储单元之间的搬运通道太窄、太远,这是冯·诺依曼架构的结构性短板。

二、玄戒O100的解法:把仓库盖在车间楼上
晶圆级垂直堆叠:用WoW工艺将两层DRAM晶圆与一层逻辑计算晶圆直接垂直键合,是业界首颗在6nm制程下实现该架构的芯片。
混合键合直连:采用Hybrid Bonding技术,通孔仅0.7微米、键合间距1.4微米,形成258万个物理连接节点,数据通路密度是传统方案数百倍。
近存计算效果:DRAM与NPU物理距离压缩到极致,内存带宽达1.22TB/s,是现有旗舰手机的16倍,已超过HBM3水平、逼近H100。

三、架构创新:让数据流转跟随任务变化
动态总线拓扑:自研XRING HB-Matrix高带宽矩阵总线,Prefill阶段用环形流转最大化复用,Decode阶段切换广播拓扑并行干活。
端侧实测表现:运行自研MiMo 3B模型时,端侧推理速度最高达330 Tokens/s,Prefill性能提升40%、Decode提升45%,功耗反而降低26%。
商用规划:该芯片已完成回片验证与原型机展示,计划2027年正式商用,将扩展至手机、汽车、机器人等全场景。