#全球首个6nm晶圆级垂直堆叠芯片#小米这个O100确实挺夯,1.22TB/s带宽甚至超过了HBM3(单堆栈理论峰值带宽819 GB/s),当然,小米把性能堆到这种炸裂得远超常规智能手机(官方数据是=16倍)的level并不仅仅是PPT炫技,而是为了其更好地服务于其核心目标之一 ——端侧大模型的体验的!
这里有一个大前提:随着端侧大模型部署需求的大爆发,传统SoC的I/O带宽已难以承载日益增长的AI推理负载。So,需求催生创新突破,米子这套解决方案也应运而生!
为了达到高带宽AI加速目的,米子大胆用上了行业首款6nm Wafer on Wafer先进封装工艺,辅以Hybrid Bonding混合键合技术,实现业界领先的1.4微米键合间距。通过创新的Face-to-Face金属层直连架构,O100大幅缩短了DRAM与底层计算逻辑的物理距离(目前O100已获4项发明专利的授权,不出意外,这个数字还会持续增加,因为玄戒团队一共申请了15项专利)。
6nm Logic Die与2层DRAM Die的3D堆叠结构,数据连线从传统POP封装的96路扩展至28672路,实现了近300倍的数据通路提升。通过WoW 3D堆叠技术,玄戒O100将TSV(硅通孔)直径缩小至0.7微米。
并且还集成了玄武高带宽矩阵总线,让多核并行处理和动态路由与总线拓扑等Features成为现实,搭配风冷主动散热,小米自研的MiMo 3B本地模型推理速度能飙至330Token/s。
根据雷总最新定调,“这么好的芯”,肯定不光是大模型应用场景,它未来有望在手机端、汽车和机器人等全生态品类落地,咱们骑驴看唱本,走着瞧 ~
发布于 江苏
