【打破移动端带宽瓶颈,#全球首个6nm晶圆级垂直堆叠芯片#亮相】在端侧大模型的实际运行中,内存带宽始终是限制处理速度的核心瓶颈。8月24日发布的玄戒O100,作为小米自研的端侧AI加速芯片,通过架构创新呈现出类似于移动端HBM的技术特征,其每秒1.22TB的内存带宽,达到了现有旗舰手机带宽的近16倍。
玄戒O100采用了端侧AI近存计算架构,是全球首个在6nm制程下实现晶圆级垂直堆叠(Wafer on Wafer)的芯片。通过混合键合技术,负责逻辑计算的Logic die和负责存储的DRAM die在高温下实现垂直连接,通孔做到了0.7微米的超小尺寸,pitch做到了1.4微米,极高的连接密度带来了高带宽传输能力,模型输出达到每秒330 Tokens。
作为面向AI Agent时代的重要技术探索,玄戒O100将于明年正式投入商用。它将与AI旗舰SoC玄戒O3、智驾高算力芯片玄戒D100协同,在各自对应的场景中提供硬件支持,推动自研芯片生态的进一步成熟。http://t.cn/AXppJFXB
