8月24日小米玄戒芯片技术沟通会上亮相的玄戒O100原型机,用每秒最高330Tokens的端侧推理速度和1.22TB/s的超高带宽,展示了与骁龙、天玑AI芯片截然不同的端侧大模型思路。

  一、原型机定位与核心体验

  形态与配置:玄戒O100原型机是拿小米18 Fold魔改的技术验证机,采用玄戒O3与O100双芯协同,取消影像模组、主板全部重排,并加入最高10瓦功率的主动风冷散热。

  实测表现:现场在完全断网、不插卡状态下运行Xiaomi MiMo端侧模型,实测推理速度达每秒295至330Tokens,首Token延迟约0.5秒,被媒体形容为“零等待”。

  

  二、与骁龙、天玑AI芯片的本质差异

  定位不同:骁龙、天玑的AI能力集成在手机SoC内;玄戒O100则是专为端侧大模型设计的高带宽AI协处理器,脱离传统SoC的I/O带宽限制。

  带宽优势:O100采用行业首发的6nm晶圆级垂直堆叠与混合键合技术,键合间距1.4微米,内存带宽达1.22TB/s,是主流旗舰手机的近16倍,直击“内存墙”瓶颈。

  架构创新:通过将双层DRAM存储晶圆与NPU计算晶圆垂直键合,实现近存计算,单位面积互联数量比传统PoP封装高出数百倍。

  三、技术探索与量产节奏

  纯粹的实验性质:该原型机砍掉摄像头、重量偏大、风扇有噪音,明确不会量产,只为验证芯片上限。

  商用规划:玄戒O100预计2027年正式商用,未来将用于手机、AI桌面终端、机器人等设备;搭载玄戒O3的量产机型小米18 Fold则于今年9月发布。