春卷
26-09-23 04:34 微博认证:北京义远广告有限公司总编辑 数码博主

2026#骁龙峰会# 上,高通联合阶跃、无量火、江波龙,在第六代骁龙8超级至尊版平台,完成阶跃StepEdge‑Omni 30B‑MoE 300亿参数混合专家模型完整手机端侧部署,实现全链路本地端侧智能体助手,无需云端调用。

1. 硬件能力:该平台Oryon CPU、Adreno GPU、Hexagon NPU搭配LPDDR6内存,优化Transformer推理,NPU+GPU协同加速AI运算。

2. 各方优化:无量火Ember推理引擎把模型内存需求降低超50%;江波龙存算协同方案高效加载模型权重;实现预填充>330Token/s、解码>28Token/s,首词毫秒级生成,响应远快于云端API。

3. 实际能力:本地完成邮件解析、行程规划、日历、酒店航班安排、写邮件等办公智能体任务。

4. 意义:攻克大模型手机端侧部署痛点,推动低时延、隐私优先的端侧智能体大规模落地。

发布于 美国