老贾是我了
26-09-10 21:05 微博认证:数码博主

距离月底骁龙新芯片亮相没多久了,今天又放出了一个重磅升级——新一代 Hexagon NPU。这次升级明显是冲着智能体 AI 去的。[憧憬]

上代骁龙的端侧 AI 已经落地, 荣耀 Robot Phone、努比亚豆包手机、三星等智能体手机已经上市。这一代直接针对智能体改架构,简单看主要解决三个问题:

第一,AI 怎么算得更快。全新的 Element Accelerator 结合向量和标量单元,让大模型计算和智能体任务处理更高效。
第二,长上下文怎么跑得更顺。更大的共享内存让 context、KV-cache 等数据更多留在 NPU 内部,减少访问 DDR,长对话、多任务响应更及时。
第三,更大的模型怎么跑进手机。闪存加载 MoE,让 300 亿参数模型执行任务时只调用约 30 亿参数的“专家”,以更低功耗和内存需求获得更大规模模型的体验。另外还支持 INT2/INT4/INT8/FP8/FP16 多种精度,可以根据不同任务灵活平衡性能、功耗和模型效果。

可以看到,骁龙NPU这次升级相当顶啊!更大的模型、更长的上下文、更复杂的任务都能在端侧高效运行,未来手机 AI 也开始从“等你下指令”逐渐变成一个随时在线、能够主动协助你的智能伙伴。[点赞]#骁龙峰会#

发布于 江苏