【预填充吞吐超 330 Token/s：高通携手阶跃等为第六代骁龙 8 超级至尊版端侧适配 300 亿参数 AI 模型】高通携手阶跃、无量火及江波龙，基于第六代骁龙 8 平台，通过软硬件协同优化，让 300 亿参数 MoE 模型在手机端流畅运行。预填充吞吐超 330 Token / 秒，解码超 28 Token / 秒，无需云端即可完成……
IT之家