福布斯中文网
26-11-18 17:15 微博认证:福布斯中文网官方微博

【摩尔线程完成Kimi K3.1 Pro万亿多模态训练链路验证,国产GPU适配再进一步】11月17日,摩尔线程宣布,其实验室已完成月之暗面Kimi K3.1 Pro模型的训练链路适配,并在双机16卡配置下连续完成400步训练验证,未出现数值溢出或异常中断。Kimi K3.1 Pro为2.8万亿参数MoE架构原生多模态模型,从架构特性看,其动态稀疏注意力与专家路由机制对多卡通信和显存管理构成较高门槛。

从厂商披露看,国产GPU与大模型适配节奏持续加快。据壁仞科技2026年中报,数家大模型企业使用壁砺千卡集群完成多模态预训练与强化学习,精度对齐国际产品;寒武纪2026年半年度业绩说明会披露,其训练侧推进DeepSeek、Qwen、混元等系列训练适配,向千卡、万卡集群场景延伸;百度在Create 2026上公布,昆仑芯P800全国产集群完成文心5.1重要版本训练,有效训练率97%;据海光信息2026年半年度材料披露,其DCU已适配400余款主流大模型,覆盖99%非闭源大模型。http://t.cn/AXTLnTua