Mikiko
26-06-08 08:11 微博认证:娱乐博主

#华为昇腾910C完成训练#华为昇腾910C完成训练.依托昇腾910C国产AI算力集群,成功完成了1.6万亿参数大模型DeepSeek-V4-Pro的全参数后训练。该模型采用混合专家(MoE)架构,训练时所有专家需同时学习并频繁同步信息,数据交换量是普通模型的几十倍
生态闭环与持续探索:模型主动适配昇腾系统,形成了从模型到算力的软硬协同闭环。下一步,团队将持续优化算力集群性能,重点攻坚512K至1M超长上下文训练能力,并逐步打通强化学习(RLHF)后训练闭环。

发布于 日本