Rick老张有话说 25-06-03 12:00
微博认证:科技博主

【华为盘古大模型,真推出准万亿Ultra版?】 #华为# #超级AI工厂# #华为盘古大模型# 华为正式发布参数规模高达7180亿的盘古Ultra MoE模型。这个“准万亿级”大模型,全程在国产昇腾AI计算平台上完成训练,从架构设计到硬件适配没依赖任何海外技术。这意味着,中国首次实现超大规模AI模型的“全栈自主可控”。通过自适应流水掩盖、内存优化和算子重排,把万卡集群的计算利用率(MFU)从30%拉升至41%,在昇腾CloudMatrix 384超节点上,首次打通大稀疏比MoE强化学习框架,让模型后期优化效率提升3倍。这些数字背后,是国产算力从“能用”到“高效”的质变。@新浪人工智能 http://t.cn/A6eUlB7f

发布于 北京