昇腾概念重大利好,华为又推出了黑科技
华为新出了AsyncFlow异步流式RL技术,核心思路:把“推理生成内容”和“模型训练”两套流程拆开分开跑,靠专门的数据、权重调度引擎打通两者,互不拖累。
处理超长文本问答场景,用华为昇腾服务器集群训练,整体处理速度直接提升3.81倍,硬件利用率大幅拉高;而且模型训练出来的效果、准确度和老方法完全一致,没有变差,同时兼容主流的大模型训练框架VERL。
大模型强化学习训练时,长短文本任务速度不均衡会造成大量芯片空转、算力浪费。华为这套异步训练技术把推理、训练分开运行,硬件利用率大幅提高,同等昇腾服务器能产出近4倍训练效率,大幅降低大模型训练电费、硬件耗时成本。
同等硬件投入下训练效率远超传统方案,企业采购昇腾硬件的性价比显著提升,会刺激国内大模型厂商、政务算力中心、行业AI企业加大昇腾设备采购,拉动昇腾整机、配套零部件订单增长。
近期光纤、光模块因英伟达机柜延期大幅下跌,市场对AI算力远期预期走弱;华为昇腾重大软件优化落地,证明国产算力持续迭代、具备独立核心竞争力,修复算力板块中长期信心。
海外英伟达产业链短期有预期扰动,但以昇腾为核心的国产自主算力持续释放技术利好,资金会持续重视具备国产替代属性的算力硬件、软件标的,形成结构性行情。
发布于 四川
