华为发布业界首个采用NPO技术的昇腾960超节点。NPO听起来比较陌生,简单理解,就是把光互联能力放到更靠近芯片的位置,让算力卡之间的数据传输更快,同时降低功耗。昇腾960超节点可扩展至4096卡,5500个Hi-ONE光引擎能够替代原本需要的4.8万颗800G光模块,功耗降低超过550千瓦。我觉得这次发布真正重要的地方,不是又把多少张卡连接在一起,而是AI算力竞争正在从比拼单颗芯片,转向比拼整套系统效率。大模型参数越来越多,卡与卡之间的通信很容易成为瓶颈,芯片性能再强,数据传不过去也发挥不出来#华为汪涛发布业界首个NPO超节点#
发布于 山西
