七秒鱼的luckygirl
26-09-18 09:57 微博认证:母婴育儿博主

#华为昇腾960#来了解下这个AI算力芯片
———华为昇腾960(AI算力芯片)
这是目前科技圈最受关注的“960”,是华为新一代AI算力底座的核心产品。
● 核心定位:面向十万亿参数大模型训练与推理的AI NPU芯片,分为训练版(960 DT)和推理版(960 PR)。
● 性能指标:单卡算力较上一代翻番,960 DT支持2 PFLOPS FP8算力,集成288GB HBM内存,访存带宽达9.6TB/s。
● 系统创新:配套发布的“昇腾960超节点”是业界首个采用NPO(近封装光学)技术的超节点,单节点支持4096张卡互联,通过自研Hi-ONE光引擎大幅降低功耗并提升系统可用度至99.8%。

发布于 江苏