机海风云
26-05-22 16:47 微博认证:微博原创视频博主 数码博主 头条文章作者

华为Fellow、半导体首席科学家廖恒:#华为半导体领域新突破# #华为发表半导体韬定律#
训练场景和推理的预填充阶段,算力排第一,内存容量排第二,带宽排第三;推理的解码阶段,带宽排第一,容量排第二,算力掉到第三!

昇腾950有PR和DT两个版本,最明显的区别是算力和内存带宽的比例不一样,一个是265,一个是120;是各自为不同场景设计取舍的结果。

一个AI系统的综合性能,约等于超节点的规模,乘以单个芯片的规格,一个乘法,两个因子,单芯片的本事,和超节点能搭多大。

发布于 江苏