华为Fellow、半导体首席科学家廖恒:#华为半导体领域新突破# #华为发表半导体韬定律#
训练场景和推理的预填充阶段,算力排第一,内存容量排第二,带宽排第三;推理的解码阶段,带宽排第一,容量排第二,算力掉到第三!
昇腾950有PR和DT两个版本,最明显的区别是算力和内存带宽的比例不一样,一个是265,一个是120;是各自为不同场景设计取舍的结果。
一个AI系统的综合性能,约等于超节点的规模,乘以单个芯片的规格,一个乘法,两个因子,单芯片的本事,和超节点能搭多大。
发布于 江苏
