梁赛 25-08-18 12:33
微博认证:AI博主

在不考虑电费的情况下。
中美AI芯片在对等算力下的效率(tokens/TFLOPS)对比
昇腾384与英伟达Hopper系列对比
昇腾384在预填充和解码效率均强于英伟达H系列
预填充阶段,昇腾384比H100强18%,是H800的2倍多!
解码阶段,昇腾384效率比H800强(+39%)。

有人问为什么没有H20,因为H20在这里还没有资格上桌PK。
H100阉割一刀,卖给中国就叫做H800
H800再阉割几刀就是H20
所以H20的性能在H系列里是最弱。

H20只能用来推理(运行大模型),不能用来训练新的大模型。

发布于 广东