聊了一圈
目前国内AI芯片,十来家,能够稳稳达到H20性能的商用级别的推理芯片确实还不多……
华为昇腾910C在大多数场景能够超过H20,长序列场景差一点点,需要特调,结合系统性方案才能达到,整体是70-80%的H100……
阿里的PPU也比较确定[二哈],只是还没有原生FP8……
寒武纪590到不了……沐曦C500到不了……
预计下半年会有几个新的芯片能到这个水平……
Tips:以上芯片均非大陆代工[doge]
发布于 广东
聊了一圈
目前国内AI芯片,十来家,能够稳稳达到H20性能的商用级别的推理芯片确实还不多……
华为昇腾910C在大多数场景能够超过H20,长序列场景差一点点,需要特调,结合系统性方案才能达到,整体是70-80%的H100……
阿里的PPU也比较确定[二哈],只是还没有原生FP8……
寒武纪590到不了……沐曦C500到不了……
预计下半年会有几个新的芯片能到这个水平……
Tips:以上芯片均非大陆代工[doge]