向小田
26-09-17 22:46 微博认证:2024微博年度新知博主 科技博主

智谱说国产AI芯片最大的短板三点:
1、显存不足;
2、带宽不足;
3、算子不足。
今天华为发的960,HBM最大支持288GB(是支持,不是说就有,现在要确保HBM足够是个供应链问题),带宽9.6TB/s(还要看集群总体有效带宽),FP8算力2Pflops。
960在硬件上在努力解决显存、带宽的问题。
算子的问题,则是华为必须要解决的。好在他们说,AI可以帮助写算子。。。真是意想不到的收获。
以前CUDA生态,靠300万开发者。
现在AI生态,300万个agent帮你写算子一样达到效果。绕过软件生态壁垒了。
#华为发布全新AI计算架构#

发布于 北京