冰糖橙帆总
26-11-12 23:02 微博认证:浙江致帆文化传媒有限公司 CEO 人文艺术博主

正经点说吧,老黄出事利好avgo和amd,后者有个中国的封装供应商通富,厂子在东南亚。

对半设利好但利空上游的国模(买不到nvda的卡了)。

寒武纪和华为的卡很拉,集群MFU上不去的话,推理成本亏死(微软的MIFA就是例子)。

推理卡最重要的组件还是HBM,但长鑫现在连HBM3都量产不了(良率不行,良率不仅和前道设备有关还和检测有关,科磊 AMAT 东京电子 拉姆 泛林 阿斯麦的设备都对中国限制出售),短期解决不了,海力士都量产HBM4E了。

解决不了存储墙问题,推理成本就是死路一条(靠kvcache优化机制不能完全解决),更别说MFU了,后者还涉及网络通信和调度。

发布于 英国