投星资产 26-01-27 11:30
微博认证:深圳市前海朗马投星贸易发展有限公司 投资总监

巨头全都自己设计,推理芯片消耗巨大。

阿里肯定都用自家,字节也都启动设计。

第三方独立芯片厂,长期看都没有生意。

寒神华为全都没有,短期都是给个面子。

微软宣布推出自研AI推理芯片Maia 200,并称该芯片是“目前所有超大规模数据中心中性能最高的自研芯片”,旨在显著提升AI token生成的经济效益。Maia 200采用台积电3nm工艺制造,拥有超过1400亿颗晶体管,配备原生FP8/FP4张量核心,重新设计的内存子系统包含216GB HBM3e(读写速度高达7TB/s)和272MB片上SRAM,以及能确保海量模型快速高效运行的数据传输引擎。

Maia 200专为使用低精度计算的最新模型而设计,每块芯片在FP4精度下可提供超过10PFLOPS的性能,在FP8精度下可提供超过5PFLOPS的性能,所有这些都控制在750W的SoC TDP范围内。其FP4性能是亚马逊自研AI芯片AWS Trainium3的3倍多,FP8性能超过了谷歌TPU v7。

发布于 北京