科技行者 26-03-06 20:54
微博认证:科技行者官方微博

【硬核实拍高通AI200机架系统,单卡可跑3500亿参数AI模型,支持扩展至1万亿参数模型】这台在MWC展出的高通AI200机架系统,不卖单卡,而是以整柜交付:计算、内存、网络全打包,专门为AI推理而生。

看点5️⃣连击:

1、工程架构:140kW功率,全液冷散热;无缆线设计,PCB背板直连,可靠性更高、维护更省心。

2、运维效率:模块化抽屉式计算层,故障可热插拔处理,其他任务不中断,停机时间更少。

3、内存杀手锏:单柜43TB容量,单卡768GB;一张卡可跑3500亿参数模型,16卡可上探至万亿/十万亿级。

4、软硬一体:配套AI基础设施管理套件,像“控制中枢”一样做机架监控、告警与配置。

5、路线图也很清晰:AI200(2026)→ AI250(2027,性能上台阶)→ 数据中心CPU(2028)。高通的数据中心版图正在成形。 http://t.cn/AXVLXoUX

发布于 中国台湾