液冷服务器今天大涨,原因是GTC可能发布的新芯片为LPU芯片,主要用于推理,和ASIC芯片类似,下方采用PCB板为高多层板,M9的Q布方案。
1)当前版本为V3,三星做的design service,alphawave提供serdes IP,V3的demo rack目前在面向GTC展出在设计。后续更新版本为V3 Ultra配套rubin ultra,V4配套Feynman。
2)V3版本的系统设计大面积采用现有技术,单rack 16个compute tray,每个compute tray上配有16颗LPU,2颗高端FPGA,1-2颗CPU,一个midplane板子,midplane前端接计算板,后端接少数铜缆。8个rack通过E/W网络串联,形成2048卡系统。FPGA负责2048卡系统内可配置串联通信的旁路功能。
3)V3U版本大概率是V3的合封版本,V4版本目前在考虑N3P工艺+CoWoS R来替代A16工艺,整体是成本考量为主。V3通过scale out网络与GPU集群通信,负责部分模型的decode功能。V3U/V4开始考虑在nvlink网络里与GPU共存。
#增量:液冷、PCB,FPGA,铜缆,光模块。
发布于 上海
