【芯展速 AI90 固态硬盘显存化方案亮相:首 Token 延迟缩短至 1/50】其将高性能 SSD 纳入 GPU 显存体系,让 KV Cache 卸载到更大容量的固态硬盘上,形成 HBM + DRAM + SSD 三级存储体系。
【芯展速 AI90 固态硬盘显存化方案亮相:首 Token 延迟缩短至 1/50】其将高性能 SSD 纳入 GPU 显存体系,让 KV Cache 卸载到更大容量的固态硬盘上,形成 HBM + DRAM + SSD 三级存储体系。