张岱樾
26-11-20 13:01 微博认证:AI博主

#微博视频号续航计划# Marvell 的 Dave Lazovsky 手持一个微型模块,该模块利用光子技术将高带宽内存(HBM + DDR)传输到距离 GPU 最远 50 米的地方。

这个模块可以放置在距离 GPU 50 米远的地方,而不是通常的 1.5 毫米。

首次,内存不再需要紧挨着计算单元,从而让 AI 集群能够共享海量容量,而无需被锁定在加速器封装内。

延迟保持在数百纳秒级别,足够接近以实现实际内存使用。
基本上,内存和计算现在可以在独立的轴线上扩展,而不是被锁定在一起 http://t.cn/AXTcy5BO

发布于 日本