#微博视频号续航计划# Marvell 的 Dave Lazovsky 手持一个微型模块,该模块利用光子技术将高带宽内存(HBM + DDR)传输到距离 GPU 最远 50 米的地方。
这个模块可以放置在距离 GPU 50 米远的地方,而不是通常的 1.5 毫米。
首次,内存不再需要紧挨着计算单元,从而让 AI 集群能够共享海量容量,而无需被锁定在加速器封装内。
延迟保持在数百纳秒级别,足够接近以实现实际内存使用。
基本上,内存和计算现在可以在独立的轴线上扩展,而不是被锁定在一起 http://t.cn/AXTcy5BO
发布于 日本
