tombkeeper
26-11-21 22:54 微博认证:2025微博新锐新知博主 科技博主

英伟达的 V100 差不多是 10 年前的产品了。CUDA 13 已经不再支持 V100。

今天有人发布了 Volta-Forever 项目,这是一个 CUDA 兼容层,还新增了 FP8 和 NVFP4 等 Tensor Core 指令。借助 Volta-Forever 可以让为 CUDA 13 构建的最新版 vLLM、SGLang 都可以直接在 V100 上跑起来。

github.com/nbald/volta-forever

发布于 北京