英伟达的 V100 差不多是 10 年前的产品了。CUDA 13 已经不再支持 V100。
今天有人发布了 Volta-Forever 项目,这是一个 CUDA 兼容层,还新增了 FP8 和 NVFP4 等 Tensor Core 指令。借助 Volta-Forever 可以让为 CUDA 13 构建的最新版 vLLM、SGLang 都可以直接在 V100 上跑起来。
github.com/nbald/volta-forever
发布于 北京
英伟达的 V100 差不多是 10 年前的产品了。CUDA 13 已经不再支持 V100。
今天有人发布了 Volta-Forever 项目,这是一个 CUDA 兼容层,还新增了 FP8 和 NVFP4 等 Tensor Core 指令。借助 Volta-Forever 可以让为 CUDA 13 构建的最新版 vLLM、SGLang 都可以直接在 V100 上跑起来。
github.com/nbald/volta-forever