NVIDIA英伟达中国
26-07-01 19:10 微博认证:NVIDIA技术服务(北京)有限公司

在 #AI 基础设施# 部署完成后,#NVIDIA# 推理软件仍在持续降低 #Token# 成本。⚡

得益于软件优化,DeepSeek V4 在 NVIDIA Blackwell 平台上的性能在约一个月内提升了高达 5 倍,并将 Token 成本降低到之前水平的约五分之一。

依托与 NVIDIA #GPU#、CPU、网络和系统的协同设计,并在 #CUDA# 原生开源框架的加持下,NVIDIA 推理软件栈确保从发布首日起即可在 NVIDIA 上高效运行全新模型并进行突破与优化,并在部署后持续提升吞吐量与降低成本。

🔗点击链接,了解更多:http://t.cn/AXoLhoHZ

发布于 北京