硅谷陈源博士
26-08-14 06:33 微博认证:美国佐治亚理工学院计算机科学博士,NVIDIA(英伟达)主任工程师

投资圈和业界一直担心,英伟达不断推出性能更强的新一代GPU,会让旧的GPU在两三年内就失去价值,从而影响AI基础设施公司的利润。其实,GPU的技术虽然更新很快,但寿命并没有那么短。

训练最前沿的大模型,可能确实需要最新和性能最强的GPU。但不少AI负载,包括一些推理、数据处理、仿真、Fine-tuning等,并不一定需要最先进的GPU。

CoreWeave在最近的财报会上透露,他们签了一份合同,将英伟达在2020年就推出的A100 GPU出租给用户,直到2029年。http://t.cn/AXNjw3Ck

我们内部也有A100集群还在使用。

#人工智能基础设施##GPU使用寿命#

发布于 美国