投资圈和业界一直担心,英伟达不断推出性能更强的新一代GPU,会让旧的GPU在两三年内就失去价值,从而影响AI基础设施公司的利润。其实,GPU的技术虽然更新很快,但寿命并没有那么短。
训练最前沿的大模型,可能确实需要最新和性能最强的GPU。但不少AI负载,包括一些推理、数据处理、仿真、Fine-tuning等,并不一定需要最先进的GPU。
CoreWeave在最近的财报会上透露,他们签了一份合同,将英伟达在2020年就推出的A100 GPU出租给用户,直到2029年。http://t.cn/AXNjw3Ck
我们内部也有A100集群还在使用。
#人工智能基础设施##GPU使用寿命#
发布于 美国
