梁赛 25-03-25 10:13
微博认证:AI博主

阿里巴巴集团主席蔡崇信在香港举行的汇丰全球投资峰会上表示,开始看到人工智能数据中心建设出现泡沫苗头。

不同意,长远看(拉长到10年看)是远远不够的,不仅数据中心不够,电力能源也不够。

如果非要说泡沫, 可以理解成训练用的GPU服务器会过剩(尤其是美国那边的数据中心),而不是推理类GPU服务器。这两种服务器的区别主要在于GPU计算能力和显存的配比。现有的大模型架构在推理运行时对GPU芯片的计算能力要求并不需要太高。

智能体的发展带来的推理类的GPU服务器需求是指数级增长的。

发布于 广东