德卤爱开车
26-07-05 07:35 微博认证:微博新知博主 汽车博主 微博原创视频博主

黄仁勋这段话核心就一个观点:推理时代让算力需求不是变便宜了,而是爆炸了。

拆开来看:

第一层,1,000倍,从生成式AI到推理式AI(理解→推理→规划→调用工具→执行),单次回答消耗的算力是生成式的1000倍。

不是同一件事变得更高效了,而是做的事完全不同了。

第二层,100倍,用AI的人也在暴增100倍。1000 × 100 = 10万倍的算力需求增长。

所以GPU用量在暴涨,连老GPU都在涨价。

四五年前卖出去的GPU,现在二手价格涨得比好酒还快,完全违背了大家当初"推理会越来越便宜"的预期。

最狠的一句在最后:推理时代没有让智能变便宜,而是让一个答案的算力成本涨了1000倍,再把这个昂贵的答案交给100倍的人去用。

任何还在按"推理成本会下降"来做AI预算的人,参照的那条曲线已经断了。

简单说就是:以前大家觉得AI算力会像摩尔定律一样越来越便宜,但黄仁勋的逻辑是,AI从"生成"转向"推理",性质变了,不是同一条曲线的延续,而是一条全新的、陡峭得多的曲线。

这是他在给市场讲为什么NVIDIA的GPU需求会持续井喷。

#人工智能# http://t.cn/AXoKtF9N

发布于 北京