黄仁勋这段话核心就一个观点:推理时代让算力需求不是变便宜了,而是爆炸了。
拆开来看:
第一层,1,000倍,从生成式AI到推理式AI(理解→推理→规划→调用工具→执行),单次回答消耗的算力是生成式的1000倍。
不是同一件事变得更高效了,而是做的事完全不同了。
第二层,100倍,用AI的人也在暴增100倍。1000 × 100 = 10万倍的算力需求增长。
所以GPU用量在暴涨,连老GPU都在涨价。
四五年前卖出去的GPU,现在二手价格涨得比好酒还快,完全违背了大家当初"推理会越来越便宜"的预期。
最狠的一句在最后:推理时代没有让智能变便宜,而是让一个答案的算力成本涨了1000倍,再把这个昂贵的答案交给100倍的人去用。
任何还在按"推理成本会下降"来做AI预算的人,参照的那条曲线已经断了。
简单说就是:以前大家觉得AI算力会像摩尔定律一样越来越便宜,但黄仁勋的逻辑是,AI从"生成"转向"推理",性质变了,不是同一条曲线的延续,而是一条全新的、陡峭得多的曲线。
这是他在给市场讲为什么NVIDIA的GPU需求会持续井喷。
#人工智能# http://t.cn/AXoKtF9N
发布于 北京
