Groq创始人在一场深度对话讲透了他的AI经济学
9 月底 Ross 和 Harry 的那 90 分钟对话,放在今天回看之所以“意味深长”,不是因为他提前预言了 Groq 的归宿,而是他在对话里反复用一连串极其具体的例子,把一个抽象命题钉死:AI 时代最大的竞争,不再是模型本身,而是算力供给链条——谁能更快、更确定地交付算力,谁就能把 tokens 变成收入,把供应链变成权力。
Ross 的表达方式很工程师:不堆形容词,只给你一条条可验证的因果链;而每条因果链后面,都配了一记“例子重锤”。
1)算力不是成本,是收入上限:Rate limit 是最真实的财务报表
Ross 一上来就把讨论从“模型能力”拉回到“算力瓶颈”。他问的不是“模型还差什么”,而是“OpenAI / Anthropic 最大的抱怨是什么?”——Rate limits。
用户拿不到足够 tokens。拿不到 tokens,就无法消费;无法消费,就无法收费。
所以“算力 → tokens → 收入”,不是推测,是当下的业务现实。
这个判断之所以有力,是因为他紧接着拿了一个当周发生的例子来佐证:OpenAI 推出限量高价产品。Ross 的解读很直接:他们在做一个实验——当你愿意投入更多算力给一小撮高价值用户,产品质量会提升到什么程度、用户付费意愿能提升到什么程度。
而这背后是他最重要的区分:
SaaS 的质量由工程师迭代决定;
AI 的质量可以用钱买——比如跑两个实例选更好答案,或者给高价值客户更多算力让结果更好。
这段话把“算力”从基础设施,直接推到产品能力旋钮的位置:你愿意拧多大,结果就能变多好,收入也能跟着改写。
2)速度不是体验细节,是“多巴胺经济学”:100ms 能买到转化率
很多人觉得“AI 回复慢几秒也无所谓”,Ross 说这判断 100% wrong。他没有用“体验很重要”这种空话,而是用消费品利润率做了一个凶狠类比:
按利润率排序:烟草最高,其次嚼烟,再是软饮料,再往下是水。
核心变量是什么?成分作用于人体的速度。多巴胺循环越快,黏性越强,利润率越高。
这不是为了耸人听闻,而是为了把“响应速度”从工程指标,翻译成一眼能懂的商业规律:越快,越上瘾,越赚钱。
然后他又补了一记互联网时代的铁证:
每 100ms 的加速,带来约 8% 的转化率提升——Google 和 Facebook 早年就验证过。
最妙的是,他还讲了一个很具画面感的“反问”场景:Groq 早期做速度优化时,有人看演示视频问他:
“为什么需要比你阅读速度还快?”
Ross 反问:
“那为什么网页加载需要比你阅读速度还快?”
这句反问的作用,是把“速度的价值不符合直觉”讲透:人类不擅长判断什么真正影响 engagement,但早期互联网公司已经把这件事用数据打穿了。
3)为什么 hyperscalers 像醉酒水手一样花钱:不是 ROI,是“别被踢出局”
当 Harry 问 AI 是否泡沫,Ross 的回答很典型:如果一个问题反复问却得不到答案,也许该换问题。与其问“泡沫不泡沫”,不如问“聪明钱在做什么”。
他给的不是宏大叙事,而是两个极具体的例子:
例子一:微软部署了一大批 GPU,但宣布不会把它们放到 Azure 上出租,因为自己用比租出去赚更多钱。
这句话把“GPU 是资产/成本”直接变成“GPU 是产能/利润中心”——当你拥有模型和分发渠道时,算力的最佳用途不是卖铲子,而是自己挖金子。
例子二:他在阿布扎比参加高盛峰会,问了一屋子管理 100 亿美元以上资产的基金经理:
“你们有谁 100% 确信 10 年后 AI 做不了你们的工作?”——没有人举手。
这一幕很重要:它解释了 Ross 那句著名比喻——spending like drunken sailors。因为大厂面对的不是“这个项目回报率 12% 还是 18%”,而是“我还能不能继续当平台”。另一种选择是“被完全踢出局”。
他还点破一个自我强化循环:要留在 Mag7,你必须持续投入;而股价之所以高,部分因为你在前七名里——越在前七,越能拿更低成本的资金砸下去,越不可能掉队。
4)自研芯片为什么大概率失败:最难的不是造出来,是跟上趋势+生态
Harry 问 OpenAI 会不会做自研芯片,Ross 的答案很冷:
“如果我今天创业,不会做芯片。船已经开走了。”
他并没有用“芯片太难”糊弄,而是给了三层递进,并且每层都配了能让人记住的例子。
第一层:周期
从设计到投产,完美执行也要三年;英伟达通常 3–4 年,只是能并行多条产品线。对新玩家而言,三年后市场可能已经换了题。
第二层:失败概率
他抛出一个极残酷的数据:首次流片成功率只有 14%。更生动的是他讲自己:
“我们做 V2 芯片时,已经预约好了 respin 的时间。结果第一次就成功了,我们自己都震惊。你不应该期待这个。”
这不是吓唬人,是在说:你做芯片,必须把失败当默认选项排期。对创业公司,这种时间和现金流的波动,足以致命。
第三层:真正难的是软件与趋势
Ross 说,大家以为硬件最难,做了才知道软件更难;再做下去才发现,最难的是跟上市场演进方向。因为“硬件彩票”存在:大家会为现有硬件设计模型。
这里他引用了一个非常经典的故事,几乎是整期节目最狠的“现实主义一击”:
Google 当年建了 10000 台 AMD 服务器。Ross 去参观实验室,看到工程师把服务器从机架上拉出来,把 AMD 芯片拔下来,扔进垃圾桶。
重点不是 Google “讨厌 AMD”,而是:
大家都知道那一代 Intel 会赢。那 Google 为什么还要建 10000 台 AMD?
因为他们要拿这个去逼 Intel 给折扣。
这故事把“自研/多供货商策略”的本质讲得太清楚:很多时候,做芯片不是为了打败英伟达,而是为了议价权与命运掌控。
5)英伟达真正护城河:不是 CUDA,是 HBM 的配给权
很多人把英伟达护城河归因于 CUDA。Ross 的说法更尖:CUDA 对训练更关键,对推理不成立(至少护城河形态不同)。真正的护城河在供应链——尤其是 HBM。
他用一组极具冲击力的数字和场景,解释什么叫“monopsony(买方垄断)”——你是唯一的大买家,所以你控制供给。
例子一:GPU die 产能不是问题
他甚至说,GPU 用的工艺和手机芯片类似,如果英伟达想,一年可以造 5000 万颗 GPU die;但今年可能只造 550 万颗。为什么?因为瓶颈在 HBM 产能和 interposer/封装等环节,而不是裸 die。
例子二:配额故事
当 hyperscaler 对英伟达说:“给我 100 万颗 GPU。”
英伟达说:“抱歉,还有其他客户。”
hyperscaler 说:“没关系,我自己造。”
然后英伟达就“神奇地”找到了货。
这个故事很粗暴,但它想说明的点非常精准:自研芯片真正给你的,不是芯片性能,而是“英伟达无法告诉你配额是多少”的那种命运自主。
例子三:系统成本的放大效应
Ross 还给了一个特别适合拿来讲投资逻辑的算账方式:
如果芯片只占系统总成本的 20%,芯片性能提升 20%,整个系统价值提升 20%;但芯片成本只增加 20%×20%=4%。
这解释了为什么英伟达“只好一点点”也能赢家通吃:在系统经济学里,小优势会被放大成巨大的价值差异。
6)Groq 的真正差异化:不是“更快”,是“6 个月交货”让客户当场转向
如果说前半段 Ross 在讲“为什么英伟达强”,后半段就是在讲“Groq 为什么能成为大客户眼里的硬资产”。而这里最关键的,不是性能参数,而是交付周期。
Ross 讲了一个你文章里最戏剧化的场景:
他和一家 hyperscaler 的基础设施负责人开会,聊速度、聊成本、聊各种优势,对方都不太在意。
但当 Ross 说出那句:
“你给英伟达下单,要提前两年付款才能拿到货。给我们下单 100 万颗 LPU,6 个月后第一批就开始交货。”
对方直接暂停了对话,只想深挖这一点。
这一个场景,把“供给确定性”在当前周期的价值讲到极致:性能再好,拿不到货等于零;能更快交付,就等于抢到了时间维度的垄断。
然后他解释了 Groq 为什么能做到这一点:不依赖 HBM,走片上 SRAM。
当然,SRAM 比 DRAM 贵,这是外界质疑最多的地方。Ross 不躲,直接给“贵”的事实:SRAM 每 bit 可能贵 3–4 倍,再叠加先进制程,综合可能贵 10 倍。
但他把视角从芯片拉到系统,抛出另一个极震撼的对比:
Groq 跑一个像 Kimi 的模型,用 4000 颗芯片;
GPU 跑同样的模型可能只用 8 颗。
听起来 GPU 更省,但代价是:GPU 那边可能需要500 份模型拷贝,消耗 500 倍内存容量。
所以即便 SRAM 每 bit 贵 10 倍,500 倍的内存浪费一抵,系统总成本反而可能更低。
他还补了一个近景例子来证明供给稀缺到什么程度:
两周前有客户来找他们,要 5 倍于 Groq 全部产能的算力。
hyperscaler 拿不到,任何人都拿不到,Groq 也给不了。
“没有人能给。”
这句话很重:市场不是“有没有需求”的问题,而是“产能根本不够”的问题。在这种背景下,“6 个月交货”就是战略级资产。
7)欧洲与能源:他用挪威风电利用率把“欧洲不缺电”讲成画面
Ross 对欧洲的诊断也非常“举例式”。他说欧洲不是资源问题,是策略问题,是对风险的理解方式不同。他把风险拆成两类:
commission:做错事的风险
omission:错过机会的风险
他认为美国更怕 omission(错过),欧洲更怕 commission(做错),于是欧洲更倾向用立法(本地化、隐私)去降低“别人控制我”的风险,但解决不了“我没有足够算力”的问题。
然后他抛了一个极有画面感的例子:
挪威风力利用率 80%,配合水电,仅一个国家就可能提供接近美国级别的电力潜力。
再加上他提到的“data embassy”设想(与能源国合作,在主权监管框架下用对方能源),其实是在说:欧洲不是没牌,而是不敢打牌。
他提核能时也用了一个让人皱眉的例子:
在美国建核电站,许可证费用是电站本身的 3 倍。
这不是为了喷监管,而是在说明:AI 时代的算力上限最终回到制度成本与能源政策。
8)Vibe Coding:4 小时上生产、零人类代码,是“未来已来”的那一刻
Ross 讲 vibe coding,没有停留在“大家都能写代码”的口号,而是给了两个极能传播的例子。
例子一:客户来访提需求 → Ross 写 high-level spec → 4 小时上线生产
没有一行人类写的代码,没有人类 debug,全靠 prompting,甚至通过 Slack 做代码 commit。
这例子想表达的不是“省人”,而是:当迭代速度从周/月压缩到小时,竞争维度被重写——你可以赢得对手根本来不及赢的单子。
例子二:开连锁咖啡店的朋友从没写过代码,用 vibe coding 做了库存管理工具,还能自己修 edge case
员工说这里不 work、那里没处理,他就一条条 prompt 修掉。
这把“编程像读写一样普及”的比喻落到了现实:以后很多岗位不是“会不会编程”,而是“能不能把需求清晰表达给机器”。
9)“我们不做模型”与“我们可能被客户吞并”:他自己提前写下结局
访谈末尾那句“我们不会做模型”,表面是在讲定位,本质是在讲平台信任:
他们把线画在这里:不与客户竞争,客户才敢在你平台上构建。
但 Ross 很诚实,他立刻给出另一面:
“我们可能被客户吞并。我可能在这个决策上犯了大错。”
而当 Harry 问他有没有卖过股票,他回答:从来没有。Harry 开玩笑:你显然不懂这个游戏,别担心我会教你。三个月后,200 亿美元的“资产+IP 非独家授权+核心团队加入”让这段对话变成了某种黑色幽默:Ross 没卖过股票,但他用一笔交易完成了第一次“退出”。
发布于 上海
