AIGC·非著名程序员
26-11-20 07:32 微博认证:微博新知博主 科技博主 头条文章作者 微博原创视频博主

今年3月,黄仁勋说过一句话,传播得很广:一个年薪50万美元的工程师,如果一年在Token上花不到25万美元,他会很担心。差不多同一时期,Visa把员工月均Token消耗量从1万亿涨到接近2万亿,还当成喜报发了出来。腾讯给每位员工配了年均22万元的Token资源。那阵子企业里流行的说法是大力出奇迹。

大半年过去,风向变了。这个月Salesforce的首席运营官给员工发邮件,从本月起按岗位设Token预算,销售部门的技术岗每月1000美元,非技术岗100美元。他们的CEO今年5月还说过,全年预计在Anthropic的Token上花3亿美元,主要用来跑编程智能体。5月说花3亿,11月开始设限,中间只隔了六个月。

苹果工程师的日均额度从300美元砍到200美元,部分非技术团队还考虑压到每天25美元。Uber更猛,全年预算四个月就烧完了,紧急设了每人每项工具每月1500美元的上限。

转这么快,不是技术负责人说一套做一套,是消耗量的增长超出了所有人的预估。全球第三方算力平台OpenRouter有一张图,对比人类和智能体消耗Token的数量。今年2月,智能体的消耗量第一次超过人类,恰好是那个开源智能体项目火起来的时候。到9月底,智能体自主消耗已经是人类的7倍左右。以前是人用AI写代码,现在是人派AI去写代码,一字之差,账目上就是数量级的差别。

各家公司的管法完全不一样,因为这道题没有标准答案。

高盛的思路是按岗位重要性分配,CEO所罗门说没必要让所有人每天用最先进的模型,网络安全这类关键岗位才需要顶级模型。思科反过来,先让3.2万名员工无限量用,他们把这叫学骑自行车,等大家都会骑了再按管理层级设预算。腾讯一开始给每人年均22万,后来发现有人为了不浪费额度搭了一堆没用的工作流刷量,改成组内共用额度池由组长分配。字节的规则是自家模型不限量,用外部模型报销一半。阿里干脆成立了一个Token Hub事业群,CEO亲自挂帅。

为什么这些公司管差旅预算、软件预算都管了几十年,到了Token这里谁都管不明白。因为传统的资源分配逻辑在这件事上失效了。过去的原则很简单,级别越高权限越大,总监坐商务舱,一线员工坐经济舱。但Token用得最猛、用得最好的,往往就是一线的年轻人,他一天到晚泡在代码和内容生产里,AI对他像一把锤子,一天要钉一百颗钉子。Anthropic的转折点就来自几个一线员工自己小范围做出来的Claude Code,先用在自家研发上,后来才长成现在的收入规模。

可反过来,你不能给VP配最便宜的模型,那不只是面子问题,老板自己不知道最强AI到什么水平,就更难判断公司该怎么适应。而如果从VP到实习生全用顶级模型,账单又撑不住。

埃森哲的一组数据挺扎心。他们分析了职业数据库里的9368项任务,发现只有大约10%真正需要最强的前沿模型,但54%的请求使用了高于实际需要的档位。前沿模型和中档模型每个Token的价格能差10到20倍。大量的钱,花在了杀鸡用牛刀上。

更麻烦的是考核一反噬,刷量就来了。亚马逊有员工搭了个内部排行榜叫KiroRank,专门追踪同事的Token消耗,结果大家疯狂刷榜,最后副总裁出来喊停把榜单删了。埃森哲年初把AI工具使用情况和绩效、晋升挂钩,后来发现部分非技术员工把大量Token花在价值不高的事上,比如用AI把PDF转成PPT。用AI的比例高,不等于工作价值高。这跟苏联钉子厂的故事一模一样,按重量考核就造大钉子,按数量考核就造细得像针的废品,你用什么指标考核,就收获什么样的扭曲。

有人会想,等Token降价这个问题不就自己消失了。不会。1865年经济学家杰文斯发现,蒸汽机效率提高、每台机器省煤了,煤炭总消耗反而上升,因为煤变便宜了,更多行业开始用蒸汽机,总需求爆发。效率提升带来的节省是油门,不是刹车。埃森哲测算,未来两年Token单价会下降19%,但用量会增长78%,不优化使用方式的话总支出反而要涨44%左右。Box的CEO莱维说得形象,如果我的律师能以两倍速审查合同,我不会只雇一半律师,我们会以两倍速审查所有合同。

所以算力消耗多少只是一个数字。真正要问的是这些消耗解决了什么问题。有些问题花再多Token都值得,有些问题压根不值得让AI去干,中间那层判断,还是人的活。

内容整理自得到 AI 学习圈。

#科技先锋官##how i ai#

发布于 山东