Simple-guy-china
26-07-06 11:28

CEO们苦Token经济久矣

卡普说“企业正在为没有创造价值的Token付钱”,引发了行业共鸣。

卡普说,很多企业领导私下告诉他,他们付了Token钱,却没有得到相应价值,还担忧自己的数据和商业优势被外部AI公司吸走。

企业的反应已经开始出现。

Priceline、Qualcomm、Bristol-Myers Squibb等公司正在用云计算时代发展出来的方法管理AI Token成本,比如使用监控仪表盘、设置支出上限、部门内部“展示账单”(showback)和“成本分摊”(chargeback)。这说明AI采购正在从“先试试看”进入“每一笔调用都要算账”的阶段。

约60%的企业正在给AI开支加护栏,原因是成本上升和ROI压力变大。这不是企业放弃AI,而是从“拼命用AI”转向“精细化使用AI”。

接下来,企业不会简单停止使用OpenAI、Anthropic或其他大模型。真正会发生的,是三件更具体的事。

第一,企业会开始区分“高价值Token”和“低价值Token”。

同样是100万Token,用在客服投诉自动处理、单次报告生成、简单文档整理,和用在关键代码生成、复杂产品决策、核心客户策略分析,价值完全不同。未来企业买AI,会像买广告一样算“单Token产出”,而不是只看总消耗量。

第二,企业会把任务拆给不同模型。

不是所有问题都需要最贵、最强的模型。简单分类、摘要、格式转换,可以交给小模型或开源模型;复杂推理、关键决策、代码生成,再调用更强模型。企业越成熟,越不会让所有任务都上“头等舱”。

第三,AI公司会被迫改变卖法。

按Token收费不会消失,因为它仍然是最清楚、最容易计量的基础单位。但它不会再是唯一说法。企业会要求更接近结果的价格:比如按一次工单解决收费,按一次代码合并收费,按一个销售线索转化收费,或者至少在Token收费之外设置预算上限、缓存折扣、批量折扣和任务级成本预估。

http://t.cn/AXoW3WHp

发布于 江苏