【大多数token,已经不是人类用掉的了】
2026年2月6日,OpenRouter上,智能体消耗的 token 第一次超过人类。那天,两条曲线几乎贴在一起,日消耗量都在0.5万亿左右。半年后的8月7日,智能体一天消耗了7.3万亿token,人类是 1.4万亿,前者已经是后者的5倍多。
从份额上来看。2025年9月,智能体只占平台 token总量的2%;到2026年8月,这个数字已经升至71%。
同期,人类的日消耗量从0.37万亿涨到1.4万亿,接近原来的4倍。只是整个盘子膨胀得更快,半年多涨了约14倍,于是人类的份额从57%一路跌到15%。人照样在用,只是智能体的用量增长快得多。
而有点反常的是,智能体已经消耗了七成token,真正用上它的公司却仍是少数。完整部署智能体的门槛并不低,目前平台上的大部分消耗,很可能来自一小批重度用户。新增的token不再主要来自一次次人的提问,而是来自后台持续运行的程序。
程序消耗token的方式,也和人不一样。智能体使用的token中,86%来自缓存提示词;人类这一侧只有29%。
背后原因其实也不难理解。人通常问一句、答一句,一个回合就结束了。智能体则要围绕同一个目标反复迭代:系统提示、工具说明、代码规范和前几轮结果,会一遍遍进入后续请求。前面的内容变化不大,新的结果不断往后追加,因此更容易命中缓存,不必每次从头计算。
这也是智能体经济能够成立的重要原因。缓存输入比新提示词便宜得多,否则一个连续运行几小时、调用几十甚至上百次模型的任务,很快就会变得难以承受。
不过,缓存命中率高,并不等于这些 token 会一直躺在高带宽内存里。不同厂商如何保存缓存、保存多久,做法并不相同。能够确定的是,智能体带来了更多长上下文、多轮调用和并发任务,这些都会增加推理过程中的内存占用。至于这一轮高带宽内存紧缺有多少由智能体造成,目前还尚无法明确。
#token##OpenRouter#
