中国信通院：6月国内词元日均消耗约500万亿，是去年12月的近4倍

中国信息通信研究院在最新发布的行业观察中提到，2026年6月，国内大模型词元（token）的日均消耗量约达到 500 万亿，这一数字是 2025 年 12 月的近 4 倍。半年翻两番，这个增速比大多数人预期的都要快。

一、词元消耗量为什么值得关注

在算力指标里，大家更熟悉的是 GPU 出货量、机架数、电力消耗。但词元消耗量是更贴近”真实使用”的一个指标——它统计的是模型真的被调用了多少次、处理了多少内容，而不是买了多少卡放在机房里。

换句话说，词元消耗量能比较直接地反映：有多少业务真的跑在模型上，而不是停留在 POC 阶段。

二、4 倍增长背后发生了什么

从公开信息看，这轮增长主要有几个来源：

• 智能体（Agent）规模化落地。一个智能体任务往往要调用模型几十上百次，做规划、检索、校验、重试。同样一个用户请求，消耗的词元可能是纯对话的几十倍。
• 上下文变长。主流模型的上下文窗口从 128K 迈向 1M，长文档、整仓库代码、长视频转写都开始直接喂给模型。
• 推理模型普及。带思维链的模型在给出答案前会先生成大量中间推理内容，这部分同样计入词元。
• 价格下降。单位词元价格持续走低，原本”用不起”的场景开始被大量使用。

三、对普通开发者的三个实际影响

1. 成本结构变了

以前大家算模型成本看”每次调用多少钱”，现在要算”一个业务闭环要调多少次”。智能体架构下，成本控制点从单价转移到了调用次数和上下文长度上。

实践中的做法是分层：简单判断用小模型或规则，只有真正需要推理的环节才调大模型；能裁剪的上下文先裁剪，不要图省事把整个文档塞进去。

2. 缓存变得至关重要

词元量上来之后，前缀缓存（prompt caching）的收益被放大。同一份系统提示、同一份长文档反复使用时，命中缓存可以把这部分成本降一个数量级。

3. 限流和配额更容易踩到

服务商的配额通常按每分钟词元数（TPM）计算。智能体并发一开，很容易撞上限流。工程上要提前做队列、退避重试和降级策略，而不是等报错了再补。

四、也要看清指标的另一面

词元消耗高不等于价值高。同样 500 万亿词元，可能产出了大量有用的自动化流程，也可能只是无意义的重复调用和上下文膨胀。

对团队来说，真正该盯的是”单位词元产出”——每百万词元解决了多少实际任务、节省了多少人力。只看总量容易自嗨。

结语

半年 4 倍的增速说明，大模型已经越过了”演示阶段”，进入真实的生产消耗。接下来比拼的不再是谁能用上模型，而是谁能用更少的词元把事情办成。

对开发者而言，理解词元怎么被消耗掉，比追新模型版本更实用。