聊个真实的悖论:大模型 Token 价格一路狂泻,企业的 AI 账单反而越来越烫手。
DeepSeek V4-Pro 永久降价 75%,小米 MiMo-V2.5 甚至降了 99%。Token 单价确实到了历史最低点,全国日均词元调用量 140 万亿次,两年涨了 1000 多倍。

价格确实大跳水了,但看看自家账单呢?
价格越低,账单越高的悖论
不止一个技术团队抱怨,Token 降价后,AI 月支出非但没降,反而一路走高。Uber 的情况尤其典型——前四个月就烧光了全年 AI 预算,五千多名工程师人均月 Token 消耗 500 到 2000 美元,最后公司不得不给每人每月 1500 美元的硬上限。
贝恩咨询对 951 家年收入超 1 亿美元的企业做了调查,发现了一个扎心的结论:企业 AI 支出突破 1 万亿美元后,实际成本节约普遍远低于预期。更值得警惕的是,还有 44% 的大型企业正拿"尚未兑现的上轮节省"来为下一轮投资背书——贝恩直接称之为"一个存在结构性漏洞的循环赌注"。
账单失控的背后,藏着三层叠加的成本陷阱。
第一层:用量爆发——弹性远超预期的需求曲线
经济学里的需求弹性,在 AI 领域被放大了好几个数量级。以前只敢给核心开发组用,现在全公司都在用;以前只做代码补全,现在让模型写整套 CRUD、做数据分析和跑测试用例。
调用量翻倍了,预算却还是原来的预算。但这还只是开始。
第二层:词元通胀——Agent 时代的隐性消耗
Agent 执行一次任务,背后是拆解需求、调用模型、验证结果、失败重试这一整套流程。深圳特区报的数据显示,Agent 单次任务的 Token 消耗量,是同等工作量对话形式的 10 到 100 倍。高盛也做了测算:即使推理成本每年下降 60% 到 70%,到 2030 年 Agent 式 AI 的月 Token 消耗依然会增长 24 倍。
问题在于,成本下降的速度远赶不上消耗增长的速度。这意味着,只盯着 Token 单价做预算,就好比只盯着 CPU 单价做容量规划——完全忽略了并发和调用链的放大效应。
第三层:多 Provider 账本混乱——五六家厂商,没有一个统一的"账房"
一个典型团队的情形是这样的:研发组用 Claude 和 GPT,算法组用 DeepSeek 和通义千问,产品组用 Kimi,测试组走第三方中转。每个 Provider 都有自己的后台、计费口径和账单格式。
结果呢?离职同事的 API Key 三个月了还在后台默默扣费,某个模型突然异常消耗却没人预警。月底只能对着几个平台的数字发呆——大概知道花了多少钱,但根本说不清这些钱花得对不对。
工程解法:在调用链路上加一层治理平面
1. 统一计费网关:多 Provider 消费归一化
核心思路是在 API 调用链路前面加一个袋里层,拦截所有对外的模型请求,统一记录和聚合。这类似于阿里云 API 网关的流量治理思路——不是去每个 Provider 后台分别查账,而是让所有流量经一个出口,在袋里层统一埋点。
技术上的难点在于,不同 Provider 的 Token 计费标准不同,返回头中的用量信息格式也各异。袋里层需要把这些数据归一化,输出一套统一的消费模型,包含模型名、Token 量、成本、调用方标识和时间戳。
2. 会话级归因:从 Key 粒度到任务粒度
现在的账单是 Key 级别的——告诉你这个月 Claude API 花了 3000 美元。但你不知道哪些是人工调用、哪些是 Agent 自动跑的、哪个会话花了最多的钱。
可以在袋里层注入会话标识,比如 X-Session-ID,把每次 API 调用关联到具体会话。阿里云日志服务 SLS 的实时消费分析能力值得参考——不是月底才拉账单,而是消费日志实时可查、可聚合、可下钻。
3. 异常检测与实时告警
当某个会话的 Token 消耗突然飙升、某把 Key 在非工作时间被大量调用、某个模型的调用失败率异常升高——这些信号背后,很可能藏着 Bug、被遗忘的 Agent,甚至是泄露的 Key。
今年 4 月,LiteLLM(月安装量 9500 万次)在 PyPI 被投毒,Braintrust 的 AWS 账户被攻破,导致多家企业 API Key 暴露。这些事件的共同特征不是攻击多高明,而是 Key 管理太分散——散落在配置文件、环境变量和 CI/CD Secret 里,没人轮换,也没人审计。
Token 降价当然是好事,但成本治理的复杂度也随之上升了。当团队从"一个模型、一把 Key"走向"多 Provider、多 Agent"时,在调用链路上加一层治理平面——统一计费、会话归因、异常检测——能让你的账单不再是笔糊涂账。
