从技术单位到商业单位，理解 AI 时代的新“硬通货”

近两年来，AI 行业中有一个词汇的出现频率持续攀升：Token。

起初，Token 主要出现在大模型 API 文档、计费页面以及上下文窗口说明中。不过到了 2025–2026 年，这个词已明显从“模型内部术语”演变为“产业关键词”。英伟达近两年的公开表述中，反复将 Token 定位为 AI 的基础单位，并将 AI 基础设施的效率衡量重点推进至 token throughput、token per watt、cost per token 等指标。在 GTC 2026 上，英伟达继续围绕 AI Factory 展开讨论，强调在固定功率预算下优化 token 性能并缩短 time to token。

这背后揭示了一个重要趋势：

AI 产业正在从“关注 GPU 数量”，逐步转向“关注 Token 产出能力”。

接下来，我们将从相对实操的技术视角出发，厘清三个核心概念：什么是 Token、什么是 Token 工厂、以及什么是 Token 出海。

一、什么是 Token？

1. Token 的定义

从技术层面来看，Token 是模型处理数据时所使用的基本单位。英伟达对 Token 的官方解释为：Token 是 AI 模型在训练和推理过程中处理的数据单元，用于支持预测、生成和推理等任务。

对于大语言模型而言，模型并非直接“理解一整句话”，而是先将输入内容切分为更小的片段，再在这些片段上执行 embedding、attention、预测下一个 token 等操作。

举例来说：

• 英文单词可能被拆解为 1 个或多个 token
• 中文通常也不是严格意义上的“一字一 token”
• 标点符号、空格、数字同样可能占用 token
• 在多模态模型中，图像、语音等内容也会被映射为模型可处理的 token 表达或等价序列

因此，Token 更像是模型内部的“计算颗粒度”，而非自然语言中的字、词或句。

2. 为什么 Token 不是“字数”？

许多刚接触大模型的用户，容易将 Token 简单理解为“字数”或“单词数”。实际上，这种理解并不准确。

原因在于，tokenization 取决于具体的 tokenizer 和词表设计，不同模型的切分方式可能存在差异。同一句话，在不同模型中所占用的 token 数量也可能不同。因此，从工程角度更稳妥的说法是：

Token 是模型内部使用的序列单位，既不等同于汉字数，也不等同于单词数。

3. Token 为什么会变得如此重要？

为什么？因为 Token 同时承载了三重角色。

第一，它是信息单位。模型的训练和推理，本质上都发生在 token 序列之上。

第二，它是算力消耗单位。token 数量越多，通常意味着更高的显存占用、更多的 attention 计算以及更长的推理链路。

第三，它是计费单位。如今许多模型 API 已按照输入 token 和输出 token 进行计费，而不再简单地按调用次数收费。

也就是说，Token 正从一个纯粹的技术概念，转变为连接模型能力、算力成本和商业结算的统一单位。英伟达甚至直接将其称为 AI 的 “language and currency”。

二、从工程角度看，Token 为什么决定成本？

如果拆解大模型服务的构成，企业真正关心的通常不是“参数量有多大”，而是以下问题：

• 响应速度是否够快
• 并发能力能否支撑
• 成本是否可控
• 单位电力能产生多少有效输出

而这些问题，最终都能落到 token 指标上。

1. 常见指标有哪些？

推理系统中常见的几类指标包括：

• TTFT（Time to First Token）：首个 token 返回时间
• TPOT（Time per Output Token）：每个输出 token 的生成耗时
• TPS（Tokens Per Second）：每秒输出 token 数量
• Tokens per Watt：单位功耗下的 token 吞吐量
• Cost per Million Tokens：每百万 token 成本

英伟达在其关于推理经济学和 AI Factory 优化的公开内容中，已明确将 time to first token、time per output token、tokens per second per watt、cost per token 作为关键衡量维度。

这意味着，模型服务的核心不只是“能否运行”，而是“每度电、每台机器、每单位时间能否更高效地产生 token”。

2. 一个简单的工程示例

假设有两个推理集群：

• 集群 A：GPU 数量多，但调度一般、缓存利用率低、功耗高
• 集群 B：GPU 数量略少，但在 batch、KV cache、并发调度、模型编译优化方面做得更出色

在相同电力预算下，集群 B 完全可能产生更多 token，从而成本更低、收益更高。

因此在推理时代，真正重要的不只是“显卡多不多”，而是：

显卡能否稳定转化为 token 产能。

三、什么是 Token 工厂？

1. Token 工厂的本质

所谓 Token 工厂，可以理解为：它是一个面向推理时代的智算中心模型。

这与传统数据中心的思路有所不同。英伟达在 AI Factory 的表述中提到，AI 工厂的“主要产出”并非传统 IT 意义上的通用计算，而是以 AI token throughput 衡量的智能成果。

这也是为什么如今越来越多厂商在关注：

• token throughput
• token per watt
• cost per token
• time to token

因为在推理业务中，这些指标比单纯的峰值 FLOPS 更贴近真实的商业结果。

2. 为什么智算中心会从“卖 GPU”转向“卖 Token”？

过去的算力租赁逻辑相对简单：提供裸金属、GPU 时长、机柜和网络资源。

但到了 AI 推理阶段，这种方式越来越接近“售卖原材料”。

真正更高附加值的做法，是将这些资源组织成高效的推理系统，然后稳定输出 token 服务。原因很简单：

客户最终购买的并非 GPU 本身，而是结果。

例如，客户关注的是：每秒能产出多少 token、首字返回有多快、每百万 token 成本多低、在高并发下是否依然稳定可用。

因此，智算中心的竞争重点正在转变：从“资源拥有量”转向“资源转化效率”。

3. Token 工厂的核心指标：每瓦 Token 吞吐量

英伟达在 Vera Rubin DSX AI Factory 参考设计中，明确提到要在固定电力预算下最大化 token performance per watt；其 DSX Max-Q 也是围绕固定功率约束下提升 token 性能而设计。

这揭示了一个事实：未来的数据中心将越来越受电力约束，而不只是受服务器数量限制。

因此，“每瓦 token 吞吐量”会成为一个非常硬核的指标。因为它同时反映了：

• 硬件效率
• 系统调度效率
• 模型推理优化水平
• 散热与供电能力
• 业务经济性

换句话说：过去比拼的是“堆叠 GPU”；未来比拼的是“精炼 Token”。

四、为什么 AI Agent 会放大 Token 消耗？

这是理解 Token 工厂非常关键的一环。

早期的大模型应用大多为简单问答：用户输入一句，模型输出一段，调用链路较短。

但 Agent 场景则截然不同。

一个 Agent 任务通常包含：任务理解、规划步骤、多轮思考、工具调用、外部信息检索、结构化输出、失败重试以及自我修正。

这意味着一次任务背后，往往不是“单次生成”，而是多轮 token 消耗的叠加。英伟达近年的公开表述中也反复强调，推理已不仅仅是简单生成，随着 reasoning 和 agentic AI 的发展，token 需求将进一步扩大。

因此，从系统设计角度而言，Agent 时代将问题转变为：不是能否提供模型调用，而是能否承受大规模、持续增长的 token 生产压力。

五、什么是 Token 出海？

1. 基本定义

那么，什么是 Token 出海？可以理解为：中国的大模型能力和推理能力，通过 API 或云服务形式交付给全球用户，并按 token 使用量进行计费。

这本质上是一种新型的数字服务出口模式：模型和算力可能部署在国内或中国厂商控制的节点，海外开发者通过 API 调用，商业结算围绕 token 展开。

从产品视角看，这与传统 SaaS、云 API 类似；但从产业视角看，它意味着：出口的不再仅仅是软件，也不再仅仅是硬件，而是可计量的“智能服务”。

2. 为什么 Token 出海具备现实基础？

因为全球模型生态已经高度 API 化。开发者越来越习惯通过统一接口调用不同模型，并直接比较价格、上下文长度、稳定性和效果。OpenRouter 的公开页面和年度使用数据也表明，全球模型调用已越来越以 token 使用量为衡量标准，且中国模型在其平台上的份额在 2025 年下半年明显上升，部分周度区间曾接近总使用量的 30%。

这至少说明一点：国际市场已存在按 token 购买模型能力的成熟消费习惯。

3. Token 出海比拼什么？

并非只比较模型参数，而是比拼整套系统能力：

• 推理成本
• 电力和基础设施效率
• API 稳定性
• 上下文长度与延迟表现
• 多区域交付能力
• 合规与本地化能力

因此，Token 出海并非“将模型放到国外平台上架”那么简单，其背后比拼的是算力、平台、工程化和运营体系。

六、为什么说 Token 是 AI 时代的新“硬通货”？

因为它首次将三件事统一了起来：

• 技术侧：模型实际处理了多少内容
• 工程侧：系统实际消耗了多少资源
• 商业侧：服务实际创造了多少收入

这正是 Token 真正的价值所在。

过去行业讨论 GPU、显存、带宽、FLOPS，这些固然重要，但它们更偏向底层资源。而 Token 更接近最终可交付的单位，因此更容易成为产业层面的共同语言。

从这个意义上说，Token 不仅仅是技术术语，更是 AI 时代极有可能长期存在的“价值计量单位”。

七、结语

如果将全文浓缩为一句话，那就是：

Token 是模型的基本处理单位，Token 工厂是面向推理时代的高效产能组织方式，Token 出海则是这种产能走向全球市场的商业化路径。

因此，未来 AI 产业真正的竞争，可能不再仅仅在于：

• 谁的 GPU 更多
• 谁的机房更大
• 谁的峰值算力更高

而在于：

• 谁能更快地产生 token
• 谁能用更低功耗产生 token
• 谁能以更低成本交付 token
• 谁能将 token 转化为全球化收入

这也解释了为什么近两年，行业叙事正在从“算力”逐步转向“Token”。

因为真正有价值的，越来越不是硬件本身，而是硬件背后持续产出的 Token 能力。