当前一个引人注目的趋势是:随着AI使用成本持续攀升,“模型路由器”技术正加速渗透企业市场。
其背后的逻辑并不复杂:与其每次任务都调用最昂贵的模型,不如让系统自动匹配最合适的方案。这样既能确保效果稳定,又能大幅压缩Token支出。简言之,就是从“默认调用最强模型”转向“按任务分层调度”。
从产业视角看,模型路由器已不仅是工具型产品,它正快速演变为基础设施级组件。无论你是科技大厂还是AI平台公司,眼下都在争相布局这一能力,将其嵌入AI工作流与API网关中。
更深层的信号是:AI竞争的重心正悄然从“谁的模型更强”转向“谁的调度与成本优化更精细”。谁能把这块算得更细,谁就更有可能在下一阶段占住身位。
从“默认最强”到“按需分层”:模型路由器的成本优化逻辑
模型路由器的核心,在于对AI任务进行成本与能力的分层匹配。
企业在实践中发现,许多任务并不需要最强模型。例如邮件总结、文档摘要、信息检索等场景,完全可由更小、更廉价的模型完成。只有那些需要复杂推理的任务,才值得调用前沿模型。
这个思路在OpenAI推出GPT-5系列后愈发清晰:系统会根据任务复杂度在不同模型间自动切换。随后,跨模型、跨供应商的第三方路由器也纷纷涌现,企业可在OpenAI、Google、Anthropic等主流模型间动态调度,不再受限于单一供应商。
日本AI实验室Sakana AI此前推出过一个多模型协同系统,颇具特色。它显示路由机制已带有“专家分工”色彩:数学问题倾向于调用OpenAI模型,科学问题则更多路由到Google Gemini。
头部企业的降本实践:推理成本最高降低97%
在商业化层面,模型路由器已带来实打实的成本下降。
Palantir Technologies推出的Evolve AI路由工具,不仅管理模型选择,还能优化提示词,避免重复调用。据公司披露,在某些案例中,通过将任务从较强模型切换至轻量模型,推理成本竟降低了约97%。
建筑公司McCarthy Building也表示,其AI Token使用量同比下降约60%,主要得益于模型调度优化。
与此同时,Databricks推出的Unity AI Gateway已在内部广泛使用。其CEO Ali Ghodsi直言,这类工具之所以受欢迎,是因为企业“正在以过快的速度烧光AI预算”。
网络安全领域同样积极,Palo Alto Networks等公司通过模型切换策略降低AI调用成本。路由能力正成为企业AI架构中默认可选的功能模块。
资本与产品共振:模型路由器赛道加速成型
资本市场显然也嗅到了这股风向。
模型路由平台OpenRouter在4月完成1.2亿美元融资,一跃成为赛道最受瞩目的创业公司之一。其核心产品“自动路由器”颇具特色:用户可自行设定成本与质量偏好的区间(0到10),系统据此动态选择模型。
数据也证实了这套策略的效果:OpenRouter的路由逻辑中,约三分之一的请求被分配给Google的低成本模型,仅约10%流向OpenAI等较强模型。这种成本分层优化效果显著。底层还整合了Not Diamond等路由技术提供商,支持跨云服务商调用,进一步优化延迟与价格。
此外,AI编程公司Cognition也推出了自己的路由系统。在编程基准测试中,其表现接近前沿模型,但成本仅约为后者的35%。
