游乐游手机版
首页/科技数码/文章详情

AI路由器省Token成新趋势巨头布局企业AI成本降近97%

时间:2026-07-09 12:45
模型路由器技术正加速渗透企业市场,通过按任务分层调度自动匹配模型,大幅压减Token支出。头部企业实践显示推理成本最高降97%,资本积极布局,OpenRouter获1 2亿美元融资,AI竞争重心转向成本优化与调度精细度。

当前一个引人注目的趋势是:随着AI使用成本持续攀升,“模型路由器”技术正加速渗透企业市场。

用AI路由器省Token成新趋势?巨头争相布局,企业AI成本最高下降近97%

其背后的逻辑并不复杂:与其每次任务都调用最昂贵的模型,不如让系统自动匹配最合适的方案。这样既能确保效果稳定,又能大幅压缩Token支出。简言之,就是从“默认调用最强模型”转向“按任务分层调度”。

从产业视角看,模型路由器已不仅是工具型产品,它正快速演变为基础设施级组件。无论你是科技大厂还是AI平台公司,眼下都在争相布局这一能力,将其嵌入AI工作流与API网关中。

更深层的信号是:AI竞争的重心正悄然从“谁的模型更强”转向“谁的调度与成本优化更精细”。谁能把这块算得更细,谁就更有可能在下一阶段占住身位。

从“默认最强”到“按需分层”:模型路由器的成本优化逻辑

模型路由器的核心,在于对AI任务进行成本与能力的分层匹配。

企业在实践中发现,许多任务并不需要最强模型。例如邮件总结、文档摘要、信息检索等场景,完全可由更小、更廉价的模型完成。只有那些需要复杂推理的任务,才值得调用前沿模型。

这个思路在OpenAI推出GPT-5系列后愈发清晰:系统会根据任务复杂度在不同模型间自动切换。随后,跨模型、跨供应商的第三方路由器也纷纷涌现,企业可在OpenAI、Google、Anthropic等主流模型间动态调度,不再受限于单一供应商。

日本AI实验室Sakana AI此前推出过一个多模型协同系统,颇具特色。它显示路由机制已带有“专家分工”色彩:数学问题倾向于调用OpenAI模型,科学问题则更多路由到Google Gemini。

头部企业的降本实践:推理成本最高降低97%

在商业化层面,模型路由器已带来实打实的成本下降。

Palantir Technologies推出的Evolve AI路由工具,不仅管理模型选择,还能优化提示词,避免重复调用。据公司披露,在某些案例中,通过将任务从较强模型切换至轻量模型,推理成本竟降低了约97%。

建筑公司McCarthy Building也表示,其AI Token使用量同比下降约60%,主要得益于模型调度优化。

与此同时,Databricks推出的Unity AI Gateway已在内部广泛使用。其CEO Ali Ghodsi直言,这类工具之所以受欢迎,是因为企业“正在以过快的速度烧光AI预算”。

网络安全领域同样积极,Palo Alto Networks等公司通过模型切换策略降低AI调用成本。路由能力正成为企业AI架构中默认可选的功能模块。

资本与产品共振:模型路由器赛道加速成型

资本市场显然也嗅到了这股风向。

模型路由平台OpenRouter在4月完成1.2亿美元融资,一跃成为赛道最受瞩目的创业公司之一。其核心产品“自动路由器”颇具特色:用户可自行设定成本与质量偏好的区间(0到10),系统据此动态选择模型。

数据也证实了这套策略的效果:OpenRouter的路由逻辑中,约三分之一的请求被分配给Google的低成本模型,仅约10%流向OpenAI等较强模型。这种成本分层优化效果显著。底层还整合了Not Diamond等路由技术提供商,支持跨云服务商调用,进一步优化延迟与价格。

此外,AI编程公司Cognition也推出了自己的路由系统。在编程基准测试中,其表现接近前沿模型,但成本仅约为后者的35%。

来源:https://www.163.com/dy/article/L164A9C005198NMR.html
上一篇雷蛇灵刃18申请Ubuntu认证 雷云Linux版暂无消息 下一篇阶跃星辰官宣新一代智能体终端 消息称集成AI系统及手机
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
小米SU7六月销量揭晓零售34738辆批发超2万辆
科技数码 · 2026-07-09

小米SU7六月销量揭晓零售34738辆批发超2万辆

7月1日,小米汽车官方微博发布消息称:2026年6月,月交付量稳定突破30000台。信息虽简短,但详细数据仍需参考乘联会的统计报告。 小米官方未单独公布具体数字,不过乘联会在6月全国乘用车市场分析中清晰列明:小米汽车新能源乘用车零售销量达34738辆,其中主力车型SU7批发销量突破2万辆,具体为20

Meta投资百亿美元建设加拿大首个数据中心
科技数码 · 2026-07-09

Meta投资百亿美元建设加拿大首个数据中心

Meta在加拿大阿尔伯塔省投资约100亿美元建设首个海外数据中心,装机容量1吉瓦,预计两三年内建成。同时探索云计算业务,向第三方出售算力。市场对其资本支出逻辑和回报存在质疑。

iPhone 18 Pro A20 Pro芯片沿用LPDDR5X架构
科技数码 · 2026-07-09

iPhone 18 Pro A20 Pro芯片沿用LPDDR5X架构

苹果A20Pro芯片未用LPDDR6,沿用LPDDR5X,通道从4条增至6条,位宽达96-bit,优化AI推理、多任务及影像性能,成本与体验间优先释放当下性能。

三星全业务启动AI转型全面引入生成式AI工具
科技数码 · 2026-07-09

三星全业务启动AI转型全面引入生成式AI工具

三星宣布全面启动人工智能转型,将在所有关联公司部署双子星、ChatGPT等生成式人工智能工具,覆盖设计、研发、生产、营销、服务等八大核心业务环节,同时设立专职人工智能组织,对高管和员工开展系统培训,并发布人工智能转型共同愿景宣言。

太平洋证券:硅烷材料从光伏辅料拓展至硅碳负极与光纤核心
科技数码 · 2026-07-09

太平洋证券:硅烷材料从光伏辅料拓展至硅碳负极与光纤核心

电子特气是半导体制造第二大耗材,市场规模预计从2024年195亿元增至2030年708亿元。硅烷材料凭借“气体+含硅”双重特性,从光伏辅料向硅碳负极、光纤核心原料跃迁,成为重要增长极。