游乐游手机版
首页/业界动态/文章详情

Meta调度工具:避免简单任务浪费顶配模型成本

时间:2026-07-22 12:22
Meta内部孵化模型路由工具Switchboard,依据任务难度分配模型:简单任务调用小模型,复杂任务才用大模型,旨在降低AI推理成本。该项目尚处早期阶段,可能对外开放。同时,Meta正搭建AI支出追踪平台,以控制成本。

7月22日消息,据《The Information》报道,Meta正在内部悄悄孵化一款名为Switchboard的模型路由工具。该工具的核心思路非常直接:根据任务难度,将简单的请求分配给更小、更经济的模型,只有在遇到真正棘手的任务时,才会调用能力更强、价格更高的模型。当然,目前该项目仍处于早期阶段,最终是否会正式发布,Meta官方并未给出明确答复,仅表示拒绝置评。

Switchboard项目出自Meta今年3月新成立的应用AI工程团队(Applied AI Engineering)旗下的内部孵化器——AAI Labs。一份7月的内部备忘录显示,该孵化器目前拥有约200个已获批项目,覆盖消费产品、开发工具和内部基础设施等多个领域。员工可以在其中提出面向内部使用的AI产品和服务,而其中部分项目未来也可能对外开放。

项目提案中直接点出了当前痛点:Meta目前使用同一个模型处理所有编码请求,即使是简单任务也需要支付顶级模型的高昂成本;如果统一换成便宜的模型,复杂任务的效果又可能大打折扣。因此,项目团队的想法是,先对任务难度进行评分,再根据评分结果决定调用哪个模型。这正是一种典型的“看菜下饭”策略。

按照内部设想,Meta可以先在公司内部部署Switchboard,以降低员工使用AI编程工具的成本;如果测试效果良好,未来也可能面向大规模运行编程智能体的机构开放使用。

路由工具背后的动机之一,毫无疑问是控制成本。Meta在4月份将2026年资本开支指引从1150亿至1350亿美元上调至1250亿至1450亿美元,原因包括组件价格上涨,以及为扩充未来产能而新增的数据中心建设支出。与此同时,据《The Information》报道,Meta还在搭建一个用于追踪AI支出、执行token预算的平台。

项目文件更是直接指出,推理成本是目前Meta扩大部署智能体的主要障碍。提案认为,大多数编码智能体任务其实可以由小模型处理,只有少数任务才需要能力更强、价格更高的前沿模型。

实际上,类似的路由思路,OpenRouter已经做成了公开产品。该公司6月披露,每月路由量已达到100万亿token,并完成了1.13亿美元B轮融资。其Pareto Code Router允许用户设定编码质量门槛,再从符合要求的模型中自动选择当前最便宜的一款;企业还可以为成员和密钥设置支出上限。

模型路由这一概念,也已经进入头部AI产品。OpenAI在GPT-5系统卡中介绍过,GPT-5本身内置了实时路由器,会根据对话类型、任务复杂度、工具需求和用户意图,在快速模型与深度推理模型之间灵活切换。这其实已经不是什么新鲜事,但Meta加入这个赛道,无疑会让整个行业对路由工具的重视程度再上一个台阶。

来源:https://www.163.com/tech/article/L2EHD8CB00097U7T.html
上一篇苹果推硬件租赁计划刺激iPhone等产品销量 下一篇通用汽车2026年Q2营收利润双增 上调全年盈利指引
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
三星Galaxy S27系列再曝 多处组件放弃自供
业界动态 · 2026-07-25

三星Galaxy S27系列再曝 多处组件放弃自供

三星盖乐世S27系列预计明年春季正式登场,其中标准版与S27+主摄像头可能采用索尼传感器,并且会引入第三方显示驱动芯片及京东方OLED显示面板。而S27Pro取消了笔槽设计,内部配备5000毫安时电池。此外,猎户座2700芯片将搭载于S27和S27+两款机型上。

小米神秘旗舰入网,玄戒芯片、澎湃OS、自研AI大模型
业界动态 · 2026-07-25

小米神秘旗舰入网,玄戒芯片、澎湃OS、自研AI大模型

小米新旗舰(型号2608BPX34C)已入网,配备67瓦快充,支持UWB超宽带技术及N79频段,或为首款阔折叠机型。该机有望搭载自研三纳米制程玄戒O3芯片与澎湃OS4操作系统,并备案了小米大模型、文心一言等多个人工智能大模型。

Google确认Pixel系列涨价 存储芯片成本激增所致
业界动态 · 2026-07-25

Google确认Pixel系列涨价 存储芯片成本激增所致

谷歌确认其手机系列将全面涨价,因存储芯片等成本激增。新机与存量机型均受影响,旗舰款起售价上调一百美元,标准版取消入门容量配置,高端版可能缩减运行内存以平衡成本。此外,所有型号价格均有所调整。

特朗普因欧盟谷歌罚款暴怒,再次威胁加征巨额关税
业界动态 · 2026-07-25

特朗普因欧盟谷歌罚款暴怒,再次威胁加征巨额关税

特朗普再度释放强硬信号——这次将矛头对准欧盟,导火索是欧盟对谷歌开出一张高达10亿欧元的罚单。简单来说,新仇旧怨一并清算,关税大棒又一次挥向大西洋彼岸的盟友。 事件经过如下:欧盟委员会于本周三发布新闻稿,正式宣布对谷歌处以10亿欧元罚款,理由是谷歌涉嫌违反欧盟的《数字市场法》。这部法律的核心目标就是

升仕175V踏板摩托车上市169cc动力升级售11800元
业界动态 · 2026-07-25

升仕175V踏板摩托车上市169cc动力升级售11800元

7月25日,升仕175V龙骨踏板摩托车正式上市,官方定价为11800元,与先前推出的150V和150X车型保持一致。先来了解几个关键信息:这款车早在7月20日就已开启销售,目前官方渠道均可查询到。 最核心的升级在于动力系统。175V搭载了一台实际排量为168 7cc(最新宣传口径为169cc级别)的