游乐游手机版
首页/科技数码/文章详情

美团开源5600亿参数混合专家模型,仅激活5%性能惊人

时间:2025-09-02 12:52
9月1日消息,美团宣布正式发布LongCat-Flash-Chat AI模型,并同步开源,采用创新性混合专家(MoE),总参数量达560B(5600亿),实际激活参数18 6-31 3B,平均仅27

9月1日消息,美团宣布正式发布LongCat-Flash-Chat AI模型,并同步开源,采用创新性混合专家(MoE),总参数量达560B(5600亿),实际激活参数18.6-31.3B,平均仅27B,从而实现计算效率与性能的双重优化。

美团声称,根据多项基准测试综合评估,作为一款非思考型基础模型,LongCat-Flash-Chat在仅激活少量参数的前提下,性能就可以比肩当下领先的主流模型,尤其在智能体任务中具备突出优势。

同时,因为面向推理效率的设计和创新,LongCat-Flash-Chat具有明显更快的推理速度,更适合于耗时较长的复杂智能体应用。

美团LongCat-Flash在架构层面引入“零计算专家(Zero-Computation Experts)”机制,总参数量560B,每token依据上下文需求仅激活18.6-31.3B参数,实现算力按需分配和高效利用。

为控制总算力消耗,训练过程采用PID控制器实时微调专家偏置,将单个token的平均激活量稳定在约27B。

此外,LongCat-Flash在层间铺设跨层通道,使MoE的通信和计算能很大程度上并行,极大提高了训练和推理效率。

配合定制化的底层优化,LongCat-Flash在30天内完成了高效训练,并在H800 GPU上实现单用户100+ tokens/s的推理速度。

LongCat-Flash还对常用大模型组件和训练方式进行了改进,使用了超参迁移和模型层叠加的方式进行训练,并结合了多项策略保证训练稳定性,使得训练全程高效且顺利。

针对智能体(Agentic)能力,LongCat-Flash自建了Agentic评测集指导数据策略,并在训练全流程进行了全面的优化,包括使用多智能体方法生成多样化高质量的轨迹数据等,实现了优异的智能体能力。

通过算法和工程层面的联合设计,LongCat-Flash在理论上的成本和速度都大幅领先行业同等规模、甚至规模更小的模型。

通过系统优化,LongCat-Flash在H800上达成了100 tokens/s的生成速度,同时输出成本低至5元/百万token。


LongCat-Flash架构图

通用领域知识方面,LongCat-Flash在ArenaHard-V2基准测试中取得86.50的优异成绩,位列所有评估模型中的第二名。

在基础基准测试中,MMLU(多任务语言理解基准)得分为89.71,CEval(中文通用能力评估基准)得分为 90.44。

这些成绩可与目前国内领先的模型比肩,且其参数规模少于DeepSeek-V3.1、Kimi-K2等产品。

智能体工具使用方面,LongCat-Flash即便与参数规模更大的模型相比,在τ2-Bench(智能体工具使用基准)中的表现仍超越其他模型;高复杂度场景下,在VitaBench(复杂场景智能体基准)中以24.30分位列第一。

编程方面,LongCat-Flash在TerminalBench(终端命令行任务基准)中,以39.51的得分位列第二,在SWE-Bench-Verified(软件工程师能力验证基准)中得分为 60.4。

指令遵循方面,LongCat-Flash在IFEval(指令遵循评估基准)中以89.65的得分位列第一,在COLLIE(中文指令遵循基准)和 Meeseeks-zh(中文多场景指令基准)中成绩分别为 57.10 和 43.03。


LongCat-Flash基准测试性能

美团同步提供了分别基于SGLang和vLLM的两种高效部署方案。

以下为使用SGLang进行单机部署的示例:

python3 -m sglang.launch_server \

--model meituan-longcat/LongCat-Flash-Chat-FP8 \

--trust-remote-code \

--attention-backend flashinfer \

--enable-ep-moe \

--tp 8

现在前往https://longcat.ai/ ,就能立即与LongCat-Flash-Chat开启对话。

开源平台地址:

Hugging Face:

https://huggingface.co/meituan-longcat/LongCat-Flash-Chat

Github:

https://github.com/meituan-longcat/LongCat-Flash-Chat

开源仓库统一采用MIT License,并允许用户利用模型输出、通过模型蒸馏等方式训练其他模型。

来源:https://news.mydrivers.com/1/1071/1071672.htm
上一篇辛巴退网后妻子直播首秀:20亿销售额背后是谁在买单? 下一篇10家电动车企被约谈 新国标监管再加严 重点涉及雅迪爱玛九号
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
经典燃油马自达MX-5终章将至,纯电能否续写操控传奇
科技数码 · 2026-07-01

经典燃油马自达MX-5终章将至,纯电能否续写操控传奇

在SUV持续升温与电动化转型的双重冲击下,马自达MX-5依然保持着旺盛的生命力。然而,这款经典双座敞篷跑车的燃油时代即将迎来终局。根据马自达澳大利亚分公司负责人维内什·宾迪透露,公司高层已确认全新一代MX-5正处于研发阶段,但这极有可能成为马自达品牌旗下最后一款搭载内燃机的跑车。 现款ND世代MX-

燃油马自达MX-5最后一代纯粹驾驶乐趣即将停产
科技数码 · 2026-07-01

燃油马自达MX-5最后一代纯粹驾驶乐趣即将停产

在跑车市场遭遇SUV热潮与电动化转型的双重冲击下,马自达MX-5这款经典敞篷跑车正站在一个关键的十字路口。据马自达澳大利亚分公司负责人维内什·宾迪透露,公司高层已确认全新一代MX-5正在研发中。但一个令人既期待又感慨的信号是——这很可能成为该系列最后一代搭载内燃机的车型。 现款ND世代MX-5自20

中车大连公司亮相第四届链博会彰显硬核实力
科技数码 · 2026-07-01

中车大连公司亮相第四届链博会彰显硬核实力

近期,一则引发社会广泛关注的新闻事件吸引了各界目光。其中,半岛晨报与39度视频的报道尤为突出,首席记者赵晖深入一线,为公众带来了第一手的现场实况。 事件发生在城市核心繁华区域,涉及多方利益,局面较为复杂。赵晖接到采访任务后,迅速抵达现场,与各方进行了深入交流与采访。凭借敏锐的新闻洞察力和扎实的采编能

全新宝马X5外观大改 取消分段式尾门 创新还是遗憾
科技数码 · 2026-07-01

全新宝马X5外观大改 取消分段式尾门 创新还是遗憾

宝马近期在美国纳什维尔举办了一场备受瞩目的经销商新品品鉴会,一次性展示了宝马、MINI、劳斯莱斯三大品牌的十余款重磅新车。其中,全新一代X5和X7的实车首次向经销商公开亮相,迅速引发了业内对下一代设计语言的热烈讨论。 据现场消息称,新款宝马X5的设计几乎属于推倒重来。车头部分直接移植了与第二代iX3

Syntec Optics获美军下一代AR眼镜光学订单
科技数码 · 2026-07-01

Syntec Optics获美军下一代AR眼镜光学订单

据6月30日消息,高精度光学器件制造商Syntec Optics近日获得一批美军采购订单,具体金额未对外公开。该公司计划对今年年初推出的防弹光学产品线进行模块化升级与产能扩充,目标是为下一代军用AR可穿戴设备提供定制化的光学解决方案。 此次定制的光学镜片,不仅要保护内部精密光学元件免受战场环境损伤,