2025年7月6日,美团正式宣布开源其万亿参数规模的大模型LongCat-2.0。几乎在同一时间,摩尔线程便完成了快速适配——基于AI训推一体全功能GPU智算卡MTT S5000及MUSA软件栈,实现了Day-0即时支持。这种协同速度,在国产算力平台与前沿大模型的适配中实属罕见,值得深入关注。

此次适配工作覆盖了模型加载、推理引擎启动、关键算子优化、部署验证及精度校验等全链路环节,确保LongCat-2.0在MTT S5000上能够稳定高效运行。从技术层面来看,能够实现如此快速的适配,得益于双方团队对模型架构与硬件特性的深度协同理解。
LongCat-2.0是美团自主研发的新一代MoE(混合专家)大模型,总参数量达1.6T,平均激活参数约48B,动态范围在33B至56B之间。该模型专为Agentic Coding(智能编程)场景设计,原生支持1M超长上下文。更关键的是,它通过自研的稀疏注意力机制(LSA)、ScMoE跨层快捷连接架构以及零计算专家动态激活机制,在资源利用率和多任务协同方面表现出色——简而言之,能够在有限算力条件下处理更复杂的任务。
摩尔线程技术团队依托SGLang-MUSA推理引擎及MUSA软件生态,围绕模型结构和推理特性,快速完成了从框架兼容到性能优化的全链路适配。以下逐一拆解几个关键优化点。
硬件原生FP8加速,充分释放长上下文推理性能
LongCat-2.0面向复杂任务场景,实际部署中常见长输入、多轮对话上下文、复杂指令分解以及持续生成等推理负载。这对GPU的算力、显存容量、访存带宽及推理调度能力均提出了极高要求。MTT S5000具备硬件级原生FP8加速能力,凭借单卡高算力、大容量显存与高带宽,能够为长上下文输入、KV Cache读写及高并发推理提供稳定支撑。配合SGLang-MUSA引擎与MUSA软件栈的深度优化,推理性能得到充分释放,在线服务的响应效率与系统吞吐能力显著提升。
标准化工程流程,大幅缩短前沿模型部署周期
摩尔线程将长期积累的模型适配经验梳理为标准化工程流程:模型结构解析、权重加载、推理框架兼容、算子验证、部署测试全链路闭环。本次LongCat-2.0在MTT S5000上快速完成推理验证,正是得益于这套成熟流程。这不仅体现了MUSA软件栈对主流模型生态的高度兼容性,也大幅降低了前沿模型在国产算力平台上的迁移与部署门槛。
赋能AI应用落地,支撑Coding、Agent与企业知识库场景
围绕AI Coding、Agent工作流、企业知识库问答及长文档分析等典型应用场景,摩尔线程对LongCat-2.0的推理链路进行了部署级验证。通过框架、算子与调度层面的协同优化,MTT S5000能够提供兼具高性能、高稳定性与可扩展性的推理基础设施,助力大模型应用更快地从技术验证走向生产部署。
附LongCat-2.0最新开源地址:
https://github.com/meituan-longcat/LongCat-2.0
