游乐游手机版
首页/AI热点日报/热点详情

美团开源万亿参数大模型LongCat-2.0同步开放国产卡推理

类型:热点整理2026-07-13
美团开源万亿参数大模型LongCat-2 0,总参数量1 6T,平均激活参数48B,采用稀疏注意力和N-gramEmbedding提升长上下文处理与代码理解。该模型在五万卡国产算力集群上完成推理,从模型、芯片适配、部署三方面优化,开源多精度版本及国产算力推理代码。

刚刚获悉,美团于7月6日正式开源了其自研的万亿参数级大模型——LongCat-2.0。这一消息在行业内颇具分量,因为该模型总参数量达到1.6T,平均激活参数约48B。在架构设计上,它引入了LongCat稀疏注意力机制与N-gram Embedding,核心目标十分明确:显著增强长上下文处理能力,同时进一步优化代码理解性能。美团的官方定位是“业界首个在五万卡国产算力集群上完成推理的万亿参数模型”,从这一表述来看,底气确实相当充足。

美团开源万亿参数大模型LongCat-2.0,同步开放国产卡推理代码

这里有一个关键背景——国产算力芯片在显存和带宽方面其实相对吃紧。因此,LongCat-2.0并非简单堆砌参数,而是从模型、芯片适配到部署三个维度同步发力:在模型层,采用稀疏注意力机制与ScMoE架构,核心思路是降低I/O与显存压力;在芯片适配层,通过Super Kernel技术有效减少算子启动开销,这一举措相当务实;在部署层,采用PD分离部署策略,兼顾首Token延迟与每个输出Token的生成时间,在用户体验与推理效率之间找到了较好的平衡点。

开源内容也相当全面,提供了BF16、FP8、INT8等多精度版本,并专门附带了针对国产算力优化的推理代码。从美团的态度来看,此次开源背后蕴含着更深层的意图——验证国产芯片是否足以承担复杂大模型的任务,同时推动存量算力在真实场景中真正发挥价值。目前,LongCat-2.0已在HuggingFace、GitHub和ModelScope上公开发布,感兴趣的话不妨前往了解。

来源:https://tech.ifeng.com/c/8uXBTHVyn0q

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。