文章总结: 美团正式开源万亿参数大模型LongCat-2.0,总参数1.6T,平均激活48B,专为AgenticCoding任务设计。该模型在五万卡国产算力集群上完成推理,通过LongCat稀疏注意力机制、N-gramEmbedding及模型-芯片-部署三层协同优化,实现了在受限显存和带宽下的高效推理。开源内容包括多精度模型权重与推理代码,旨在盘活存量国产算力,推动生态发展。 综合评分: 85 文章分类: 其他
正式开源!美团 LongCat-2.0 同步开放国产卡推理代码
龙猫 LongCat 龙猫 LongCat
美团技术团队
2026年7月9日 19:58 北京
在小说阅读器读本章
去阅读
本周,美团万亿参数大模型 LongCat-2.0 正式开源!
HuggingFace | GitHub | ModelScope
作为业界首个在五万卡国产算力集群上完成推理的万亿参数模型,LongCat-2.0 已全面开源。针对显存与带宽受限的国产算力芯片,我们在模型架构、芯片适配到部署策略上进行了深度协同优化,让万亿参数模型在存量卡上同样跑得稳、跑得快。我们希望以真实 Agentic Coding 任务中的稳定表现为依托,通过开源将模型能力与推理优化成果完整开放,盘活更多存量国产算力,释放国产算力生态的长期价值。
美团 LongCat-2.0 总参数 1.6T,平均激活约 48B,为真实的 Agentic Coding 任务而生,架构上创新性引入 LongCat 稀疏注意力和 N-gram Embedding,提升长上下文处理效率与 Token 级表示能力的同时,结合动态激活进一步强化了代码理解、生成以及执行的表现。
01 模型、芯片适配与部署三个方向逐一突破,实现了万亿参数模型的流畅推理
面对显存、带宽和互联的多重限制,LongCat-2.0 结合国产芯片特性,从模型、芯片适配与部署三个方向逐一突破,实现了万亿参数模型的流畅推理:
-
模型层面:Attention 通过 absorb 计算模式、Indexer 与 MLA prolog 并行处理以及 KVP 切分 KV-cache,有效缓解了超长上下文的 I/O 与显存压力。ScMoE 则利用国产芯片的控核能力,让 Dense 与 MoE 分支实现物理核心级并行执行,进一步压缩端到端延迟,实现了百万上下文在国产芯片上的高效推理;
-
芯片适配层面:通过 Super Kernel 减少算子数量以降低启动开销,并以 Weight Prefetch 将 I/O 延迟隐藏在前序计算中;同时基于高速片间互联完成 layer-wise 的 KV-cache 传输,TP/SP/KVP 均在 scale-up 互联域内完成,在受限的显存和带宽条件下将硬件利用率最大化;
-
部署策略层面:采用 PD 分离部署兼顾 TTFT 与 TPOT:Prefill 端通过缩小 Expert-Parallel 域与序列并行分担长序列计算压力,Decode 端以 KV-cache 切分与高并行度降低单卡显存占用,配合异步化 Expert-Parallel Load Balancing 解决大 EP 度下的负载不均。上述并行方案均已适配 constrained decoding、multi-step scheduling 和 MTP 等推理优化特性,实现了万亿参数模型在国产算力上的稳定服务。
LongCat-2.0 验证了国产芯片承载复杂大模型任务的成熟能力,并希望通过开源为行业提供一条可复现的技术路径,推动存量算力在真实场景中的应用价值。
02 模型全面升级,会执行、会推理、懂交互
LongCat-2.0 沿用了 LongCat-Flash 的整体设计,并围绕 LongCat-2.0 在长上下文、代码任务和智能体场景中的进一步升级,做了三项关键优化:
| 2.1 LongCat 稀疏注意力机制,提升上下文处理效率
面向智能体任务中的长输入场景,LongCat-2.0 引入 LongCat 稀疏注意力机制(LSA),通过流感知索引、跨层索引和层级化索引三项策略减少碎片化访存和重复索引计算,在保持模型质量的前提下,加速百万级长上下文的训练与推理。
| 2.2 引入 N-gram Embedding,提升参数利用效率
LongCat-2.0 在 MoE 专家之外引入 N-gram Embedding 作为新的参数扩展路径。在 MoE 稀疏度已接近 97% 的情况下,将 135B 参数投入 N-gram Embedding 的收益远超继续扩充专家。该模块占比控制在总参数 10% 以内,兼顾了参数收益与结构稳定性。
| 2.3 通过 MOPD 架构在国产算力集群上无缝融合,让模型会执行、会推理、懂交互
后训练阶段,LongCat-2.0 采用多教师在线蒸馏,将专家分为 Agent、推理和交互三类,分别聚焦自主执行、自适应推理和安全对齐等核心能力。最终通过 MOPD 架构在国产算力集群上无缝融合,使模型兼具深度推理、自主执行与精准交互的综合表现。
03 开源开放
LongCat-2.0 的开源,是一次技术路径的公开,也是一次生态邀约。
本次开源同步提供 BF16、FP8 以及 INT8 等多精度版本,全面覆盖不同算力平台的部署需求。同时,我们深度拥抱开源社区,将针对国产算力极致优化的推理成果同步开源。这意味着,即使手上没有最新算力,也能基于现有硬件将 LongCat-2.0 稳定跑起来。
我们希望通过这套开箱即用的推理栈,让更多的国产卡包括老卡,都能流畅部署万亿大模型推理服务,在真实生产力场景发挥更大价值。
🚀 开源链接
Tech Blog:https://longcat.ai/blog/longcat-2.0/
Model Weights:
- HuggingFace:https://huggingface.co/meituan-longcat/LongCat-2.0
- GitHub:https://github.com/meituan-longcat/LongCat-2.0
- ModelScope:https://www.modelscope.cn/collections/meituan-longcat/LongCat-20
Inference Code:
- GPU:https://github.com/sgl-project/sglang/pull/30042
- NPU:https://github.com/meituan-longcat/SGLang-FluentLLM/tree/npu
API Platform:
- https://longcat.chat/platform/product
💻LongCat-2.0 发布限时福利:
✨ 新用户完成认证,免费领 1000万 Tokens
✨ 9.9元 抢5000万 Tokens 特惠,扫码领取!
❤️❤️❤️ 如果这篇文章对你有帮助,欢迎大家帮忙点赞、评论,分享给更多的小伙伴。⬇️
免责声明:
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。
任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我。
本文转载自:美团技术团队 龙猫 LongCat 龙猫 LongCat《正式开源!美团 LongCat-2.0 同步开放国产卡推理代码》
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。










评论