Day-0 支持:摩尔线程完成美团 LongCat-2.0 极速适配

浏览13次 点赞0次 收藏0次

7 月 6 日消息,今天,美团将万亿参数大模型 LongCat-2.0 正式开源。摩尔线程随后宣布,基于 AI 训推一体全功能 GPU 智算卡 MTT S5000 及 MUSA 软件栈,已完成对该模型的快速适配

图片

▲ LongCat-2.0 模型在 MTT S5000 上运行

据介绍,此次适配覆盖模型加载、推理引擎拉起、关键算子优化、部署验证与精度校验等全链路环节,使 LongCat-2.0 能够在 MTT S5000 上实现稳定、高效的推理运行。

作为美团自研的新一代万亿参数 MoE 大模型,LongCat-2.0 总参数量达 1.6T(平均激活约 48B,动态范围 33B~56B)。该模型专为 Agentic Coding 场景设计,原生支持 1M 超长上下文,并通过自研稀疏注意力机制(LSA)、ScMoE 跨层快捷连接架构与零计算专家动态激活机制,实现了资源的高效利用与多任务协同。

图片

摩尔线程技术团队依托 SGLang-MUSA 推理引擎及 MUSA 软件生态,围绕 LongCat-2.0 的模型结构和推理特性,快速完成从框架兼容到性能优化的全链路适配。

硬件原生 FP8 加持,释放长上下文推理性能

  • LongCat-2.0 面向更复杂的任务处理需求,在实际部署中往往涉及长输入、多轮上下文、复杂指令分解和持续生成等推理负载,对 GPU 算力、显存容量、访存带宽和推理调度能力均提出更高要求。MTT S5000 具备硬件级原生 FP8 加速能力,单卡具备高算力、大容量显存与高带宽,可为长上下文输入、KV Cache 读写和高并发推理提供稳定支撑。结合 SGLang-MUSA 推理引擎与 MUSA 软件栈的协同优化,LongCat-2.0 在 MTT S5000 上能够更充分释放推理性能,提升在线服务响应效率与系统吞吐能力。

标准化工程路径,缩短前沿模型部署周期

  • 摩尔线程基于持续沉淀的模型适配经验,将模型结构解析、权重加载、推理框架兼容、算子验证和部署测试形成标准化工程路径,使 LongCat-2.0 能够在 MTT S5000 上快速完成推理验证。这不仅进一步体现了 MUSA 软件栈对主流模型生态的高度兼容性,也有效降低了前沿模型在国产算力平台上的迁移和部署门槛。

服务 AI 应用落地,支撑 Coding、Agent 与企业知识场景

  • 围绕 AI Coding、Agent 工作流、企业知识库问答和长文档分析等典型应用,摩尔线程对 LongCat-2.0 推理链路进行了部署级验证。通过框架、算子和调度层面的协同优化,MTT S5000 能够为客户提供兼具性能、稳定性和可扩展性的推理基础设施,助力大模型应用更快从技术验证走向生产部署。

附 LongCat-2.0 官方开源地址:

声明:本文转载自IT 之家,转载目的在于传递更多信息,并不代表本社区赞同其观点和对其真实性负责,本文只提供参考并不构成任何建议,若有版权等问题,点击这里查看更多信息!本站拥有对此声明的最终解释权。如涉及作品内容、版权和其它问题,请联系我们删除,我方收到通知后第一时间删除内容。

点赞(0) 收藏(0)
0条评论
珍惜第一个评论,它往往能得到较好的回响。
评论
游客
游客
登录后再评论
  • 鸟过留鸣,人过留评。
  • 和谐社区,和谐点评。