当前位置: 首页 » 资讯 » 科技头条 » 正文

行业观察 | 揭秘美团“龙猫”:国产算力秘密训练三年,走进真实开发者世界

IP属地 中国·北京 编辑:柳晴雪 财经杂志 时间:2026-07-14 18:11:53

过去三年,用国产算力训练出来的基础模型至少超过五个,但最终被开发者大规模使用和检验的模型几乎没有。LongCat-2.0是少数实现这个目标的模型

文|吴俊宇

编辑| 谢丽容

过去三年,国产芯片一直被认为可以用于推理,却很难承担万亿参数规模的模型训练。

美团LongCat-2.0(龙猫2.0)公开证明,这件事能够做到。6月30日,美团发布了新一代的基础模型LongCat-2.0。技术博客披露,它的完整训练与大规模部署都使用了国产算力集群。其中,预训练在5万多张国产算力芯片上完成,使用了超过35万亿Tokens。

LongCat-2.0是一款总参数量为1.6万亿的MoE(混合专家)语言模型,每个Token(词元)平均激活约480亿参数。根据技术博客上披露的 测试,它在AI Coding(AI代码生成)和 Agent(智能体)任务常用的几个基准测试中,性能接近或超过Anthropic的Opus 4.6。

Opus 4.6 于2026年2月发布,被很多开发者视为跨越了生产力拐点。它是AI Coding和Agent领域的标杆。Opus 4.6长程任务能力取得了重大突破,可以连续自动写两三个小时代码几乎不出错。这改变了过去基础模型执行复杂任务时,随时需要人工干预的状态。

如果只看Coding和Agent能力,LongCat-2.0并不是唯一追上Opus 4.6的国产模型。目前包括智谱GLM-5.2等国产模型也达到甚至超过了这一水平。

LongCat-2.0的特殊之处是,它没有依赖任何海外算力,也没有使用在GPU(图形处理器)上预训练好的模型权重做初始训练。LongCat-2.0技术报告称,“从第一个Token到最后一个Token,全部是在国产算力上完成的。”报告结论是,这一结果验证了我们有能力在国产算力平台上进行前沿级大规模模型训练。

我们了解到,LongCat-2.0是用2023下半年量产的某款主流国产AI芯片训练出来的。它还没用到前述公司2025年-2026年量产的最新型号芯片。

该结果和固有认知不同。2023年以来,用国产芯片训练基础模型一直被判断为:可以干,但不经济。

“如果没有特殊需求,建议不要用国产芯片训模型。”2025年末,某模型创业公司技术负责人曾对我们表示,用国产芯片,考虑适配和验证周期,模型训练周期至少是GPU的150%以上,算力成本要高出一倍以上,后续的适配成本更高。它只能拿去训练千亿、百亿参数的中小尺寸模型。

国内科技公司普遍用国产芯片做推理,拿省下来的英伟达GPU做训练。目前国内绝大部分常用的万亿参数模型,都是用英伟达训出来的。上述模型创业公司技术负责人、某大型科技公司模型平台负责人对我们表达了同一个观点:想要真正完成训出万亿参数基础模型,仍要依赖GPU。他们都是预训练先用H100/H800,再用国产算力复现。

LongCat-2.0这次的进展,提供了另一种可能性。

秘密训练三年

LongCat-2.0用国产芯片训出1.6万亿参数规模的模型,这听起来有些意外。

LongCat团队不是聚光灯下的明星团队。由于工作高度保密,外界并不知道他们过去几年在“水面下”做了哪些事。他们能被公开看到的,只是在GitHub、Hugging Face等开源社区更新模型、评测数据集等。他们第一次发布模型,还是2025年9月初,和其他大模型相比,这个时间甚至显得太晚。

实际情况是,LongCat团队的探索最早可以追溯到2023年。美团当时决定训练自己的基础模型时,内部曾有讨论:到底是用英伟达为代表的主流芯片,还是使用国产芯片?

2023年7月,最终讨论结果是:以终为始,用国产算力训练模型。

也就是说,过去三年,美团几乎都是在秘密用国产芯片做训练。

国产芯片训模型,这条路艰难且高风险。2023年-2025年,主流声音仍然是,国产芯片难以做训练。美团相关人士对我们表示,LongCat-2.0是在一个个小进展的基础上走过来的。这经历了三个里程碑。

第一个里程碑是2024年春节前后,LongCat团队第一次端到端跑通国产芯片的训练,Loss(损失函数,Loss Function,可以理解成模型训练的心电图)数值和主流芯片接近。这初步验证了国产芯片做训练的可行性。

第二个里程碑是2024下半年,当时LongCat团队用1.6万卡训练了一个4500亿参数的MoE模型。根据LongCat团队内部测试,这款模型达到了同等参数规模模型的SOTA(业内领先)水平。不过,它并未开源。

第三个里程碑是,LongCat-Flash在2025年9月训练完成并开源。这款模型参数规模5600亿,是LongCat团队正式发布的第一款模型。当时,Longcat-Flash的技术报告没有披露使用国产芯片做训练,只披露了在英伟达H800集群的推理成本。

一位美团人士对我们表示,2025年下半年LongCat团队逐渐发现,“用国产芯片做训练,这件事情和想象中不太一样,还是走得通。”Longcat-Flash发布后,让他们有信心继续坚持下去。

经过三个阶段的技术积累后,LongCat-2.0的训练目标也更加明确。

美团相关人士对我们表示,LongCat-2.0的算力资源、研发时间的分配中,预训练和后训练比例均为1:1左右。在人力层面,预训练和后训练的比例大概为1:2。后训练中,约80%的工作都是围绕Agent能力建设开展的。

LongCat-2.0预训练阶段,就加入了代码仓库级的数据,让模型理解真实软件工程项目。随后逐步提高代码和推理数据比例,并把上下文长度从8000个Token扩展到100万Token,增强模型处理长任务、长文档和复杂工程任务的能力。

后训练阶段,LongCat-2.0被投入到真实Agent环境,在接近开发者和知识工作者日常任务场景中反复训练。一边完成任务,一边参考多个教师模型的经验,不断改进行为。

训练一个大模型,本质上是做海量的矩阵乘法。一个万亿参数的基础模型,训练过程中要执行超过10²⁶次浮点运算。由于计算数据量过大,必须把模型参数、训练数据,以及计算过程拆分到几万张芯片上并行计算。在这个过程中,国产芯片面临很多现实技术问题。

其一,国产芯片单卡显存更小(某国产算力是64GB,H800是80GB),通信带宽也更紧张(国产算力是392GB/s,H800是900GB/s)。模型训练时,每张芯片能够存放的模型参数、中间计算结果更少,需要更频繁在不同芯片间交换数据。但受限于通信带宽,芯片间数据交换速度更慢。训练效率会因此下降。

其二,算子要重新适配优化,或者重新写。算子是深度学习最小的可执行计算单元。模型训练过程,本质上就是数十亿、数万亿次算子不断重复执行。英伟达CUDA生态经历20年积累,算子已经高度优化。国产芯片在相同模型、数据下,训练出的Loss曲线要和英伟达CUDA平台保持一致,证明训练过程没有产生精度偏差。

LongCat团队抓住了一个重点——只要硬件计算精度没问题,那么就不存在理论上的障碍。后续只是需要面对大量琐碎、细致工程细节,靠人、时间慢慢磨,会逐渐解决问题。

一位LongCat团队人士的看法是,他们过去三年持续打磨了国产算力用于模型训练的机制、流程和方法论。具体包括精度验证方法、算子开发优化方案、框架适配思路、稳定性保障运营机制等。这些具备普适性,可以应用于更大范围的算力验证和适配工作。

在他们看来,这个过程说明大模型训练工程本身是科学而非玄学。国产算力用于大模型训练可行。核心问题是,通过系统科学方法做到细致,遇到问题明确归因并持续改进。

也就是说,硬件短板,仍然可以通过工程优化代偿,但要付出更多时间和人力成本。

如何在国产算力上训练、推理?

美团方面披露,LongCat-2.0训练过程中遇到了国产芯片显存不足、33条通信Bug(程序错误)、57条算子问题等一系列挑战。那么,这些问题是怎么解决的?

为解决显存的问题,LongCat团队在主流的五种并行计算策略之外,新增了EMBP(向量并行)的策略。可以理解为,把原本集中放在一张卡上的Embedding(词元向量转换)计算,拆分到多张卡同时完成,从而减轻单张芯片的显存压力,也减少通信瓶颈。

显存优化策略也是其中的亮点。LongCat团队采取了减少重复存储(ZeRO-1)、减少重复计算(选择性重计算)、显存溢出自动卸载、填充词元不参与复杂计算(词元路由至零计算专家)等方式,尽可能降低显存占用,让大模型能够稳定完成训练。

为了不让通信问题成为瓶颈,LongCat团队利用了超节点架构的优势,把最多48台机器组成一个高速互联的小集群。把通信带宽要求高、要频繁交换数据的计算,优先安排在超节点完成,减少跨集群通信开销。技术报告称,这让预训练吞吐提升约30%。

显存、通信考验硬件能力,算子则是考验软件生态。这个问题挑战更大。

Transformer架构在2022年成为主流之前,深度学习框架有数万个基础算子,衍生算子甚至有数十万个。英伟达CUDA生态历经20年,大多数算子早就反复优化过。

今天高频使用的核心算子虽然收敛到几百个,但仍有大量长尾算子。国产芯片要从头完成这些算子的开发、适配和性能优化。因为一个万亿参数模型持续训练数周、处理数十万亿Token,核心算子会执行天文数字次数的计算。

为此,算子开发适配不仅要快,更要保证计算精度。算子若存在细微计算偏差,长期积累后会导致模型训练效果下降,甚至还可能出现比特翻转(底层数据的随机错误)。

同时,LongCat团队重新开发了一批关键算子,并采用二叉树分段累加的方法,以减少浮点误差累积。还以严格的高精度基线为对照验证国产算力芯片的计算精度。甚至,在计算密集型算子上加入比特翻转检测,及时发现数值异常。

LongCat-2.0的训练涵盖算子、通信、训练框架、硬件、工具等问题。这无法只靠一家公司解决。所以,美团一直与国产算力厂商采取了模芯协同的方式。这件事是双向的——这既需要模型厂商愿意投入资源,也需要算力厂商驻场支持。

我们了解到,美团一直以来都是国产算力厂商合作最深的前三大科技公司之一。国产算力厂商长期会派工程师到美团等大型科技公司驻厂,解决适配与迁移等问题。这种工作方式从2023下半年便已开始。

美团相关人士对我们表示,他们和芯片厂商坐在一起,一条一条解决训练过程中的问题。这不是简单的甲方提需求乙方改Bug,更像是双方在各个层面联合技术攻关。

国产算力厂商还在和美团这些公司一起优化训练框架和开发工具。一位国内主流AI芯片厂商的核心负责人2025年6月曾对我们表示,这是更重要的工作。在他看来,相比英伟达的“CUDA+PyTorch/TensorFlow”生态,国产芯片的软件生态差距明显。

他们采取了务实的策略,自研架构兼容PyTorch、TensorFlow等主流框架,让开发者尽量不大幅修改原有代码,也能把模型迁移到国产硬件上运行。这个过程,也会反过来推动国产算子、编译器、工具链和开发者生态逐步完善。

训练出模型后,下一步是低成本部署用于推理。LongCat-2.0同样部署在国产算力上。

Agent任务中,大量输入都是重复的历史上下文,例如项目代码、系统提示词等。LongCat团队发现,这些场景下,输入Token约为输出Token的150倍。他们的优化思路是,让这些代码和上下文能复用,不必每轮重新计算。国产芯片显存有限,LongCat-2.0会优先保留Agent任务缓存,主动淘汰复用价值低的普通聊天等非Agent场景缓存。

缓存命中相当于模型记忆。缓存命中率越高,重复计算越少。这不仅可以降低用户的Token使用成本,也可以节省模型厂商自己的算力成本。美团相关人士对我们表示,他们通过API(应用接口)接入请求观察到, LongCat-2.0 6月30日以来,线上缓存命中率长期在95%以上。

这一数字高于业内平均水平。我们过去三个月持续使用OpenAI旗下的Codex执行代码开发、日常办公等Agent任务,累计消耗超过100亿Token。最终缓存命中率为92.3%。

虽然任务类型、部署环境并不完全一致,两者不能简单直接比较。但这一数据仍说明,LongCat-2.0部署在国产算力中,能够达到较高的缓存命中率。

开发者用脚投票

模型发布是起点,被开发者真实使用才决定了未来的长期竞争力。

在舆论场上,LongCat-2.0的标签是1.6万亿参数、国产算力训练、性能追平Opus 4.6。但开发者并不关注这些问题。他们更关注,模型是不是真的足够好用、成本够低。因为,开发者不仅是重度用户,也是贡献者。他们在真实使用中的检验,比实验室基准测试更苛刻。他们的真实反馈,也会让模型不断迭代优化。

LongCat-2.0发布后,第一批开发者很快出现在全球最大的开源社区GitHub。截至7月8日,LongCat-2.0在GitHub至少新增132个Issue(讨论)、92个PR(代码提交请求)。这表明,已有开发者开始反馈问题、讨论功能,并提交代码参与项目完善。

我们在GitHub发现,开发者关注的问题包括:API兼容中的细节问题、部署与推理框架适配、计费和缓存价格等。

从开发者的真实声音来看,LongCat-2.0正在快速被Hermes、OpenClaw、oh-my-pi、cc-switch等主流的Agent工具和模型路由工具列为官方支持的供应商。100万上下文长度,128K输出长度、可开关的思考模式,主流Harness(智能体框架)下稳定的任务表现,是它吸引开发者接入的重要原因。

社区早期反馈也显示,LongCat-2.0在企业级大规模部署中,一度不能“开箱即用”。比如,官方代码仓库的部署说明被一些开发者测试后反馈,暂时不能端到端复现;在SGLang这款推理框架适配中,出现过配置项名称不一致,部分模型权重未能正确加载的情况。

这些反馈并不是说,LongCat-2.0模型能力存在问题。因为,真正进入开发者生态的大模型,往往要经历这些过程。问题也会随着开发者反馈,慢慢得到解决。

LongCat相关人士对我们表示,LongCat-2.0一开始就是以开源为核心策略。他们有专门的开源生态团队。这会是一个长期维护的建制,不会止步于放出模型权重。未来他们会在技术分享、社区适配、工具链、案例输出等层面持续投入。

Token消耗量在一定程度也能反映模型在真实开发环境中的受欢迎程度。今年4月底,LongCat-2.0预览版曾以“Owl Alpha”代号匿名登录全球模型聚合平台OpenRouter。这两个月,它的Token消耗规模不低。

OpenRouter统计结果显示,截至6月末LongCat-2.0预览版Token总调用量一度跻身全球前三(备注:6月30日LongCat-2.0正式发布后,预览版即从OpenRouter下架)。

OpenRouter数据显示,在一些Agent工具中,LongCat-2.0预览版受到开发者欢迎。截至6月30日 ,它在Hermes月调用量全球第一,在Claude Code月调用量全球第二,在OpenClaw月调用量位居全球第三。这三款都是目前全球流行的Agent工具。

OpenRouter反映了前沿开发者和创业企业的偏好。它覆盖全球800多万开发者和400多个主流模型,每月Token消耗量超过100万亿。

为了观察LongCat-2.0的真实表现,我们通过OpenCode这款开源Agent工具,对LongCat-2.0与几款全球流行的基础模型(包括GPT-5.5、DeepSeek-V4 Pro、Kimi K2.7 Code),进行了一次简单的体验测试。

需要强调的是,这次体验只是观察完成任务后的Token消耗和缓存命中情况。这并不是严格的性能基准测试,不能反映模型的综合性能。

这次测试使用了我们日常研究工作中的真实任务:统计14家模型公司7月1日-7日在GitHub的开发者生态热度(包括新增Issue、PR数量),并生成一份HTML网页报告。这次任务,每款模型使用相同提示词,连续执行三次。统计结果会和我们此前使用Codex反复统计校验并剔除误差的数据对比,以衡量准确率。

这次体验测试中,LongCat-2.0足以应对日常办公任务。它的数据统计准确率、网页设计能力表现稳定。最令人印象深刻的是它对Token消耗量的控制。体验测试中,LongCat-2.0的Token消耗量和DeepSeek-V4-Pro相差无几。

这三个任务的缓存命中率总体在92%以上。我们随后继续围绕其中一个任务开展研究,连续工作55分钟。整个对话累计消耗1233万Token,缓存命中率提升至95.8%。

目前知识工作者、软件工程师日均Token消耗量动辄可达数千万甚至1亿以上。一个任务就可以消耗数十万、数百万Token。用户普遍关注Token用量、成本问题。Agent任务中,通常输入Token占比3%-5%,输出Token占比约1%,缓存命中Token占比90%-95%。最终的Token综合成本=输入Token成本+输出Token成本+缓存命中Token成本。

LongCat-2.0的Token Plan(Token套餐)采用了一种新的计费方式:套餐只对缓存未命中的Token计费,缓存命中的Token不计入套餐消耗。我们为LongCat-2.0花费9.9元购买了一个包含5000万Token的新用户优惠套餐。 在多个长程Agent任务后,模型累计处理了2047万Token。但由于缓存命中率达到93.8%,套餐最终仅消耗了127万Token。

美团相关人士对我们表示,LongCat-2.0的Token Plan中,缓存命中完全免费。标准API缓存定价为折扣后每百万0.04元。LongCat团队通过深入地工程优化来尽可能降低缓存命中成本,从而免除缓存费用,让高频Agent开发者直接受益。

综合来看,在长期使用中,LongCat-2.0的Token成本会相对更低。

沉寂三年的美团已上牌桌

用国产算力训练模型,从0-1的万亿规模突破固然是里程碑,但长期来看真正的挑战还是能不能被稳定、低成本且长期被使用。

过去三年,用国产算力训练出来的基础模型至少超过五个,但最终被开发者大规模使用和检验的万亿规模模型从未出现。LongCat-2.0首次实现了这个目标。

更关键的是,LongCat-2.0不只证明了国产算力集群可以支撑万亿参数模型训练,更证明了国产芯片训练的模型,可以得到全球开发者的日常使用。

三年的训推过程中,LongCat团队还有一个意外收获——对模型、芯片的技术细节重新消化和理解。

一位LongCat团队人士提到,过去业内默认把国际主流算力作为事实标准,把技术细节视作理所当然,最终知其然而不知其所以然。但在国产算力训练模型的验证过程中,必须深入很多细节,对比国产算力和国际主流算力两种实现方式。这最终加深了他们对底层技术的理解,例如数值精度的原理和差异、不同硬件架构的优劣和优化方法等。

LongCat团队下一步规划是,把在国产算力上积累的推理优化和规模化部署经验反哺到开源社区。他们期望以此增强开源社区对于国产算力推理的信心,吸引更多开发者参与国产算力推理生态的建设。

中国AI产业近几年呈现出了“涌现式”的创新能力——某个技术难题一旦被打通,很快就会被整个行业复现、优化并推向普及。

2025年初,DeepSeek-R1诞生。这让很多公司意识到,基础模型并不是只有少数大型科技公司才能干。2026年,月之暗面Kimi、智谱GLM、MiniMax、美团LongCat都做出了便宜好用的模型。OpenRouter上,中国模型Token调用量近半年已占据半壁江山。

LongCat-2.0也在打开用国产芯片训国产模型的新起点。国际市场调研机构IDC统计显示,2024年-2026年中国市场至少出货了百万枚国产AI芯片。

过去三年,国内对国产算力存在一些偏见。我们了解到,部分国产算力目前并没有得到充分使用。但随着LongCat-2.0后续开源模型权重和训练过程。未来更多基于国产芯片训练的万亿级基础模型也会不断涌现。

LongCat-2.0对美团同样重要。2026年中国资本市场的目光正在从移动互联网转到模型、芯片这些领域。移动互联网业务虽然仍能提供现金流,但缺少想象力。一批老牌互联网公司的市值回到了2014年前后。

如何在新一轮AI浪潮的竞争中维持优势,是新的课题。几乎所有中国一线互联网公司都在训练自己的模型。它几乎就是进入下一轮竞争的入场券。

这背后的逻辑很简单。没有自己的模型,不仅需要给其他模型公司支付Token费用,自己的流量入口也随时可能被模型公司侵蚀。

LongCat-2.0之后,美团已经上了牌桌。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。