← 返回博客
Ai预计阅读 10 分钟

美团用国产芯片训练出1.6万亿参数模型。真正巧妙的是它为何而造。

发布于 2026年11月7日
美团用国产芯片训练出1.6万亿参数模型。真正巧妙的是它为何而造。

11月2日,美团发布了LongCat-2.5,这是一个原生多模态模型,总参数达1.6万亿,每个token约激活480亿参数。

此次发布中有两个细节在中国以外报道不足。第一,训练完全在中国国产算力上运行,美团称这是在该硬件上完成的最大训练任务。第二,美团首席执行官已公开表示,公司不会成为token工厂。

把这两点放在一起看,LongCat-2.5与其说是在竞逐前沿,不如说是一个为某家公司业务打造的超大型工业工具。

架构简述

视觉部分是更有意思的工程。LongCat-2.5将视觉信号表示为多级离散token,而不是把连续嵌入传给语言主干。沿用LongCat-Next的方法,来自语义对齐编码器的原生分辨率特征经过残差向量量化,从而把图像变成transformer可以像处理单词一样按token处理的内容。

其结果是单一的token空间,而不是外挂一个视觉编码器;这正是美团能够声称原生多模态,并把交互式网页、3D展示页面和创意设计等任务称为模型本身能够处理、而非经过适配后才能处理的原因。

训练规模也有记录。中期训练使用了最长100万token的序列,累计训练token达到数万亿。多卡长上下文工作是内存容量和卡间通信成为瓶颈的地方,因此美团围绕超节点优化任务划分,让大部分参数和数据流量留在节点内的高速互连上,而不是在节点之间传输。

效率数字很具体。在长上下文监督微调中,单卡训练吞吐相比分布式数据并行基线提升了86%,美团将其表述为一张卡完成约1.86张卡的工作量。推理方面,模型采用W4A4量化,将专家权重和激活值都压到4比特,并针对国产加速器的特性进行调优。与W8A8 INT8基线相比,输入处理和逐token生成的吞吐提升约40%,首token延迟下降约16%,逐token生成时间下降约20%,下游任务性能基本持平。

最后一组数字才是真正的成就。让一个万亿参数模型在并非市场领先者的硬件上完成训练和推理服务,是一个关于内存带宽和通信的工程问题;而美团2026年6月发布的LongCat-2.0——首个完全在国产算力上训练和服务的万亿参数模型——只是热身。

基准测试,附带惯常提醒

美团报告称,在一系列主流基准测试中,LongCat-2.5介于Claude Opus 4.8和Claude Opus 5之间,并在部分测试中超过Opus 5。

这些是厂商自行报告、与竞争对手模型进行的比较,基准选择也由厂商决定。应将其视为模型具有竞争力的证据,而不是排名。更有用的信号是,一家中国本地生活服务公司如今推出的模型已能与Anthropic的前沿产品线相提并论,并且还同时公开了训练效率方面的工作。

它为何而建

其宣称的设计目标是长时程智能体任务。美团的描述包括:将长时程轨迹数据加入长序列训练,运行大规模长时程强化学习,以及把真实智能体的失败轨迹转化为可复现、可验证的训练任务。最后一种做法值得更多实验室效仿:把自己智能体的失败转化为数据集,比抓取更多互联网数据更便宜。

然后是商业逻辑。美团在中国数千个城市经营外卖、到店服务和旅行。其商家是利润微薄的小型经营者。从这个位置看,一个更好的聊天机器人,远不如能读取商家渠道数据、指出他们在哪里亏钱并采取行动的软件重要。

美团公布的例子值得详细引用。在一次多渠道品牌经营分析中,模型自行构建了渠道损益表,然后发现付费GMV增长了23.2%,而渠道利润下降了1.7%。它将其与清仓经济性、复购行为和库存风险联系起来,并提出了差异化资源配置建议。

这是一条真正的分析链。引人注目的是,模型选择在增长数字之外同时计算利润率,这正是经验丰富的运营者会做、而仪表盘不会做的事。

美团已将其封装为一款名为“妙手”的产品,这是面向商家的AI经营工作台。它理解行业指标和品牌规则,并在商家授权范围内调用工具和系统来完成任务。美团称,它已在为古茗、Xushengji和益禾堂等连锁品牌提供服务,覆盖品牌分析、门店管理和获客。

战略逻辑

王兴在8月财报电话会上的表态,是中国平台公司首席执行官就模型战略所作出最清晰的表述。他说,AI的长期价值在于它是否真正进入真实工作流、解决真实问题,并成为稳定的基础设施。美团不会成为token工厂。其模型和产品存在是为了支撑主营业务。

将其与过去一年前沿实验室的行为对照,差异十分鲜明。OpenAI、Anthropic和Google构建模型是为了销售token和订阅。美团构建模型是为了提高一家奶茶连锁的利润率。

两者都合理。它们造就截然不同的组织。token工厂针对基准领先和API价格进行优化。自用模型则针对运营者所需的特定推理,以及按自身交易量规模运行它的成本进行优化;这就是为什么在这里,W4A4的工作比竞技场分数更重要。

服务成本才是低调的头条

4比特量化值得单独说明,因为它解决了真正限制实验室之外部署的约束。

硅晶片表面的极限微距特写,带有细密金色互连线迹和重复单元。

一个总参数1.6万亿、每个token激活480亿参数的模型,在处理任何单个token时都不需要把整个模型放进高速内存,但它确实需要能够快速访问到激活的专家;而在4比特下,权重占用的空间只是16比特下的一小部分。美团报告称,与INT8基线相比,输入处理和逐token生成的吞吐均提高约40%,首token延迟下降约16%,逐token时间下降约20%,下游质量保持稳定。

对于服务自身交易量的公司来说,这决定了一项AI功能是成本高于它所保护的利润,还是并非如此。这也是一类不会产生排行榜名次的工作,因此很少被报道。

未解问题

美团没有发布LongCat-2.5的权重,因此国产算力这一说法无法被独立检验;该模型通过longcat.ai和API提供,而非开源发布。效率提升是相对于美团定义的基线测量的。

自用模型还存在一种常见的张力:它在美团业务上越擅长,在业务之外可能就越没那么有用。一个针对本地生活服务损益调优的模型,可能在餐厅单位经济模型上表现出色,而在法律文书起草上平平无奇。

对于中国以外的所有人来说,关键启示是:国产芯片约束已从合规问题转变为一项工程计划,并且公布了吞吐数字。一旦一家公司能够训练1.6万亿参数,并在其真正买得到的硬件上以4比特精度提供服务,前沿者与追随者之间的实际差距就缩小到金钱无法解决的事情上:数据、品味和分发。

相关文章