← 返回博客
Ai预计阅读 10 分钟

一家中国 GPU 厂商公布了训练数据,却没交代对标的是谁

发布于 2026年11月15日
一家中国 GPU 厂商公布了训练数据,却没交代对标的是谁

11 月 6 日,在中国一场通信行业会议上,摩尔线程(Moore Threads)公布了 MTTS5000 平台的一组训练结果。核心指标具体到原则上可以核验:一个 2360 亿参数的混合专家模型从零开始训练,语料超过 25 万亿 token,MMLU 成绩与国际主流算力卡持平,有效训练时间超过 90%。这几项凑在一起,等于把训练这件事的四个面都点了一遍:模型多大、数据多少、效果如何、跑得稳不稳。

平台跑在 PH100 芯片上,摩尔线程称这批芯片是首批通过国家信息安全评测的产品,配套的是 MUSA 软件栈。芯片和软件栈一起发布,是国产算力厂商这几年的标准动作,也是这类公告里最难核实的那一部分。

可以拆的东西很多,缺口也很大。所有数字都是自报的,对标对象只被描述成国际主流训练 GPU,没有点名任何型号。这个说法可以从当下的旗舰一直覆盖到三年前的旧卡,跨度足够让同一个倍数在两种情况下都成立。基线没有名字和配置之前,那些倍数只是宣传。

不过,有些说法比吞吐倍数更有信息量,有一条尤其值得看。

真正重要的那个数字

有效训练时间超过 90%,是这份公告里最不亮眼、也最能说明问题的数字。它衡量的是集群把多少实际时间花在干活上,而不是花在等待上:等一个故障节点、等 checkpoint 落盘、等网络恢复、等作业重启。跨度几个月的训练里,这些等待会一分一秒地累积,最后决定这次训练是三周跑完还是五周跑完。

深色表面上并排的一排相同钢棒,其中一根被抛到镜面,底下垫着一片薄黄铜把它抬起

峰值 FLOPS 是规格表上的数字,有效训练时间则是运维数字。大集群规模一上去就容易偏离理论利用率,几千张卡同步跑一个大模型,最慢的那一步决定整步的耗时。原因很少出在芯片上。调度器怎么排、互联稳不稳、故障恢复快不快,这套栈有多少是厂商自己写的、有多少是借来的,才是关键。

一套国产栈能在 2360 亿参数 MoE 的从零训练里维持 90%,这比矩阵乘快多少难证明得多。它说的是那些无聊的部分能跑通。真假是另一个问题,但方向选对了:愿意谈这个数字,说明团队知道瓶颈在哪。

把集群压到 90% 以下的故障模式都有据可查,而且没有一个是光鲜的:一块拖后腿的 GPU 让整个同步步变慢,一次 checkpoint 写入让训练停几分钟,一张在所有归约流量下退化的网络,一个让卡在作业之间空转的调度器。修这些是软件活,按工程师年计,而且恰恰是规格表展示不了的那部分。它也最能区分一套栈是长期跟自己人较劲磨出来的,还是照着文档拼起来的。

从零训练为什么重要

大多数国产加速卡的发布讲的是微调或推理,因为这两件事容易,出结果也快。用随机初始化在 25 万亿 token 上训一个 2360 亿参数的 MoE,是另一个量级的说法:连续数月运行、规模化的 checkpoint 管理,以及一条要么收敛要么不收敛的 loss 曲线。中间任何一个环节出岔子,前面几周都白跑。

MMLU 持平是个很弱的代理指标。它已经饱和,模型可以沿着完全不同的训练路径落到差不多的分数。它能确认的是这次训练没崩。一个坏掉的分布式训练作业,产不出分数落在正常区间里的模型。换句话说,这条证据只能否掉失败,证明不了优秀。

公告里另外两项比 MMLU 有意思。摩尔线程称同一套栈原生训练了北京大学的世界模型 EvoPhys-World5D,该模型在斯坦福 WorldScore 的世界生成维度上连续 37 天保持第一。它还说端到端支持了北京智源人工智能研究院的具身模型 RoboBrain2.5 的训练。世界模型和具身模型都不是标准 transformer 那一套,对显存和通信模式的要求更偏门。

这些是有明确归属方的第三方负载,比自家跑分更容易被证伪。如果模型确实存在、榜单名次确实为真,那这个集群确实干成了事。

自动驾驶那项说法

唯一挂了具体负载的倍数是自动驾驶的 BEV 感知:单机和双机训练吞吐达到国际主流训练 GPU 的 1.56 到 1.67 倍。两个场景一起给,比只给一个峰值诚实,至少透露了扩展性的走向。

感知模型是个公平的考题。它们中等规模、吃数据,对显存带宽和互联敏感,正好是新架构能赢也能输的地方。在这个负载上,一套调好的栈对上一张旧卡,1.6 倍是可信的;对上一张当前最强的卡,在没交代 batch size 和精度的情况下,就不可信。感知训练还有个特点:瓶颈常常落在数据管线上,压测时稍不留神就把 IO 时间算进了加速比。

这些背景一个字都没给。

什么能让它可信

三项披露就能定掉大半。

说出基线型号、显存配置和互联拓扑。没有这些的吞吐对比算不上对比,最多算一次内部回归测试的结果。

公布 2360 亿那次训练的 loss 曲线和 token 级吞吐,而不是只给一个最终的 MMLU。训练效率在曲线上出现的时间,远早于它出现在跑分上。曲线还藏不住中途崩过几次、回滚过几个 checkpoint。

再说清训练代码里 MUSA 原生写的占多少、从 CUDA 移植的占多少。移植没问题。把移植说成原生是另一种说法,而企业规划迁移时在意的恰恰是这一条,它直接决定要投多少人。

这些问题都不算刁难。任何买训练集群的人在签字前都会问,只是答案通常写在 NDA 里,而不是写在主题演讲里。

厂商公布哪些数字是有原因的。中国的企业买家没法自己给竞争产品跑分,因为对比需要两张平台摆进同一个机房,而出口管制让这个机房很难凑齐。在这个真空里,厂商的演讲稿就成了参考文档,一个在足够多场会议上重复过的说法开始起到事实的作用。这在任何市场都成立,只是在中国,填这个空白的成本更高。

这个缺口,就是采购决策和新闻稿之间的距离。

战略层面的解读

中国的国产加速卡故事走过了三个阶段:能不能跑推理,能不能微调,能不能训练。这份公告是想把第三阶段补上。有意思的细节在于,说法现在挂在一整次大 MoE 训练上,而不是一个跑分内核。内核可以特调,一次几个月的训练没法特调。

如果这些数字经得起第三方复现,实际后果会超出英伟达少卖一单:中国的实验室可以在不需要出口许可的情况下规划一次前沿规模的训练。相较价格,规划周期受到的影响更大。对采购的人来说,要在预算表上重算的那一栏是时间,不是单价。

如果经不起,这份公告仍然标记了一件事:宣传的重心从推理上的对等,转向了训练上的对等。这个说法更难往回收,下一批数字会被拿来对照它读。

相关文章