← 返回部落格
Ai預計閱讀 10 分鐘

美團用國產晶片訓練 1.6 兆參數模型。真正高明的是它為何而建。

發布於 2026年11月7日
美團用國產晶片訓練 1.6 兆參數模型。真正高明的是它為何而建。

11 月 2 日,美團發布 LongCat-2.5,這是一個原生多模態模型,總參數達 1.6 兆,每 token 約啟用 480 億參數。

這次發布有兩個細節在中國以外報導不足。第一,訓練完全在中國國產算力上進行,美團稱這是該硬體上完成過的最大訓練任務。第二,美團執行長已公開表示,公司不會成為 Token 工廠。

把這兩點放在一起看,LongCat-2.5 與其說是在競逐前沿,不如說是一個為單一公司業務打造的超大型工業工具。

架構簡述

視覺部分是更有趣的工程。LongCat-2.5 將視覺訊號表示為多層級離散 token,而不是把連續嵌入傳給語言主幹。它沿用 LongCat-Next 的方法,讓語意對齊編碼器輸出的原生解析度特徵經過殘差向量量化,把影像轉換成 Transformer 能像處理詞語一樣、以 token 處理的形式。

結果是單一 token 空間,而不是外掛式視覺編碼器;這正是美團能宣稱原生多模態,並把互動式網頁、3D 展示頁面與創意設計等任務,說成模型原本就能處理、而非後來才適配的原因。

訓練規模也有記錄。中期訓練使用長達 100 萬 token 的序列,累計訓練 token 達數兆。多卡長上下文工作是記憶體容量與卡間通訊成為瓶頸的地方,因此美團圍繞超級節點最佳化任務切分,讓大部分參數與資料流量留在節點內的快速互連上,而不是跨越節點。

效率數字很具體。在長上下文監督微調上,單卡訓練吞吐量比分散式資料平行基準提升 86%,美團將其描述為一張卡做約 1.86 張卡的工作。推論方面,模型採用 W4A4 量化,把專家權重與活化值都推到 4 位元,並針對國產加速器的特性調校。相較 W8A8 INT8 基準,輸入處理與每 token 生成的吞吐量提升約 40%,首 token 延遲下降約 16%,每 token 生成時間下降約 20%,下游任務表現大致持平。

最後那組數字才是真正的成就。讓一個兆級參數模型能在非市場領導者的硬體上訓練與服務,本質上是關於記憶體頻寬與通訊的工程問題;而美團 2026 年 6 月發布的 LongCat-2.0,是首個完全在國產算力上訓練與服務的兆級參數模型,算是暖身。

基準測試,附上慣例但書

美團報告稱,LongCat-2.5 在一系列主流基準測試中落於 Claude Opus 4.8 與 Claude Opus 5 之間,並在一些項目上超越 Opus 5。

這些是廠商自行選定基準測試、針對競爭對手模型所做的比較,且由廠商自行報告。應把它們視為該模型具競爭力的證據,而不是排名。更有用的訊號是:一家中國本地生活服務公司,如今推出的模型已能與 Anthropic 的前沿產品線相提並論,並且同時公布了訓練效率方面的工作。

打造它的目的

官方陳述的設計目標是長時程代理任務。美團的描述涵蓋:在長序列訓練加入長時程軌跡資料、執行大規模長時程強化學習,以及把真實代理失敗軌跡轉換成可重現、可驗證的訓練任務。最後這項做法,是更多實驗室應該仿效的:把自己代理的失敗轉成資料集,比抓取更多網際網路內容更便宜。

接著是商業邏輯。美團在中國數千個城市經營外送、到店服務與旅遊。它的商家是利潤微薄的小型經營者。站在這個位置來看,一個更好的聊天機器人,遠不如一套能讀取商家通路資料、指出他們在哪裡虧錢,然後採取行動的軟體。

美團公布的例子值得詳細引用。在一次多通路品牌營運分析中,模型自行建立了通路損益表,接著辨識出付費 GMV 成長 23.2%,但通路利潤下降 1.7%。它把這一點連結到清庫存經濟效益、回購行為與庫存風險,並提出差異化資源配置建議。

這是一條真正的分析鏈。特別突出的是,模型選擇在成長數字之外同時計算利潤率;這正是有經驗的經營者會做的事,而儀表板不會。

美團把這套能力包裝成名為「妙手」的產品,一個面向商家的 AI 營運工作台。它理解行業指標與品牌規則,並在商家授權範圍內呼叫工具與系統來完成任務。美團表示,它已服務古茗、徐聲記與益禾堂等連鎖品牌,涵蓋品牌分析、門店管理與獲客。

策略論點

王興在 8 月財報電話會議上的說法,是中國平台執行長對模型策略最清楚的表態。他說,AI 的長期價值在於它是否真正進入真實工作流程、解決真實問題,並成為穩定的基礎設施。美團不會成為 Token 工廠。它的模型與產品是為了支撐主業而存在。

把這句話對照過去一年前沿實驗室的行為,差異非常鮮明。OpenAI、Anthropic 與 Google 打造模型,是為了賣 token 與訂閱。美團打造模型,是為了改善一家奶茶連鎖的利潤率。

兩者都合理。它們會產生非常不同的組織。Token 工廠最佳化的是基準測試領先與 API 價格。自用型模型最佳化的是經營者所需的特定推理,以及在自己的交易量規模下運行它的成本;這就是為什麼在這裡,W4A4 的工作比排行榜分數更重要。

服務成本是無聲的頭條

四位元量化值得另外說明,因為它處理的正是實驗室外部署時真正受限的條件。

矽晶片表面極微距照,可見細緻金色互連線與重複單元。

一個總參數 1.6 兆、每 token 啟用 480 億參數的模型,對任何單一 token 來說都不需要把整個模型放進快速記憶體,但它確實需要能快速觸及啟用的專家;而在四位元下,權重佔用的空間只是十六位元時的一小部分。美團報告稱,相較 INT8 基準,輸入處理與每 token 生成的吞吐量都提升約 40%,首 token 延遲下降約 16%,每 token 時間下降約 20%,下游品質維持不變。

對一家服務自身交易量的公司來說,這正是「AI 功能的成本高於它所保護的利潤」與「不會如此」之間的差別。這也是那種不會產生排行榜名次的工作,因此很少被報導。

未解問題

美團並未公開 LongCat-2.5 的權重,因此國產算力的說法無法被獨立檢驗;該模型可透過 longcat.ai 與 API 取得,而非以公開釋出的形式提供。效率提升是相對於美團自行定義的基準來衡量。

自用型模型也有常見的張力:它在美團業務上越擅長,在美團業務之外可能就越不有用。一個針對本地生活服務損益調校的模型,可能在餐廳單位經濟上表現出色,但在法律文件起草上平平無奇。

對中國以外的所有人來說,重點在於:國產晶片限制已從合規問題,轉變為一項有公開吞吐量數字的工程計畫。一旦一家公司能在自己實際買得到的硬體上訓練 1.6 兆參數,並以四位元精度提供服務,前沿與追隨者之間的實際差距就會縮小到金錢無法解決的事情:資料、品味與通路。

相關文章