微軟 Decision-1：用一個小模型替大模型做選擇題

微軟在 2026 年 10 月初悄悄加了一個不想和你說話的模型。它叫 Microsoft-Decision-1，建立在 Qwen3.5-9B 之上，唯一的活兒是做選擇。給它一個請求和一組選項，它返回一個決定。它不寫長文，不做對話。它做出選擇，又快又便宜，而這種「窄」正是重點。

這個說法聽起來平淡，直到你看清大多數 AI 產品把算力花在哪。一個成熟系統裡很大一部分呼叫並不難。它們是路由呼叫、意圖檢查、分類步驟，站在昂貴模型的前面。為這些支付旗艦價格是一種浪費，而這種浪費會悄悄讓帳單翻倍。

AI 系統裡最常見的工作

任何處理真實流量的流水線，主要都在做小決定。這條訊息屬於哪個意圖。這是支持問題還是銷售問題。這個請求需要長回答還是一句話。是否該升級給人類。每一個都是在帶標籤的選項裡做選擇，而每一個現在都由那個隨後要回答實際問題的超大模型來回答。

一個只為選擇而存在的小模型改變了經濟帳。9B 模型跑一次短分類，比前沿模型做同樣的活便宜得多、也快得多。如果路由做得準，昂貴模型只在真正需要時觸發，整條系統的成本和延遲都會下降。

{{INLINE1}}

「小模型」才是有意思的部分

規模才是故事。行業花了兩年追逐更大的數字，而過去一年的一股逆流，是讓模型匹配任務。九十億參數的模型小到可以自託管，便宜到可以常駐運行，快到可以放進請求路徑而不成為瓶頸。這與「最好答案」是不同的設計目標，而很多生產系統真正要的就是這個目標。

把它建立在 Qwen3.5-9B 上也值得一提。微軟有自己的模型線，卻在這裡伸手拿了開源的基座並做了專門化。這是務實的選擇：基座模型夠用，面向決策的微調才是增值，結果是一個工具而非旗艦。它也說明，一個強大的開源基座如今是所有人都能搭的基礎設施，包括那些本可以自研的公司。

沒人做發布會的路由層

決策模型指向技術棧裡很少開發布會的那一層：決定接下來發生什麼的那層。延遲預算、成本上限、回退和升級規則都住在那裡，而它們對使用者體驗的影響超過那個頭條模型。路由好的系統顯得快而可靠；路由差的系統顯得又貴又慢，即使背後是很好的模型。

這個品類會成長。隨著智能體流水線增加更多步驟，每個請求裡的小決定變多，對專門、廉價選擇器的需求就更強。明年有意思的競爭，可能不是誰有最聰明的模型，而是誰能拼出最便宜可靠的一組模型。

採用之前該測什麼

決策模型只有決定做得好才有用，而這裡的品質不在文采。值得測的事情很瑣碎也很關鍵。它在你自己那些類別上的準確率如何，而不是在泛化集合上。當輸入含糊或不屬於任何類別時它怎麼做。當被問到職責之外的事時它怎麼辦，因為一個胡亂猜而不棄權的選擇器會悄悄毒害整條流水線。以及按你真實流量的成本是多少，因為到處都用便宜模型，依然是一筆開銷。

延遲值得單獨提。路由模型坐在關鍵路徑上，所以它增加的每一毫秒都會加到每個請求上。零點幾秒內回答的模型可以被自由呼叫；需要一秒鐘的模型則開始重塑圍繞它的架構。對一個選擇器來說，速度不是好屬性，而是決定你能多頻繁使用它的屬性。

有個容易忽略的失效模式。小的路由錯誤會累積。一次錯誤路由把請求送向錯誤的路徑，如果這條路徑昂貴或緩慢，使用者就會感受到。這就是為什麼決策模型通常部署在護欄和回退之後，而不是作為唯一的閘門。目的不是從硬邊界上移除人工設計的規則，而是降低簡單多數情況的成本和延遲。

回退模式

使用 Decision-1 這類模型最常見的方式是級聯。一個廉價選擇器先檢查請求。清晰的案例由小模型直接回答。邊緣案例上交更大的模型。真正困難的交給人類或專門工具。每一層處理自己擅長的部分，昂貴資源只在簡易篩選器說需要時才觸發。

這個模式不新。呼叫中心、垃圾郵件過濾和搜尋排序都是這麼運作的。新的是語言模型現在能對自然語言意圖做第一遍處理，而這過去要么靠脆弱規則，要么靠全尺寸模型。這是真實的能力轉變，也是為什麼小決策模型正在技術棧各處出現，而不是一種新奇玩意。

為什麼專才在這裡勝過通才

一個專門訓練來選擇的模型有一個容易被低估的優勢：它不會在沒人要的東西上浪費輸出。一個通用助手被交予路由任務時，傾向於解釋自己、含糊其辭，並產出一段文字，而一個標籤就夠了。這種囉嗦不只是煩人，它消耗 token 和延遲，還讓輸出更難被程式解析。返回乾淨選擇的小決策模型運行更便宜，也更容易接進系統。

這就是專門小模型背後的全部賭注。你用廣度換一個工作上的可靠性，並因為這項工作又常見又便宜而獲勝。當成千上萬個決定都壓在同一個狹窄任務上時，一個只是夠好的專才會迅速擊敗一個資歷過高、價格過高的通才。

它釋放的訊號

Decision-1 是一個小發布，帶著清晰的訊息：不是每個問題都該用最大的模型。做 AI 產品的公司越來越在把一組模型接起來，大模型處理難題，小專家處理其餘。這類模型容易被忽略，因為它們從不出現在演示裡。它們出現在帳單裡，以及產品的手感裡。而那才是決定一個 AI 功能能否在真實使用者面前存活的所在。