房間裡最便宜的模型，才是最該留意的

房間裡最便宜的模型，才是最該留意的

Anthropic 於 10 月 7 日發布 Claude Haiku 5.5。這不是那種會自己衝上熱度的發表。Haiku 是 Claude 家族裡的小個頭，專門做那些無聊的活，小型模型的發布很少能登上頭條。但這次還是值得多看一眼，原因只有一個數字：執行成本比 Haiku 4.5 低了約 75%。

在一個本來就便宜的模型上再砍掉四分之三的成本，會改變哪些事值得做。當一項功能幾乎免費時，你就不再精打細算地分配它。

為什麼小型模型才是關鍵

目前真正落地的有趣 AI 系統，大多不是單一模型，而是一套編排。大型模型負責規劃，幾個小型模型處理各個具體步驟：摘要這份文件、分類這張工單、回答這筆資料庫查詢、檢查這次程式碼變更。功勞歸大型模型，量卻是小型模型扛的。

這代表，一個代理型產品的經濟效益往往取決於便宜的那一層，而不是旗艦模型。如果你的子代理只要幾美分，你就能多養幾個、多重試幾次、把鏈路拉得更長。如果它們要花上數美元，你就得圍繞稀缺性來設計，而稀缺會反映在更差的產品上：檢查更少、迴圈更短、嘗試第二種做法的意願更低。

Haiku 5.5 究竟帶來什麼

Haiku 5.5 的定價與 Haiku 5 相同，輸入每百萬個 token 2 美元，輸出每百萬個 token 10 美元，快取讀取為 0.20 美元。Anthropic 表示，它讓大多數工作的成本最多降低 30%，在 Claude Code 中的可用量提升 30%。它還附有一個可調整的 effort 設定，讓你能在模型回答前調整它思考的強度，當你追求成本而非深度時，這是個很有用的旋鈕。

Anthropic 將它定位用於摘要、資料庫查詢、分類與程式編寫子代理等工作，並指出其模型卡顯示並未跨越 CB-2 與 Autonomy-2 門檻，災難性錯位風險偏低。對於需要在部署模型前先取得核准的團隊來說，這個細節不是裝飾，而是決定你能出貨、還是只能在審查佇列裡等待。

可調整的 effort 設定是最被低估的部分。它讓同一個模型能勝任兩種截然不同的工作：為高吞吐量的過濾做一次快速、便宜的掃描，再為通過篩選的案例做一次更慢、更謹慎的處理。先便宜、後謹慎，這正是大多數高性價比流程最終成形的方式。

5.5 這一代還在持續疊加

Haiku 5.5 是 5.5 家族的第二款模型，前一款是 Opus 5.5。10 月裡整個產業的走勢相當一致：推論變得更便宜一些，小型模型變得更好一些，而日常 AI 工作的成本底線不斷下移。OpenAI 把 GPT-6 推給所有人，Google 預覽了 Gemini 4 Argon 並隨之降價，Anthropic 也削減了自己產品線的底部。

單看每一步都稱不上戲劇性。但合在一起，它們描繪出一個市場：有能力的智慧正在變成一種商品化的輸入，而價值轉移到圍繞它的一切：資料、工作流程、評估，以及信任。當模型本身變便宜時，差異化的就變成那些從來不屬於模型的部分。

路由變成一門學問

當旗艦模型與小型模型之間的價差很大時，價值最高的工程決策往往不是用哪個模型，而是哪個步驟用哪個模型。一個搭得好的系統，會把容易的那 80% 請求交給便宜的那一層，把昂貴的模型留給真正需要它的案例。

這是個路由問題，而且比看起來更難。你得在拿到答案之前就判斷難度，也就是要建立一個分類器或啟發式規則，來決定每個請求該往哪裡去。往一個方向判錯，你會把錢浪費在瑣事上；往另一個方向判錯，你會拖累那些真正重要的請求的品質。

一個便宜了 75% 的小型模型，會把這道取捨裡安全的那一側拓寬。你可以更大膽地路由，也可以用一道驗證掃描來接住錯誤，因為路由決策和檢查現在都很便宜。

省下來的錢該怎麼用

顯而易見的做法是把更多工作派給小型模型。更細膩的做法，是重新考慮那些你曾判定為太貴的任務。一個會讀遍所有客服工單、為目錄裡每張圖片標註、或替每份文件起草初稿的系統，過去是個預算決定。按新價格，其中一些決定會翻轉。

這裡也有個陷阱。更便宜的 token 會誘使團隊跳過評估，讓低品質的輸出規模化地流出。成本下降並不代表錯誤變免費。恰恰相反，它讓衡量變得更重要，因為失效模式從“我們負擔不起去嘗試”變成“我們什麼都試了，卻沒人去查核”。

處理得好的團隊，會把一部分省下來的錢花在那些正是更便宜的 token 才讓其變得負擔得起的無聊基礎設施上：取樣、評估與護欄。這就是用降價來擴大產出，和用降價來提升品質之間的差別。

為什麼這次降價比看起來更大

值得停下來想想這種降價帶來的疊加效應。團隊並不是按固定預算在花模型呼叫的錢，而是朝一個品質目標去花。當每次呼叫變便宜時，他們不會把差額收進口袋，而是把目標抬高：更多檢查、更多重試、更好的上下文、更長的鏈路。75% 的降價既壓低了帳單，也抬高了團隊願意嘗試的野心。

早先的降價在實務上就是這樣展開的。當推論模型變便宜時，系統開始在更多步驟上做推論。當上下文變便宜時，系統開始餵入更多文件。一個單位工作的價格，決定了疊在它之上的系統的形態，而更便宜的單位換來的是更審慎的設計。

對代理而言，這一點尤其直接。代理是一個迴圈，迴圈的成本等於每步成本乘以步數。把每步成本砍得夠狠，你就能讓迴圈跑得更久，而這正是區分一個有用的代理和一個讓人抓狂的代理的主要因素。Haiku 5.5 是朝著值得跑到完成的迴圈邁出的一步。

那個不張揚的論點

前沿模型的發表會吸引目光。但決定一個 AI 產品負擔得起做什麼的，通常是那些小型模型。Haiku 5.5 提醒我們，在底層砍掉 75% 的價格不是一句附註，而是經濟上可能之事的改變，而這類改變通常會在幾個月後出現在已出貨的產品裡，出現在那些沒人會想到要歸功於某次模型發布的功能裡。