← 返回部落格
Ai預計閱讀 9 分鐘

71.5% 的 token,23% 的帳單:一座閘道器的九月帳本

發布於 2026年10月17日
71.5% 的 token,23% 的帳單:一座閘道器的九月帳本

一座閘道器、一個月、一個讓人不舒服的比例

Vercel 在 10 月 15 日發布 AI Gateway 生產指數,涵蓋 9 月的流量。標題數字很容易讀錯:開放權重模型處理了經過閘道器 71.5% 的 token,卻只佔約 23% 的支出。

快速掃過去,像是開放模型的一次勝利遊行。仔細讀,它說的東西更有用。在閉源模型上每花一美元,大約三毛錢就買到八倍的 token。量和錢分家了,而這個分家就是整個故事。

照例先講但書,因為它們很重要。這是單一公司的一座閘道器,在生產應用和實驗室之間承載了幾十兆 token。大型實驗室的企業客戶常常直接呼叫那些 API,所以閘道器會把他們算少。支出是按牌價估算,真實帳單還有折扣。Vercel 自己也在賣這座閘道器,等於在給自己的生意打分數。把它當成多模型團隊行為的一份好樣本,而不是市場普查。

便宜的那個模型不是趨勢,是一個模型

報告裡最能說明問題的一句話是關於 DeepSeek-V4.1-Flash:它處理了 9 月全部 token 的近一半,卻只佔 2.6% 的支出。它的每 token 價格大約是開放權重平均值的五分之一。

就這一句,把 71.5% 重新定義了。這不是開放模型大舉接管生產環境的浪潮。其中很大一部分,是一個極便宜的模型做了極大量的工作。如果你想從這份指數學到什麼,學的是任務路由,不是授權意識形態。

錢的那一側同樣具體。開放權重模型的支出佔比從 6 月的約 5% 升到 9 月的接近四分之一,在小基期上翻了四倍多。但這次成長裡大約三分之二來自昂貴的開放模型,以 Kimi K3 為首,每 token 成本至少是開放權重平均值的四倍。便宜的模型帶來量,貴的模型帶來錢。這點在開放陣營內部成立,不只是開放與閉源之間。

Anthropic 在閘道器支出的佔比從 63.7% 掉到 43.9%,首次跌破一半。很容易讀成 Anthropic 丟了生意。報告說的正好相反:前沿模型的支出自 12 月以來成長了十倍。Anthropic 從一個大得多的餅裡切了更小的一塊,賺的錢卻更多。在一個規模成長 13 倍、每 token 均價下跌 47% 的市場裡,市佔下滑就是這個樣子。

換模型已經變成每月的習慣

9 月裡,大約每兩個團隊就有一個換掉自己最常用的模型。幾乎每三個就有一個換掉最常用的實驗室,指數稱這是歷史紀錄。這兩個數字已經連續五個月上升。

這在企業軟體裡是件怪事。基礎設施的選擇通常會僵化。模型的選擇卻往反方向走,報告給了一個機制解釋:自 12 月以來處理過至少十億 token 的團隊,平均用過 42 個不同的模型。一千萬到一億 token 的團隊平均 15 個。即使小團隊也在混著用。

原因很無聊,也很正確。不同的任務,價格與品質的曲線差得離譜。替工單分類、從發票裡抽出欄位、寫一封給客戶看的道歉信,這是三個不同的問題,本來就不可能用同一個模型、同一個價格解決。

營運上的意涵就不那麼無聊了。如果你的模型名稱在應用裡硬編碼了三十個地方,每次調價都是一次重構。如果它待在一個有你自己評測的路由層後面,那只是改個設定。你一半的同業每個月都在重新決定預設模型。能不用排一個 sprint 就做到這件事的團隊,才是真正把省下的錢收進口袋的人。

A square composition of two glass vessels on a dark surface, one wide and almost empty, one narrow and full, with a single beam of light passing through both

採用率與營收的背離

9 月的兩次發布,比任何圖表都更能說明問題。

TypeSafe AI 的決策模型 Jev 在兩週內就觸及 35.3% 的付費團隊,是這座閘道器史上最快的採用速度,幾乎是第二名 Claude Sonnet 5.5(18.1%)的兩倍。同一段時間裡,它只拿走 0.27% 的支出。它是為快速決策而生的模型:便宜、快、token 用得少。很多團隊試過。它本來就不會貴。

Opus 5.5 走的是另一條路:頭兩週就佔了閘道器超過十分之一的美元,是 9 月所有新發布裡支出佔比最高的。

放在一起看,它們描述的是一個雙層市場,跟開放還是閉源毫無關係。一層是高頻、低風險的呼叫,贏家是每個正確答案成本最低的那個。另一層是低頻、高風險的呼叫,人們願意為最後那幾分品質付錢。一家廠商可以稱霸其中一層,在另一層完全看不見,而兩邊都可以是健康的生意。

沒人寫進標題的那個中國細節

9 月花在中國開發模型上的閘道器支出,有近 70% 是透過美國供應商走的,12 月這個數字還不到 10%。粗略來說,每 1 美元走中國供應商,就有約 2.50 美元走美國供應商。

這是路由事實,被包裝成地緣政治話題。企業想要中國開放模型的價格,也想要美國廠商的帳務、延遲和資料處理姿態。閘道器的存在正是為了讓這種組合成立,而錢跟著組合走,不跟著旗子走。

這也意味著,"開放模型贏了"這個說法,取決於你問誰。模型權重可能是中國的。帳單可能是美國的。做決定的那個團隊,大概兩個地方都不在。

那該怎麼做

三件事,沒有一件需要你對開放權重有什麼立場。

替每一次 AI 呼叫貼上任務標籤。看不見的東西沒辦法路由。大多數團隊對哪個功能最花錢有個模糊的感覺,對這些功能內部哪些呼叫最花錢卻幾乎一無所知。

拿你最重要的三個任務,各測兩個模型。一個前沿的,一個便宜的。不是在排行榜上測,而是用二十個有已知好答案的真實樣本。二十個就夠抓出那種悄悄弄壞格式、漏掉欄位的替換。

假定你的預設模型在一季內會變。這份指數裡一半的團隊上個月就已經換了。為此設計不是過度工程,這是現在的基準線。

真正的結論並不光鮮。模型選擇已經變成一項每個月都要重談的採購決定,而帳單跟著工作裡最難的那部分走,不跟著 API 上的牌子走。這個市場比一年前健康,也難規劃得多。

相關文章