71.5% 的 token,23% 的账单:一家网关的九月账本

一个网关,一个月,一个让人不太舒服的比例
Vercel 在 10 月 15 日发布了 AI Gateway 生产指数,统计的是 9 月的流量。头条数字很容易被读错:开源权重模型处理了经由该网关 71.5% 的 token,却只花掉约 23% 的钱。
快速扫一眼,像是开源模型的一次胜利巡游。仔细读,它说的东西更有用。在闭源模型上每花一美元,大约三毛钱就买到了八倍的 token。量和钱分家了,而这个分家本身就是全部的故事。
照例先说限定条件,因为它们很重要。这是一家公司的一个网关,在生产应用和实验室之间承载了几十兆 token。大厂的企业客户常常直接调那些 API,所以网关会把它们算少。支出按标价估算,真实账单里还有折扣。Vercel 自己也在卖这个网关,等于在给自己的生意打分。把它当成多模型团队行为的一个不错样本,而不是市场的普查。
便宜的那个模型不是一个趋势,是一个模型
报告里最能说明问题的一句话是关于 DeepSeek-V4.1-Flash 的:它处理了 9 月全部 token 的近一半,却只占 2.6% 的支出。它的单 token 价格大约是开源权重模型均价的正分之一。
就这一句,把 71.5% 重新定义了。这并不是开源模型接管生产环境的大潮。其中很大一部分,是一个极便宜的模型干了极大量的活。如果你要从这份指数里学点什么,学的是任务路由,而不是许可证意识形态。
钱的那一侧同样具体。开源权重模型的支出份额从 6 月的约 5% 涨到 9 月的接近四分之一,在一个小基数上翻了四倍多。但这次增长里大约三分之二来自昂贵的开源模型,以 Kimi K3 为首,单 token 成本至少是开源均价的四倍。便宜的模型带来量,贵的模型带来钱。这一点在开源阵营内部成立,不只是开源和闭源之间。
Anthropic 在网关支出中的份额从 63.7% 降到 43.9%,首次跌破一半。很容易读成 Anthropic 丢了生意。报告说的正相反:前沿模型的支出自 12 月以来涨了十倍。Anthropic 从一个大了很多的饼里切了更小的一块,赚的钱却更多了。在一个规模涨了 13 倍、单 token 均价跌了 47% 的市场里,份额下滑就是这个样子。
换模型已经成了每月的习惯
9 月里,差不多每两个团队就有一个换掉了自己用得最多的模型。几乎每三个就有一个换掉了自己用得最多的厂商,指数称这是历史纪录。这两个数字已经连续五个月上升。
这在企业软件里是件怪事。基础设施的选择通常会僵化。模型的选择却在往反方向走,报告给了一个机制解释:自 12 月以来处理过至少十亿 token 的团队,平均用过 42 个不同的模型。十亿到一亿 token 之间的团队平均 15 个。即便是小团队也在混着用。
原因很无聊,也很正确。不同的任务,价格-质量曲线差得离谱。给工单分类、从发票里抽字段、写一封面向客户的道歉信,这是三个不同的问题,本来就不可能用同一个模型、同一个价格解决。
运营上的含义就不那么无聊了。如果你的模型名字在应用里硬编码了三十处,每次调价都是一次重构。如果它待在一个带你自己评测的路由层后面,那就是改个配置。你一半的同行每个月都在重新决定默认模型。能不用排一个 sprint 就做到这一点的团队,才是真正拿到省钱的那批人。

采用率和收入的背离
9 月的两次发布,比任何图表都更能说明问题。
TypeSafe AI 的决策模型 Jev 在两周内就覆盖了 35.3% 的付费团队,是该网关历史上最快的采用速度,几乎是第二名 Claude Sonnet 5.5(18.1%)的两倍。同一时间窗里,它只拿走了 0.27% 的支出。它是为快速决策而生的模型:便宜、快、token 用得少。大批团队试了它。它本来也不会贵。
Opus 5.5 走的是另一条路:头两周就占了网关超过十分之一的美元,是 9 月所有新发布里支出份额最高的。
放在一起看,它们描述的是一个双层市场,跟开源还是闭源毫无关系。一层是高频、低风险的调用,赢家是每个正确答案成本最低的那个。另一层是低频、高风险的调用,人们愿意为最后那几分质量付钱。一个厂商可以统治其中一层,在另一层毫无存在感,而两边都可以是健康的生意。
没人写进标题的那个中国细节
9 月花在中国开发的模型上的网关支出,有近 70% 是通过美国服务商走的,12 月这个数字还不到 10%。粗略地说,每 1 美元走中国服务商,就有约 2.50 美元走美国服务商。
这是个路由事实,被包装成了地缘政治话题。企业想要中国开源模型的价格,也想要美国厂商的账单、延迟和数据处理的姿态。网关的存在正是为了让这种组合成为可能,而钱跟着组合走,不跟着旗子走。
这也意味着,"开源模型赢了"这个说法,取决于你问谁。模型权重可能是中国的。账单可能是美国的。做决定的那个团队,大概两个地方都不在。
那该怎么做
三件事,没有一件需要你对开源权重有什么立场。
给每一次 AI 调用打上任务标签。看不见的东西就没法路由。大多数团队对哪个功能最花钱有个模糊的感觉,但对这些功能内部哪些调用最花钱几乎一无所知。
拿你最重要的三个任务,各测两个模型。一个前沿的,一个便宜的。不是在排行榜上测,而是用二十个有已知好答案的真实样本。二十个足够抓出那种悄悄搞坏格式、漏掉字段的替换。
假定你的默认模型在一个季度内会变。这份指数里一半的团队上个月就已经换了。为此做设计不是过度工程,这是当下的基线。
真正的结论并不光鲜。模型选择已经变成一个每月都要重谈的采购决定,而账单跟着工作里最难的那部分走,不跟着 API 上的牌子走。这个市场比一年前健康,也难规划得多。
相关文章
五大出版社悄悄用AI做封面,读者已经开始认出来了
《连线》报道称,美国五大出版社中至少三家在未披露的情况下用AI生成封面与文案。官方回应与员工说法相互矛盾,而名字印在封面上的作者,往往是最后一个知道的人。
Character.AI 申请破产,迪士尼用 2000 万美元给专利兜底
Character.AI 申请破产,迪士尼以 2000 万美元充当马前卒,买的只是部分资产和专利许可。一个 1.5 亿美元 A 轮的故事,最后落在专利和每月八九百万美元的亏损上。
XERJ:一个会坦白自己数字灌水的编码代理搜索引擎
XERJ 用本地索引和 tree-sitter 符号帮编码代理少读文件:实测比 grep 省 2.7 倍 token,而不是标题宣称的 40 倍,维护者自己把这层窗户纸捅破了。
别再让 AI 盯着屏幕点鼠标了:CLI-Anything 给每个软件配一条命令行
别教 agent 看屏幕点鼠标。CLI-Anything 用七阶段流水线为 GIMP、Blender、LibreOffice 生成带测试和文档的 CLI,让 agent 直接敲命令。