← 返回博客
Ai预计阅读 9 分钟

71.5% 的 token,23% 的账单:一家网关的九月账本

发布于 2026年10月17日
71.5% 的 token,23% 的账单:一家网关的九月账本

一个网关,一个月,一个让人不太舒服的比例

Vercel 在 10 月 15 日发布了 AI Gateway 生产指数,统计的是 9 月的流量。头条数字很容易被读错:开源权重模型处理了经由该网关 71.5% 的 token,却只花掉约 23% 的钱。

快速扫一眼,像是开源模型的一次胜利巡游。仔细读,它说的东西更有用。在闭源模型上每花一美元,大约三毛钱就买到了八倍的 token。量和钱分家了,而这个分家本身就是全部的故事。

照例先说限定条件,因为它们很重要。这是一家公司的一个网关,在生产应用和实验室之间承载了几十兆 token。大厂的企业客户常常直接调那些 API,所以网关会把它们算少。支出按标价估算,真实账单里还有折扣。Vercel 自己也在卖这个网关,等于在给自己的生意打分。把它当成多模型团队行为的一个不错样本,而不是市场的普查。

便宜的那个模型不是一个趋势,是一个模型

报告里最能说明问题的一句话是关于 DeepSeek-V4.1-Flash 的:它处理了 9 月全部 token 的近一半,却只占 2.6% 的支出。它的单 token 价格大约是开源权重模型均价的正分之一。

就这一句,把 71.5% 重新定义了。这并不是开源模型接管生产环境的大潮。其中很大一部分,是一个极便宜的模型干了极大量的活。如果你要从这份指数里学点什么,学的是任务路由,而不是许可证意识形态。

钱的那一侧同样具体。开源权重模型的支出份额从 6 月的约 5% 涨到 9 月的接近四分之一,在一个小基数上翻了四倍多。但这次增长里大约三分之二来自昂贵的开源模型,以 Kimi K3 为首,单 token 成本至少是开源均价的四倍。便宜的模型带来量,贵的模型带来钱。这一点在开源阵营内部成立,不只是开源和闭源之间。

Anthropic 在网关支出中的份额从 63.7% 降到 43.9%,首次跌破一半。很容易读成 Anthropic 丢了生意。报告说的正相反:前沿模型的支出自 12 月以来涨了十倍。Anthropic 从一个大了很多的饼里切了更小的一块,赚的钱却更多了。在一个规模涨了 13 倍、单 token 均价跌了 47% 的市场里,份额下滑就是这个样子。

换模型已经成了每月的习惯

9 月里,差不多每两个团队就有一个换掉了自己用得最多的模型。几乎每三个就有一个换掉了自己用得最多的厂商,指数称这是历史纪录。这两个数字已经连续五个月上升。

这在企业软件里是件怪事。基础设施的选择通常会僵化。模型的选择却在往反方向走,报告给了一个机制解释:自 12 月以来处理过至少十亿 token 的团队,平均用过 42 个不同的模型。十亿到一亿 token 之间的团队平均 15 个。即便是小团队也在混着用。

原因很无聊,也很正确。不同的任务,价格-质量曲线差得离谱。给工单分类、从发票里抽字段、写一封面向客户的道歉信,这是三个不同的问题,本来就不可能用同一个模型、同一个价格解决。

运营上的含义就不那么无聊了。如果你的模型名字在应用里硬编码了三十处,每次调价都是一次重构。如果它待在一个带你自己评测的路由层后面,那就是改个配置。你一半的同行每个月都在重新决定默认模型。能不用排一个 sprint 就做到这一点的团队,才是真正拿到省钱的那批人。

A square composition of two glass vessels on a dark surface, one wide and almost empty, one narrow and full, with a single beam of light passing through both

采用率和收入的背离

9 月的两次发布,比任何图表都更能说明问题。

TypeSafe AI 的决策模型 Jev 在两周内就覆盖了 35.3% 的付费团队,是该网关历史上最快的采用速度,几乎是第二名 Claude Sonnet 5.5(18.1%)的两倍。同一时间窗里,它只拿走了 0.27% 的支出。它是为快速决策而生的模型:便宜、快、token 用得少。大批团队试了它。它本来也不会贵。

Opus 5.5 走的是另一条路:头两周就占了网关超过十分之一的美元,是 9 月所有新发布里支出份额最高的。

放在一起看,它们描述的是一个双层市场,跟开源还是闭源毫无关系。一层是高频、低风险的调用,赢家是每个正确答案成本最低的那个。另一层是低频、高风险的调用,人们愿意为最后那几分质量付钱。一个厂商可以统治其中一层,在另一层毫无存在感,而两边都可以是健康的生意。

没人写进标题的那个中国细节

9 月花在中国开发的模型上的网关支出,有近 70% 是通过美国服务商走的,12 月这个数字还不到 10%。粗略地说,每 1 美元走中国服务商,就有约 2.50 美元走美国服务商。

这是个路由事实,被包装成了地缘政治话题。企业想要中国开源模型的价格,也想要美国厂商的账单、延迟和数据处理的姿态。网关的存在正是为了让这种组合成为可能,而钱跟着组合走,不跟着旗子走。

这也意味着,"开源模型赢了"这个说法,取决于你问谁。模型权重可能是中国的。账单可能是美国的。做决定的那个团队,大概两个地方都不在。

那该怎么做

三件事,没有一件需要你对开源权重有什么立场。

给每一次 AI 调用打上任务标签。看不见的东西就没法路由。大多数团队对哪个功能最花钱有个模糊的感觉,但对这些功能内部哪些调用最花钱几乎一无所知。

拿你最重要的三个任务,各测两个模型。一个前沿的,一个便宜的。不是在排行榜上测,而是用二十个有已知好答案的真实样本。二十个足够抓出那种悄悄搞坏格式、漏掉字段的替换。

假定你的默认模型在一个季度内会变。这份指数里一半的团队上个月就已经换了。为此做设计不是过度工程,这是当下的基线。

真正的结论并不光鲜。模型选择已经变成一个每月都要重谈的采购决定,而账单跟着工作里最难的那部分走,不跟着 API 上的牌子走。这个市场比一年前健康,也难规划得多。

相关文章