トークンの71.5%、請求額の23%：あるゲートウェイの9月の帳簿

ひとつのゲートウェイ、ひと月、居心地の悪い比率

Vercel は10月15日に AI Gateway 本番インデックスを公開した。対象は9月のトラフィックだ。見出しの数字は読み違えやすい。オープンウェイトモデルがゲートウェイ経由のトークンの71.5%を処理し、支出は約23%だった、というものだ。

ざっと読むと、オープンモデルの勝利のパレードに見える。丁寧に読むと、もっと役に立つことが書いてある。クローズドモデルに1ドル使うごとに、およそ30セントで8倍のトークンを買っていた。量と金が切り離された。そして、その切り離しこそが話の全部だ。

まずはいつもの但し書きから。ここは大事だ。これは1社のゲートウェイで、本番アプリケーションとラボの間で数十兆トークンを運んでいる。大手ラボの企業顧客はそうした API を直接叩くことが多く、ゲートウェイでは過小に数えられる。支出は定価ベースの推計で、実際の請求には割引が入る。Vercel 自身がゲートウェイを売っているのだから、自分の商売を採点していることになる。マルチモデルを扱うチームが実際に何をしているかの良いサンプルとして見るべきで、市場の国勢調査ではない。

安いモデルはトレンドではなく、1つのモデルだ

レポートでいちばん輪郭をはっきりさせる一文は DeepSeek-V4.1-Flash についてだ。9月の全トークンのほぼ半分を処理しながら、支出は2.6%にとどまった。トークン単価はオープンウェイト平均のおよそ5分の1だった。

この一文が71.5%の意味を置き換える。オープンモデルが本番を総取りする大きな潮流ではない。その多くは、とても安い1つのモデルが、とてつもない量の仕事をしているだけだ。このインデックスから何かを学ぶなら、学ぶべきはタスクのルーティングであって、ライセンスのイデオロギーではない。

金の側も同じくらい具体的だ。オープンウェイトモデルの支出シェアは6月の約5%から9月にはほぼ4分の1へ、小さな母数から4倍以上に増えた。ただし増加分のおよそ3分の2は高価なオープンモデルによるもので、Kimi K3 が先頭に立ち、トークン単価はオープン平均の少なくとも4倍だ。安いモデルが量を動かし、高いモデルが支出を動かす。これはオープンとクローズドの間だけでなく、オープンというカテゴリの内側でも起きている。

ゲートウェイ支出に占める Anthropic のシェアは63.7%から43.9%へ下がり、初めて半分を割った。つい「Anthropic は仕事を失った」と読みたくなる。レポートは逆だと言う。フロンティアの支出は12月以降10倍に増えた。Anthropic ははるかに大きなパイから小さめの一切れを取り、より多くの金を稼いでいる。市場が13倍に育つ間にトークン単価が47%下がるときのシェア低下とは、こういう姿だ。

モデルの乗り換えは、もう毎月の習慣だ

9月、チームのほぼ2つに1つが最も使うモデルを変えた。ほぼ3つに1つが最も使うラボを変え、インデックスはこれを記録としている。どちらの数字も5か月連続で上がっている。

エンタープライズソフトウェアとしては奇妙だ。インフラの選択はたいてい固まる。モデルの選択は逆をやっており、レポートはその仕組みを1つ挙げる。12月以降に少なくとも10億トークンを処理したチームは、平均42種類のモデルを使っていた。1000万から1億トークンのチームは平均15種類。小さなチームでも混ぜて使っている。

理由は地味で、正しい。タスクごとに価格と品質の曲線はまるで違う。サポートチケットの分類、請求書からの項目抽出、顧客向けの謝罪文の執筆は、3つの別の問題であり、同じモデルと同じ価格で解ける話ではそもそもなかった。

運用上の含意はもう少し面白い。モデル名がアプリの30か所に直書きされているなら、価格が変わるたびにリファクタリングだ。自前の評価を備えたルーティング層の裏にあれば、設定変更で済む。同業の半分は毎月デフォルトモデルを決め直している。スプリントを1本も使わずにそれを実行できるチームが、浮いた金を手にする。

導入と収益のねじれ

9月の2つのリリースが、どんなグラフよりも雄弁に要点を示す。

TypeSafe AI の意思決定モデル Jev は、2週間で有料チームの35.3%に到達した。ゲートウェイ史上最速の導入で、2位の Claude Sonnet 5.5（18.1%）のほぼ2倍。同じ期間に取った支出は0.27%だ。素早い意思決定のために作られたモデルで、安く、速く、トークンが軽い。多くのチームが試した。高くなるはずがなかった。

Opus 5.5 は逆を行った。最初の2週間でゲートウェイのドルの10分の1以上を占め、9月のリリースで最大の支出シェアだった。

並べてみると、オープン対クローズドとは無関係な2層の市場が見えてくる。ひとつは高頻度・低リスクの呼び出しで、正解あたりのコストが最も低い者が勝つ。もうひとつは低頻度・高リスクの呼び出しで、人は最後の数点の品質に金を払う。あるベンダーが片方の層を支配し、もう片方では姿が見えないことはあり得るし、どちらも健全な商売になり得る。

見出しに誰も入れない中国のディテール

9月に中国開発のモデルへ向かったゲートウェイ支出のほぼ70%が、米国拠点のプロバイダーを通った。12月は10%未満だった。大まかに言えば、中国拠点のプロバイダーを通る1ドルにつき、約2.50ドルが米国のプロバイダーを通ったことになる。

これは地政学の話の着ぐるみを着たルーティングの事実だ。企業は中国のオープンウェイトモデルの価格と、米国ベンダーの請求、レイテンシ、データの扱いを同時に欲しがる。ゲートウェイはまさにその組み合わせを可能にするために存在し、金は旗ではなく組み合わせについていった。

「オープンモデルが勝っている」という物語が、誰に聞くかでややこしくなるという意味でもある。重みは中国製かもしれない。請求書は米国製かもしれない。決めるチームはおそらくどちらにもいない。

で、どうするか

3つ。どれもオープンウェイトへの意見を必要としない。

すべての AI 呼び出しにタスクのタグを付ける。見えないものはルーティングできない。ほとんどのチームはどの機能が高いかは漠然と分かっているが、その機能の内側でどの呼び出しが高いかはほとんど分かっていない。

主要3タスクを、それぞれ2つのモデルで値付けする。フロンティアを1つ、安いものを1つ。リーダーボードではなく、正解が分かっている実例20件で。20件あれば、書式を壊したり項目を落としたりした入れ替えを、誰も気づかないまま通してしまうのを捕まえられる。

デフォルトモデルは四半期以内に変わると前提する。このインデックスのチームの半分は先月もう変えている。それを見越して作るのは過剰設計ではなく、今の基準線だ。

本当の結論は地味だ。モデル選びは毎月見直される調達の判断になり、請求は API のブランドではなく仕事の難しい部分についていく。1年前より健全な市場で、計画を立てるのはずっと厄介な市場だ。