71,5 % der Tokens, 23 % der Rechnung: das September-Ledger eines Gateways

Ein Gateway, ein Monat, ein unangenehmes Verhältnis

Vercel hat am 15. Oktober den AI Gateway Production Index veröffentlicht, der den Verkehr im September abdeckt. Die Schlagzeile lässt sich leicht falsch lesen: Open-Weight-Modelle haben 71,5 % der über das Gateway geleiteten Tokens verarbeitet und etwa 23 % der Ausgaben verursacht.

Schnell gelesen klingt das nach einer Siegesrunde für offene Modelle. Genau gelesen sagt es etwas Nützlicheres. Für jeden Dollar, der für ein geschlossenes Modell ausgegeben wurde, kauften rund dreißig Cent achtmal so viele Tokens. Volumen und Geld haben sich entkoppelt, und diese Entkopplung ist die ganze Geschichte.

Zuerst die üblichen Einschränkungen, denn sie sind wichtig. Das ist das Gateway eines einzelnen Unternehmens, durch das zwischen Produktionsanwendungen und Labors Dutzende Billionen Tokens laufen. Unternehmenskunden der großen Labors rufen diese APIs oft direkt auf, ein Gateway zählt sie also zu niedrig. Ausgaben sind zu Listenpreisen geschätzt, echte Rechnungen enthalten Rabatte. Vercel verkauft das Gateway auch selbst und benotet damit das eigene Geschäft. Nehmen Sie es als gute Stichprobe dafür, was Multi-Modell-Teams tun, nicht als Volkszählung des Markts.

Das billige Modell ist kein Trend, es ist ein Modell

Der erhellendste Satz im Bericht handelt von DeepSeek-V4.1-Flash: Es verarbeitete fast die Hälfte aller Tokens im September und stand für 2,6 % der Ausgaben. Sein Preis pro Token lag bei etwa einem Fünftel des Open-Weight-Durchschnitts.

Dieser eine Satz rahmt die 71,5 % neu. Es ist keine breite Welle offener Modelle, die die Produktion übernimmt. Ein großer Teil davon ist ein sehr billiges Modell, das sehr viel Arbeit erledigt. Wer aus dem Index eine Lehre ziehen will: Es geht um Aufgaben-Routing, nicht um Lizenzideologie.

Die Geldseite ist genauso konkret. Der Ausgabenanteil offener Modelle stieg von etwa 5 % im Juni auf fast ein Viertel im September, mehr als eine Vervierfachung von kleiner Basis. Aber rund zwei Drittel dieses Anstiegs kamen von teuren offenen Modellen, angeführt von Kimi K3, die pro Token mindestens viermal so viel kosten wie der Open-Weight-Durchschnitt. Billige Modelle treiben das Volumen, teure Modelle treiben die Ausgaben. Das gilt innerhalb der offenen Kategorie, nicht nur zwischen offen und geschlossen.

Anthropics Anteil an den Gateway-Ausgaben fiel von 63,7 % auf 43,9 %, erstmals unter die Hälfte. Die naheliegende Lesart: Anthropic hat Geschäft verloren. Der Bericht sagt das Gegenteil: Die Frontier-Ausgaben sind seit Dezember um das Zehnfache gewachsen. Anthropic verdient mehr Geld an einem kleineren Stück eines viel größeren Kuchens. So sieht Anteilsverlust in einem Markt aus, der um das 13-Fache wächst, während der Durchschnittspreis pro Token um 47 % fällt.

Modellwechsel ist jetzt Monatsroutine

Fast jedes zweite Team hat im September sein meistgenutztes Modell gewechselt. Fast jedes dritte wechselte das meistgenutzte Labor, laut Index ein Rekord. Beide Zahlen steigen seit fünf Monaten in Folge.

Für Unternehmenssoftware ist das seltsam. Infrastrukturentscheidungen versteinern normalerweise. Modellentscheidungen tun das Gegenteil, und der Bericht liefert einen Mechanismus: Teams, die seit Dezember mindestens eine Milliarde Tokens verarbeitet haben, nutzten im Schnitt 42 verschiedene Modelle. Teams zwischen zehn und hundert Millionen Tokens kamen auf 15. Selbst kleine Teams fahren einen Mix.

Der Grund ist langweilig und richtig. Unterschiedliche Aufgaben haben völlig unterschiedliche Preis-Qualitäts-Kurven. Ein Support-Ticket klassifizieren, Felder aus einer Rechnung ziehen und die Entschuldigung an den Kunden schreiben sind drei verschiedene Probleme, die nie dasselbe Modell zum selben Preis lösen würde.

Die operative Konsequenz ist weniger langweilig. Wenn ein Modellname an dreißig Stellen Ihrer Anwendung fest verdrahtet ist, ist jede Preisänderung ein Refactoring. Steht er hinter einer Routing-Schicht mit Ihren eigenen Evaluierungen, ist es eine Konfigurationsänderung. Die Hälfte Ihrer Peers entscheidet jeden Monat neu über das Standardmodell. Die Teams, die darauf ohne einen Sprint reagieren können, holen die Einsparungen.

Adoption gegen Umsatz

Zwei Starts im September zeigen den Punkt besser als jedes Diagramm.

Jev, ein Entscheidungsmodell von TypeSafe AI, erreichte innerhalb von zwei Wochen 35,3 % der zahlenden Teams, die schnellste Adoption in der Geschichte des Gateways, fast doppelt so viel wie der Zweitplatzierte Claude Sonnet 5.5 mit 18,1 %. Im selben Zeitraum nahm es 0,27 % der Ausgaben ein. Es ist ein Modell für schnelle Entscheidungen: billig, schnell, sparsam mit Tokens. Viele Teams haben es ausprobiert. Teuer wäre es nie geworden.

Opus 5.5 lief in die andere Richtung: mehr als jeder zehnte Gateway-Dollar in den ersten zwei Wochen, der größte Ausgabenanteil aller September-Starts.

Zusammen beschreiben sie einen zweistufigen Markt, der nichts mit offen gegen geschlossen zu tun hat. Die eine Stufe sind häufige Calls mit niedrigem Risiko, wo gewinnt, wer pro richtiger Antwort am wenigsten kostet. Die andere sind seltene Calls mit hohem Risiko, wo Leute für die letzten Qualitätspunkte zahlen. Ein Anbieter kann eine Stufe dominieren und in der anderen unsichtbar sein, und beides können gesunde Geschäfte sein.

Das China-Detail, das niemand in die Schlagzeile schreibt

Fast 70 % der Gateway-Ausgaben für in China entwickelte Modelle liefen im September über US-Anbieter, nach unter 10 % im Dezember. Grob gesagt flossen etwa 2,50 $ über amerikanische Anbieter, für jeden 1 $ über chinesische.

Das ist ein Routing-Fakt, verkleidet als geopolitischer. Unternehmen wollen den Preis eines chinesischen Open-Weight-Modells und dazu Abrechnung, Latenz und Datenhaltung eines US-Anbieters. Das Gateway existiert genau, um diese Kombination möglich zu machen, und das Geld folgte der Kombination, nicht der Flagge.

Es heißt auch, dass die Erzählung "offene Modelle gewinnen" kompliziert wird, je nachdem wen man fragt. Die Gewichte mögen chinesisch sein. Die Rechnung mag amerikanisch sein. Das entscheidende Team sitzt wahrscheinlich an keinem der beiden Orte.

Was man damit machen sollte

Drei Dinge, und keines verlangt eine Meinung zu offenen Gewichten.

Versehen Sie jeden KI-Call mit einem Aufgaben-Tag. Man kann nicht routen, was man nicht sieht. Die meisten Teams haben eine grobe Ahnung, welche Features am meisten kosten, und fast keine, welche Calls innerhalb dieser Features es sind.

Bepreisen Sie Ihre drei wichtigsten Aufgaben gegen je zwei Modelle. Eines aus der Frontier, eines billig. Nicht auf einem Leaderboard, sondern an zwanzig echten Beispielen mit bekannt guten Antworten. Zwanzig reichen, um einen Wechsel zu erwischen, der die Formatierung zerstört oder ein Feld verliert, ohne dass es jemand merkt.

Gehen Sie davon aus, dass Ihr Standardmodell binnen eines Quartals wechselt. Die Hälfte der Teams in diesem Index hat letztes Monat schon gewechselt. Dafür zu bauen ist kein Overengineering, es ist der aktuelle Stand.

Die eigentliche Schlussfolgerung ist unglamourös. Modellwahl ist eine Beschaffungsentscheidung geworden, die monatlich neu aufgerollt wird, und die Rechnung folgt den schwierigen Teilen der Arbeit, nicht der Marke auf der API. Das ist ein gesünderer Markt als vor einem Jahr, und ein viel lästigerer zum Planen.