71,5 % des tokens, 23 % de la facture : le registre de septembre d'une passerelle

Une passerelle, un mois, un ratio inconfortable

Vercel a publié le 15 octobre son AI Gateway Production Index, qui couvre le trafic de septembre. Le chiffre phare se lit facilement de travers : les modèles à poids ouverts ont traité 71,5 % des tokens passés par la passerelle et représenté environ 23 % des dépenses.

Lu vite, on croirait à un tour d'honneur des modèles ouverts. Lu attentivement, ça dit quelque chose de plus utile. Pour chaque dollar dépensé sur un modèle fermé, environ trente cents achetaient huit fois plus de tokens. Le volume et l'argent se sont séparés, et cette séparation, c'est toute l'histoire.

Les réserves d'usage d'abord, parce qu'elles comptent. Il s'agit de la passerelle d'une seule entreprise, qui transporte des dizaines de billions de tokens entre applications en production et labos. Les clients entreprise des grands labos appellent souvent ces API en direct, donc une passerelle les sous-compte. Les dépenses sont estimées aux prix catalogue, et les vraies factures incluent des remises. Vercel vend aussi la passerelle : elle note donc son propre commerce. À prendre comme un bon échantillon de ce que font les équipes multi-modèles, pas comme un recensement du marché.

Le modèle bon marché n'est pas une tendance, c'est un modèle

La phrase la plus éclairante du rapport concerne DeepSeek-V4.1-Flash : il a traité près de la moitié de tous les tokens de septembre et représenté 2,6 % des dépenses. Son prix par token était environ le cinquième de la moyenne des modèles à poids ouverts.

Cette seule phrase recadre les 71,5 %. Ce n'est pas une grande marée de modèles ouverts qui déferle sur la production. Une bonne partie, c'est un modèle très bon marché qui abat un travail très important. Si vous cherchez une leçon dans cet index, elle porte sur le routage des tâches, pas sur l'idéologie des licences.

Le côté argent est tout aussi précis. La part des dépenses des modèles à poids ouverts est passée d'environ 5 % en juin à près d'un quart en septembre, soit plus qu'un quadruplement depuis une petite base. Mais environ deux tiers de cette hausse viennent de modèles ouverts chers, menés par Kimi K3, chacun coûtant au moins quatre fois la moyenne des poids ouverts par token. Les modèles bon marché font le volume ; les modèles chers font la dépense. C'est vrai à l'intérieur de la catégorie ouverte, pas seulement entre ouvert et fermé.

La part d'Anthropic dans les dépenses de la passerelle est tombée de 63,7 % à 43,9 %, sous la moitié pour la première fois. La lecture tentante, c'est qu'Anthropic a perdu des affaires. Le rapport dit l'inverse : les dépenses de frontière ont été multipliées par dix depuis décembre. Anthropic gagne plus d'argent avec une part plus petite d'un gâteau bien plus gros. Voilà à quoi ressemble une perte de part dans un marché multiplié par 13 pendant que le prix moyen par token baisse de 47 %.

Changer de modèle est devenu une habitude mensuelle

Près d'une équipe sur deux a changé de modèle principal en septembre. Près d'une sur trois a changé de labo principal, ce que l'index qualifie de record. Les deux chiffres montent depuis cinq mois consécutifs.

C'est étrange pour du logiciel d'entreprise. Les choix d'infrastructure se figent d'ordinaire. Les choix de modèle font l'inverse, et le rapport propose un mécanisme : les équipes ayant traité au moins un milliard de tokens depuis décembre ont utilisé en moyenne 42 modèles différents. Celles entre dix et cent millions de tokens en ont utilisé 15 en moyenne. Même les petites équipes font tourner un mix.

La raison est banale et juste. Les tâches ont des courbes prix-qualité radicalement différentes. Classer un ticket support, extraire des champs d'une facture et écrire l'excuse destinée au client sont trois problèmes distincts qui n'allaient jamais être résolus par le même modèle au même prix.

L'implication opérationnelle l'est moins. Si un nom de modèle est codé en dur à trente endroits dans votre application, chaque changement de prix est une refonte. S'il se trouve derrière une couche de routage avec vos propres évaluations, c'est un changement de config. La moitié de vos pairs redécide son modèle par défaut chaque mois. Les équipes capables d'agir sans y consacrer un sprint sont celles qui encaissent les économies.

L'écart entre adoption et revenus

Deux lancements de septembre illustrent le propos mieux que n'importe quel graphique.

Jev, un modèle de décision de TypeSafe AI, a atteint 35,3 % des équipes payantes en deux semaines, l'adoption la plus rapide de l'histoire de la passerelle, près du double du deuxième, Claude Sonnet 5.5, à 18,1 %. Sur la même fenêtre, il a pris 0,27 % des dépenses. C'est un modèle conçu pour les décisions rapides : bon marché, rapide, économe en tokens. Beaucoup d'équipes l'ont essayé. Il n'allait jamais être cher.

Opus 5.5 est allé dans l'autre sens : plus d'un dollar sur dix de la passerelle dans ses deux premières semaines, la plus grosse part de dépenses de tous les lancements de septembre.

Mis côte à côte, ils décrivent un marché à deux étages qui n'a rien à voir avec ouvert contre fermé. Un étage, ce sont les appels à haute fréquence et faible enjeu, où gagne celui qui coûte le moins par bonne réponse. L'autre, les appels à basse fréquence et fort enjeu, où l'on paie pour les derniers points de qualité. Un fournisseur peut dominer un étage et être invisible dans l'autre, et les deux peuvent être des businesses sains.

Le détail chinois que personne ne met dans le titre

Près de 70 % des dépenses de septembre de la passerelle sur des modèles développés en Chine sont passées par des fournisseurs basés aux États-Unis, contre moins de 10 % en décembre. En gros, environ 2,50 $ ont transité par des fournisseurs américains pour chaque dollar passé par des acteurs chinois.

C'est un fait de routage déguisé en fait géopolitique. Les entreprises veulent le prix d'un modèle ouvert chinois et la facturation, la latence et la posture sur les données d'un fournisseur américain. La passerelle existe précisément pour rendre cette combinaison possible, et l'argent a suivi la combinaison plutôt que le drapeau.

Du coup, le récit "les modèles ouverts gagnent" se complique selon à qui on parle. Les poids peuvent être chinois. La facture peut être américaine. L'équipe qui décide n'est probablement ni ici ni là.

Qu'en faire

Trois choses, et aucune n'exige un avis sur les poids ouverts.

Étiquetez chaque appel IA par tâche. On ne route pas ce qu'on ne voit pas. La plupart des équipes ont une vague idée des fonctionnalités les plus coûteuses et presque aucune idée des appels qui coûtent, à l'intérieur de ces fonctionnalités.

Comparez vos trois principales tâches sur deux modèles chacune. Un de frontière, un bon marché. Pas sur un classement, sur vingt exemples réels avec de bonnes réponses connues. Vingt suffisent pour attraper un remplacement qui casse le format ou perd un champ sans que personne ne le remarque.

Partez du principe que votre modèle par défaut changera dans le trimestre. La moitié des équipes de cet index ont déjà changé le leur le mois dernier. Concevoir pour ça n'est pas de l'over-engineering, c'est la base actuelle.

La vraie conclusion n'a rien de glamour. Le choix de modèle est devenu une décision d'achat réexaminée chaque mois, et la facture suit les parties difficiles du travail plutôt que la marque sur l'API. C'est un marché plus sain que celui d'il y a un an, et bien plus pénible à planifier.