71,5% dos tokens, 23% da conta: o relatório de setembro de um gateway

Um gateway, um mês, uma proporção desconfortável

A Vercel publicou em 15 de outubro o AI Gateway Production Index, cobrindo o tráfego de setembro. O número de manchete é fácil de ler errado: modelos de pesos abertos processaram 71,5% dos tokens que passaram pelo gateway e ficaram com cerca de 23% do gasto.

Lido rápido, parece uma volta olímpica dos modelos abertos. Lido com calma, diz algo mais útil. Para cada dólar gasto em um modelo fechado, uns trinta centavos compravam oito vezes mais tokens. Volume e dinheiro se separaram, e a separação é a história inteira.

Primeiro as ressalvas de sempre, porque importam. É o gateway de uma empresa só, movendo dezenas de trilhões de tokens entre aplicações em produção e laboratórios. Clientes corporativos dos grandes laboratórios muitas vezes chamam essas APIs direto, então um gateway os subconta. O gasto é estimado a preços de tabela, e as contas reais têm desconto. A Vercel também vende o gateway, ou seja, está avaliando o próprio negócio. Trate isso como uma boa amostra do que times multimodelo fazem, não como um censo do mercado.

O modelo barato não é uma tendência, é um modelo

A frase mais esclarecedora do relatório é sobre o DeepSeek-V4.1-Flash: processou quase metade de todos os tokens de setembro e respondeu por 2,6% do gasto. O preço por token era mais ou menos um quinto da média dos modelos de pesos abertos.

Essa única frase reenquadra os 71,5%. Não é uma maré larga de modelos abertos tomando a produção. Boa parte é um modelo muito barato fazendo uma quantidade enorme de trabalho. Se você quer tirar uma lição do índice, a lição é sobre roteamento de tarefas, não sobre ideologia de licença.

O lado do dinheiro é igualmente específico. A fatia de gasto dos pesos abertos foi de cerca de 5% em junho para quase um quarto em setembro, mais que quadruplicando a partir de uma base pequena. Mas cerca de dois terços desse aumento vieram de modelos abertos caros, liderados pelo Kimi K3, cada um custando pelo menos quatro vezes a média aberta por token. Modelos baratos puxam volume; modelos caros puxam gasto. Isso vale dentro da categoria aberta, não só entre aberto e fechado.

A fatia da Anthropic no gasto do gateway caiu de 63,7% para 43,9%, abaixo da metade pela primeira vez. A leitura tentadora é que a Anthropic perdeu negócio. O relatório diz o contrário: o gasto em fronteira cresceu dez vezes desde dezembro. A Anthropic ganha mais dinheiro com uma fatia menor de um bolo muito maior. É assim que parece perder participação num mercado que cresce 13 vezes enquanto o preço médio por token cai 47%.

Trocar de modelo virou hábito mensal

Quase um em cada dois times trocou seu modelo mais usado em setembro. Quase um em cada três trocou o laboratório mais usado, o que o índice chama de recorde. Os dois números sobem há cinco meses seguidos.

Isso é estranho em software corporativo. Escolhas de infraestrutura costumam petrificar. As de modelo fazem o contrário, e o relatório oferece um mecanismo: times que processaram pelo menos um bilhão de tokens desde dezembro usaram, em média, 42 modelos diferentes. Times entre dez e cem milhões de tokens usaram 15 na média. Até times pequenos rodam um misto.

A razão é sem graça e correta. Tarefas diferentes têm curvas de preço-qualidade radicalmente diferentes. Classificar um ticket de suporte, extrair campos de uma nota fiscal e escrever o pedido de desculpas que o cliente vai ler são três problemas distintos que nunca seriam resolvidos pelo mesmo modelo ao mesmo preço.

A implicação operacional é menos sem graça. Se o nome de um modelo está cravado em trinta lugares da sua aplicação, cada mudança de preço é um refactor. Se ele fica atrás de uma camada de roteamento com as suas próprias avaliações, é uma mudança de configuração. Metade dos seus pares redecide o modelo padrão todo mês. Os times que conseguem agir sem um sprint são os que ficam com a economia.

A distância entre adoção e receita

Dois lançamentos de setembro explicam o ponto melhor que qualquer gráfico.

Jev, um modelo de decisão da TypeSafe AI, chegou a 35,3% dos times pagantes em duas semanas, a adoção mais rápida na história do gateway, quase o dobro do segundo colocado, Claude Sonnet 5.5, com 18,1%. Na mesma janela, ficou com 0,27% do gasto. É um modelo feito para decisões rápidas: barato, veloz, leve em tokens. Muitos times testaram. Ele nunca ia ser caro.

Opus 5.5 foi pelo caminho oposto: mais de um em cada dez dólares do gateway nas duas primeiras semanas, a maior fatia de gasto entre os lançamentos de setembro.

Juntos, descrevem um mercado de dois níveis que não tem nada a ver com aberto contra fechado. Um nível são as chamadas de alta frequência e baixo risco, onde ganha quem custa menos por resposta correta. O outro são as de baixa frequência e alto risco, onde as pessoas pagam pelos últimos pontos de qualidade. Um fornecedor pode dominar um nível e ser invisível no outro, e os dois podem ser negócios saudáveis.

O detalhe da China que ninguém põe na manchete

Quase 70% do gasto do gateway em setembro com modelos desenvolvidos na China passou por provedores sediados nos Estados Unidos, contra menos de 10% em dezembro. Em termos grossos, cerca de 2,50 $ passaram por provedores americanos para cada 1 $ que passou pelos chineses.

É um fato de roteamento vestido de geopolítica. As empresas querem o preço de um modelo aberto chinês e a cobrança, a latência e a postura de dados de um fornecedor americano. O gateway existe justamente para tornar essa combinação possível, e o dinheiro seguiu a combinação, não a bandeira.

Também significa que a narrativa "os modelos abertos estão ganhando" fica complicada dependendo de quem você pergunta. Os pesos podem ser chineses. A fatura pode ser americana. O time que decide provavelmente não está em nenhum dos dois lugares.

O que fazer com isso

Três coisas, e nenhuma exige opinião sobre pesos abertos.

Marque cada chamada de IA por tarefa. Não dá para rotear o que não se vê. Quase todo time tem uma noção vaga de quais funcionalidades custam mais e quase nenhuma de quais chamadas dentro delas custam.

Compare suas três principais tarefas contra dois modelos cada. Um de fronteira, um barato. Não num ranking, mas em vinte exemplos reais com respostas boas conhecidas. Vinte bastam para pegar uma troca que quebrou a formatação ou perdeu um campo sem ninguém notar.

Assuma que seu modelo padrão vai mudar dentro de um trimestre. Metade dos times deste índice já trocou o seu no mês passado. Projetar para isso não é engenharia demais, é a linha de base atual.

A conclusão real não tem glamour. A escolha de modelo virou uma decisão de compras revista todo mês, e a conta segue as partes difíceis do trabalho, não a marca na API. É um mercado mais saudável que o de um ano atrás, e bem mais chato de planejar.