Trinta e quatro planos gratuitos atrás de um único endpoint: o que o FreeLLMAPI realmente vende

Existe um tipo específico de desenvolvedor que lê «34 provedores de LLM gratuitos» e imediatamente começa a contar as horas até alguma coisa quebrar. O FreeLLMAPI é feito para esse desenvolvedor e, é preciso reconhecer, o README não finge o contrário. Os números aparecem lá em cima, num tamanho de fonte normalmente reservado a anúncios de rodada de investimento: 7,4 bilhões de tokens por mês, 34 provedores, 635 endpoints gratuitos, 474 famílias de modelos, uma única URL compatível com a OpenAI.

O repositório ganhou cerca de 15.600 estrelas no último mês e está na casa das 45.400. Esse tipo de crescimento já é um sinal por si só. As pessoas não dão estrela porque o projeto é elegante. Dão porque passaram um ano fazendo a mesma coisa à mão, e mal: abrindo seis painéis, copiando seis chaves para um arquivo de configuração e descobrindo às 2 da manhã que a cota do único provedor do qual o script realmente depende tinha sido reiniciada três horas antes.

O que é, de fato

O FreeLLMAPI é um roteador local que fica entre o seu cliente e um monte de planos gratuitos. Você aponta o cliente para http://localhost:PORT/v1, passa qualquer string como chave e ele decide qual modelo upstream usar em cada requisição. Quando um provedor começa a devolver erro de limite de taxa, ele cai para o próximo. Contabiliza o uso por chave para você não estourar um teto que só reinicia no primeiro dia do mês. As chaves ficam armazenadas criptografadas.

É esse o truque inteiro, e é um truque de verdade. Quem já tentou manter um projeto paralelo vivo com planos gratuitos sabe que o modo de falha não é um provedor sair do ar. É construir toda a sua lógica de retry em cima do formato de erro específico de um provedor, depois descobrir que o próximo usa outro formato, e depois descobrir que o terceiro não faz streaming do mesmo jeito.

Como instalar

São quatro caminhos, o que já diz algo sobre quem eles esperam que apareça.

O mais rápido é o app de desktop: baixe para macOS ou Windows na página de releases, abra, adicione as chaves. Para um homelab ou um time pequeno, existe o Docker Compose apontando para ghcr.io/freellmapi/freellmapi, que é a opção que eu escolheria se a coisa fosse rodar por meses. Também há apps para Android e iOS, o que parece exagero até você lembrar que tem gente que realmente quer um modelo de reserva no celular sem pagar US$ 20 por mês pelo privilégio.

Depois que está rodando, a configuração é uma linha no cliente que você usar. Qualquer coisa que fale a API da OpenAI funciona: agentes de código, interfaces de chat, os SDKs de sempre em Python e TypeScript. Você define a URL base, define uma chave fictícia e as requisições começam a fluir. A lista de compatibilidade do README é longa e inclui os agentes de linha de comando que as pessoas realmente usam todo dia.

A parte que custa dinheiro

Aqui é que fica interessante. O catálogo em si se atualiza a partir de um feed assinado. Modelos gratuitos novos, mudanças de cota, correções de compatibilidade chegam sem git pull. É o encanamento que ninguém quer manter à mão, e também é a parte que não é totalmente gratuita.

Instalações gratuitas recebem um snapshot mensal. Um modelo que entra no feed ao vivo aparece na sua máquina 30 dias depois. Se você quer o catálogo no mesmo dia, paga US$ 19 por ano. Esse é o modelo de negócio: não o roteamento, não o software (que tem licença MIT), mas a atualidade da lista.

É um modelo razoável, e também é uma pista. O valor nessa categoria nunca foi o código do proxy. É saber, nesta semana, qual dos 635 endpoints ainda está vivo e qual desligou discretamente a geração de imagens no plano gratuito. Isso é um problema de dados, e dados envelhecem rápido.

O que ele não resolve

Planos gratuitos são gratuitos porque alguém decidiu que o custo marginal do seu tráfego valia o marketing. Não são gratuitos porque os termos de serviço permitem que você junte trinta e quatro deles atrás de um endpoint e revenda o acesso. O README tem uma seção de limitações e um aviso legal, e vale ler os dois antes de apontar qualquer coisa voltada para produção para isso.

Tem também a questão da qualidade. Planos gratuitos costumam ser os modelos pequenos, as versões quantizadas, os checkpoints mais antigos. Se o seu fluxo de trabalho precisa que um modelo específico se comporte de um jeito específico, um roteador que substitui silenciosamente por outro quando o primeiro bate no limite de taxa vai produzir resultados inconsistentes de formas difíceis de depurar. O roteador tem lógica de failover; ele não tem a noção de «esses dois modelos são intercambiáveis para a minha tarefa».

E tem a latência. Cada salto adiciona uma decisão. Quando está tudo saudável, você não percebe. Quando três dos seus trinta e quatro provedores estão tendo uma tarde ruim, você percebe na forma de uma requisição que leva onze segundos para falhar antes de dar certo em outro lugar.

O detalhe sem glamour que faz funcionar

A contabilização por chave é a parte que eu roubaria se estivesse construindo algo parecido. Planos gratuitos raramente falham de forma barulhenta. Falham como degradação lenta: seu script funciona na segunda, fica mais devagar na quarta e, na sexta, começa a devolver um 429 que seu código trata como erro genérico e repete para sempre. Um roteador que sabe a cota de cada chave e para de mandar requisições antes de bater no muro está fazendo o trabalho chato e essencial de manter um sistema vivo.

A outra escolha de design que vale notar é que ele não tenta ser esperto na seleção de modelo de um jeito que te pegue de surpresa. Você pode fixar um modelo se quiser. O roteador existe para absorver falhas, não para dar palpite sobre qual modelo é melhor para o seu prompt. Essa contenção é rara na categoria, onde os projetos tendem a enxertar uma camada de «roteamento inteligente» que deixa as saídas não reprodutíveis e a depuração um inferno.

Para quem é

Se você está construindo algo que precisa ser confiável, essa não é a sua infraestrutura. Pague por uma API boa e siga em frente. O custo de um modelo instável em produção se mede em chamados de suporte, não em dólares por milhão de tokens.

Se você está construindo algo para você mesmo, ou prototipando uma ideia à 1 da manhã de sábado, isso é genuinamente útil de um jeito que a maioria dos repositórios de «ferramentas de IA» não é. Ele tira a parte tediosa (gestão de chaves, acompanhamento de cota, failover) e deixa com você a parte que importa (a ideia funciona?). A manchete dos 7,4 bilhões de tokens por mês é marketing, mas a alegação por trás é verdadeira: a capacidade gratuita somada de trinta e quatro provedores é muito maior do que a de qualquer um deles sozinho, e fica em boa parte ociosa.

A pergunta incômoda que o projeto levanta é sobre o ano que vem. Todo plano gratuito é um orçamento de aquisição de cliente, e esses orçamentos estão sendo cortados. Um roteador que depende de trinta e quatro deles é uma aposta de que pelo menos alguns vão continuar dando inferência de graça. Essa aposta vem dando certo há um tempo. Seria estranho se desse certo para sempre.

Por enquanto, porém, 45 mil pessoas decidiram que a troca vale a pena, e a honestidade do README sobre os limites é o motivo pelo qual eu confiaria mais nele do que nas alternativas que prometem tudo e não documentam nada.