Treinta y cuatro niveles gratuitos tras un solo endpoint: qué vende realmente FreeLLMAPI

Hay un tipo muy concreto de desarrollador que lee «34 proveedores de LLM gratuitos» y de inmediato empieza a contar las horas que faltan para que algo se rompa. FreeLLMAPI apunta a ese desarrollador y, hay que reconocérselo, el README no finge lo contrario. Los números están arriba, en un tamaño de letra que suele reservarse para los anuncios de rondas de inversión: 7.400 millones de tokens al mes, 34 proveedores, 635 endpoints gratuitos, 474 familias de modelos y una única URL compatible con OpenAI.

El repositorio sumó unas 15.600 estrellas el mes pasado y ahora ronda las 45.400. Ese tipo de crecimiento es una señal por sí mismo. La gente no le da estrellas porque sea elegante, sino porque lleva un año haciendo lo mismo a mano y mal: abrir seis paneles, copiar seis claves en un archivo de configuración y descubrir a las 2 de la mañana que la cuota del único proveedor del que de verdad depende su script se reinició hace tres horas.

Qué es en realidad

FreeLLMAPI es un enrutador local que se coloca entre tu cliente y un montón de niveles gratuitos. Apuntas el cliente a http://localhost:PORT/v1, le pasas cualquier cadena como clave y él decide qué modelo de origen usar en cada petición. Cuando un proveedor empieza a devolver errores de límite de peticiones, pasa al siguiente. Lleva el consumo por clave para que no revientes un tope que no se reinicia hasta el día 1 del mes. Las claves se guardan cifradas.

Ese es todo el truco, y es un truco real. Cualquiera que haya intentado mantener vivo un proyecto paralelo con niveles gratuitos sabe que el modo de fallo no es que un proveedor se caiga. Es construir toda tu lógica de reintentos alrededor del formato de error concreto de un proveedor, descubrir que el siguiente usa otro distinto y luego enterarte de que el tercero no hace streaming de la misma manera.

Instalarlo

Cuatro vías, lo que ya dice algo sobre a quién esperan que aparezca.

La más rápida es la aplicación de escritorio: descargas la versión para macOS o Windows desde la página de releases, la abres y añades las claves. Para un homelab o un equipo pequeño está Docker Compose apuntando a ghcr.io/freellmapi/freellmapi, que es la opción que yo elegiría si la cosa va a estar funcionando durante meses. También hay apps para Android y iOS, lo que suena excesivo hasta que uno recuerda que hay gente que de verdad quiere un modelo de respaldo en el teléfono sin pagar 20 dólares al mes por el privilegio.

Una vez en marcha, la configuración es una línea en el cliente que uses. Todo lo que hable la API de OpenAI funciona: agentes de programación, interfaces de chat y los SDK de Python y TypeScript de siempre. Defines la URL base, pones una clave de relleno y las peticiones empiezan a fluir. La lista de compatibilidad del README es larga e incluye los agentes de línea de comandos que la gente usa a diario de verdad.

La parte que cuesta dinero

Aquí viene lo interesante. El propio catálogo se actualiza desde un feed firmado. Los modelos gratuitos nuevos, los cambios de cuota y los arreglos de compatibilidad llegan sin hacer git pull. Es la fontanería que nadie quiere mantener a mano y también la parte que no es del todo gratuita.

Las instalaciones gratuitas reciben una instantánea mensual. Un modelo que se suma al feed en vivo aparece en tu máquina 30 días después. Si quieres el catálogo del mismo día, pagas 19 dólares al año. Ese es el modelo de negocio: no el enrutamiento, no el software (que tiene licencia MIT), sino lo actualizada que esté la lista.

Es un modelo razonable y también una pista reveladora. El valor en esta categoría nunca estuvo en el código del proxy. Está en saber, esta semana, cuál de los 635 endpoints sigue vivo y cuál desactivó en silencio la generación de imágenes en su plan gratuito. Ese es un problema de datos, y los datos se quedan viejos rápido.

Lo que no resuelve

Los niveles gratuitos son gratuitos porque alguien decidió que el coste marginal de tu tráfico valía la pena como marketing. No son gratuitos porque los términos del servicio te permitan agregar treinta y cuatro de ellos detrás de un solo endpoint y revender el acceso. El README tiene una sección de limitaciones y un aviso legal, y vale la pena leer ambos antes de apuntar aquí cualquier cosa de cara a producción.

Está también la cuestión de la calidad. Los niveles gratuitos suelen ser los modelos pequeños, las versiones cuantizadas, los checkpoints más viejos. Si tu flujo de trabajo necesita que un modelo concreto se comporte de una manera concreta, un enrutador que sustituye otro en silencio cuando el primero alcanza su límite producirá resultados inconsistentes de formas difíciles de depurar. El enrutador tiene lógica de conmutación por error; no tiene noción de «estos dos modelos son intercambiables para mi tarea».

Y está la latencia. Cada salto añade una decisión. Cuando todo está sano, no lo notas. Cuando tres de tus treinta y cuatro proveedores están teniendo una mala tarde, lo notas en forma de una petición que tarda once segundos en fallar antes de salir bien en otro sitio.

El detalle poco glamuroso que hace que funcione

La contabilidad por clave es la parte que me llevaría si estuviera construyendo algo parecido. Los niveles gratuitos no suelen fallar con estrépito. Fallan como una degradación lenta: tu script funciona el lunes, va más lento el miércoles y el viernes empieza a devolver un 429 que tu código trata como un error genérico y reintenta para siempre. Un enrutador que conoce el tope de cada clave y deja de enviar peticiones antes de chocar contra el muro hace el trabajo aburrido y esencial de mantener vivo un sistema.

La otra decisión de diseño que vale la pena señalar es que no intenta ser listo con la selección de modelo de una forma que te sorprenda. Puedes fijar un modelo si quieres. El enrutador existe para absorber fallos, no para opinar sobre qué modelo es mejor para tu prompt. Esa contención es rara en esta categoría, donde los proyectos tienden a añadir una capa de «enrutamiento inteligente» que vuelve las salidas irreproducibles y la depuración un martirio.

Para quién es

Si estás construyendo algo que tiene que ser fiable, esta no es tu infraestructura. Paga una buena API y sigue adelante. El coste de un modelo inestable en producción se mide en tickets de soporte, no en dólares por millón de tokens.

Si estás construyendo algo para ti o prototipando una idea a la 1 de la mañana un sábado, esto es realmente útil de una manera en la que la mayoría de los repos de «herramientas de IA» no lo son. Elimina la parte tediosa (gestión de claves, seguimiento de cuotas, conmutación por error) y te deja con la parte que importa (si la idea funciona). El titular de los 7.400 millones de tokens al mes es marketing, pero la afirmación de fondo es cierta: la capacidad gratuita repartida entre treinta y cuatro proveedores es mucho mayor que la de cualquiera de ellos por separado, y está mayormente ociosa.

La pregunta incómoda que plantea el proyecto tiene que ver con el año que viene. Cada nivel gratuito es un presupuesto de captación de clientes, y esos presupuestos se están recortando. Un enrutador que depende de treinta y cuatro de ellos es una apuesta a que al menos algunos seguirán regalando inferencia. Esa apuesta ha salido bien durante un tiempo. Sería raro que saliera bien para siempre.

Por ahora, eso sí, 45.000 personas han decidido que el intercambio vale la pena, y la honestidad del README sobre los límites es la razón por la que yo confiaría más en él que en las alternativas que lo prometen todo y no documentan nada.