34 个免费额度，一个端点：FreeLLMAPI 到底在卖什么

有一种开发者，看到“34 家免费 LLM 服务商”这句话，第一反应是开始数小时，等着哪个环节先崩。FreeLLMAPI 就是冲这种人来的，而且难得的是，README 根本没打算装：开篇就把数字摆出来，字号大到像是发融资公告——每月 74 亿 token，34 家服务商，635 个免费端点，474 个模型系列，一个兼容 OpenAI 的 URL。

这个仓库过去一个月涨了大概 15,600 星，现在停在 45,400 左右。这种增速本身就是信号。大家点星不是因为代码优雅，而是因为他们自己手动干了一年的同一件事，干得很烂：开六个控制台，把六把 key 抄进配置文件，凌晨两点发现脚本真正依赖的那家服务商，配额三小时前就已经重置过了。

它到底是什么

FreeLLMAPI 是个本地路由器，蹲在你的客户端和一堆免费额度之间。你把客户端指向 http://localhost:PORT/v1，随便填一个 key 字符串，它来决定每个请求走哪个上游模型。某家开始返回限流错误，它就切下一家。它按 key 记录用量，免得你撞上一个要等到月初才重置的上限。key 是加密存的。

整个把戏就这一套，而且确实有用。任何试过靠免费额度养活副业项目的人都知道，崩的方式从来不是某一家挂了。是你把整套重试逻辑焊死在某一家的错误格式上，然后发现下一家格式不一样，再然后发现第三家流式输出根本不是那么回事。

怎么装

四条路，从这四条路也能看出他们预期谁会来。

最快的是桌面端：从 releases 页下载 macOS 或 Windows 版本，打开，填 key。家用服务器或者小团队可以用 Docker Compose，镜像指向 ghcr.io/freellmapi/freellmapi，如果这东西要跑几个月，我会选这个。另外还有 Android 和 iOS 应用，听着有点多余，但你要是想起真有人想在手机上有个备用模型、又不想为这个特权每月掏 20 美元，就不多余了。

跑起来之后，配置就是你所用客户端里的一行。任何说 OpenAI API 的东西都能用：编码 agent、聊天界面、常见的 Python 和 TypeScript SDK。设个 base URL，设个假 key，请求就出去了。README 里的兼容列表很长，日常真在用的 CLI agent 基本都在里面。

要花钱的那部分

有意思的地方在这儿。目录本身从一个签名过的 feed 更新。新上的免费模型、配额变化、兼容性修复，都会自己到，不用 git pull。这就是那套没人愿意手工维护的管道，也正是并不完全免费的部分。

免费安装拿到的是每月快照。一个模型进了实时 feed，要 30 天后才出现在你机器上。想要当天就看到目录，一年 19 美元。商业模式就是这个：不是路由，不是软件（软件是 MIT 授权），是那份列表的新鲜度。

这个模式说得通，但它也暴露了一件事。这个赛道的价值从来不在代理代码里。价值在于，这周知道 635 个端点里哪几个还活着，哪个悄悄把免费额度里的图像生成关了。这是个数据问题，而数据烂得很快。

它解决不了什么

免费额度之所以免费，是因为有人判断你带来的边际成本值得那点营销效果。不是因为服务条款允许你把 34 家叠在一个端点后面、再转卖访问权。README 里有局限说明和免责声明，在你把任何面向生产的东西指过来之前，两段都值得读一遍。

还有质量问题。免费额度通常是小的模型、量化版本、老的 checkpoint。如果你的工作流要求某个模型有特定表现，而路由器在第一家被限流时默默换成一个别的，产出的结果就会以很难排查的方式不一致。路由器有故障转移逻辑，但它没有“这两个模型对我的任务而言可以互换”这个概念。

再就是延迟。每一跳都多一次决策。一切健康的时候你感觉不到。等 34 家里有三家正在过一个糟糕的下午，你会感觉到——一个请求先花 11 秒失败，然后在别处成功。

真正让它跑起来的那个不性感的细节

按 key 计量，是我如果要做个类似东西会直接抄走的部分。免费额度很少大声报错。它们是慢慢退化：周一脚本还能跑，周三变慢，周五开始返回 429，而你的代码把它当通用错误无限重试。一个知道每个 key 上限、在撞墙之前就停止发请求的路由器，干的是维持系统活着这种无聊但要命的活。

另一个值得说的设计选择是，它没有在模型选择上耍聪明到让你意外的程度。你想固定某个模型，可以。路由器存在的意义是吸收失败，不是对你的 prompt 该用哪个模型发表意见。这种克制在这个赛道很少见，这里的项目总爱加一层“智能路由”，结果产出不可复现，调试变得像受刑。

这东西给谁用

如果你在做必须可靠的东西，这不是你的基础设施。买一个好用的 API，走人。生产环境里一个不稳定模型的代价，是客服工单，不是每百万 token 多少钱。

如果你在做自己的东西，或者周六凌晨一点在验证一个想法，它是真好用，好用到大多数“AI 工具”仓库做不到的程度。它拿掉了乏味的部分（管 key、盯配额、故障转移），留下真正重要的部分（这个想法成不成立）。每月 74 亿 token 这个标题是营销，但底下那句话是真的：34 家加起来的免费容量，比任何一家都大得多，而且大部分时候是闲着。

这个项目引出的不舒服的问题是明年。每一份免费额度都是一笔获客预算，而这些预算正在被砍。一个依赖 34 份免费额度的路由器，赌的是至少有一部分会继续白送推理。这个赌注已经赢了一段时间。要说它永远赢下去，那才奇怪。

不过眼下，45,000 人已经判断这笔交易划算，而 README 对局限的诚实，正是我比那些什么都承诺、什么都不写清楚的替代品更信它的原因。