119,975 颗星,给一个让 Agent 说话像穴居人的技能

这个仓库有 119,975 颗星,它的卖点是一句语法崩坏的英文说明:why use many token when few token do trick。项目叫 Caveman,Apache-2.0 协议,一行命令就能装。它做的事是让写代码的 Agent 少写、少读。
整个产品就这些。没有新模型,没有新工具,没有 Agent 框架。一个改写 Agent 说话方式的 skill,一个修剪 Agent 读入内容的代理,加上几条用来选择压缩强度的命令。
README 里的前后对比说得很清楚。问一个 React 组件为什么重复渲染,普通 Agent 写 63 个 token:每次渲染都会创建新的对象引用,浅比较会认为它不同,于是触发重渲染,你应该把 prop 包进 useMemo。Caveman 写 20 个:每次渲染新建对象引用,所以 React 重渲染,把 prop 包进 useMemo。修法一样。消失的那些 token 是铺垫、含糊,还有对同一件事的重复表述。
那些数字,以及谁核过
项目自己测的数据是整段会话输入 token 减少 33.2%,来自 54 次 Claude Code 运行,18 道题全部答对。Auto 模式下,85 个编码任务对比 xhigh 档的 Opus 5.5,成本低 54%。有一次测试从 397 个 token 降到 76 个,对照的是把输出管进 `tail -20`。
一个靠传播起量的项目自报数据当然该被怀疑,所以外部的复核更重要。Adobe Research 发了一篇论文,arXiv 2606.24083,在八个模型上测这种穴居人式输出,成本降到 1.4 到 2.4 分之一。JetBrains 做了 A/B 测试,7 月写了报告。Elasticsearch Labs 为自家助手重做了一遍这个思路。项目还上过 Hacker News 第一和 GitHub Trending 第一,六位数星标就是这么来的。
三个独立团队复现同一个压缩技巧,在这类项目里并不常见。多数省 token 的说法只来自厂商自己的面板。
三档没礼貌
这个 skill 自带三档语体。`/caveman` 给你 20 个 token 的答案。`/ultracave` 砍到 14 个:内联对象 prop,新引用,重渲染,useMemo。`/megacave` 用中文回 13 个 token,这个玩笑在这里才真正落地,因为这类句子中文每个 token 装的信息更多。
之所以要有档位,是因为压缩不是免费的。抽掉足够多的连接组织,你也就丢掉了让答案可信的那部分推理。修法显而易见时,13 个 token 的回复很好;模型在猜的时候,它很危险。给用户一个旋钮而不是一个固定值,是诚实的设计选择,哪怕大多数人会停在中间那档,然后再也不去想它。
读入那一侧更不显眼,大概也更值钱。这个 skill 还改了 Agent 往上下文里拉什么:更少的文件内容,更少的上下文段落,更紧的日志。文档里的一个例子是某次测试输出 397 个 token,skill 改写它用的命令后变成 76 个。看过 Agent 把四十行通过的测试输出贴进对话的人,都知道那张账单从哪来。这部分省钱是结构性的,是读摘要和读逐字记录的区别。
安装就一行,`npx @caveman-ai/cli@latest`,需要 Node 22.13 或更新。安装器会找到你的 Agent 和登录信息,列出打算改什么,然后等你按回车。之后直接跑 `claude` 就是 caveman 模式,Codex、Gemini CLI、OpenCode 也一样,按 README 的说法还有 30 多个。它跑在本地,用你自己的密钥和订阅。除非你选云端方案,否则没有任何东西经过第三方服务器。
它为什么真能起作用
语言模型是在人类散文上训练的,而人类散文天生冗余。Agent 回答技术问题时,会复刻一篇有用的博客文章的形状:重述问题,解释机制,给出修法,补一句注意事项。这些都是好文笔,但当读者是一个已经知道上下文的开发者时,大部分并不必要。
省下来的量会在输入侧复利,这是人们容易忘的部分。一个回复更短的 Agent,历史也更短,而历史在每一轮都会被重发。一个啰嗦的 Agent,在之后每一次请求里都要为自己的啰嗦再付一次钱。把回复长度砍掉三分之一,省下的量会在整个对话里滚起来,而不是只停在一条消息里。
这也是压缩必须稳定的原因。如果 Agent 有时写散文、有时写穴居人语,上下文就变得不一致,模型会开始对自己的格式含糊其辞。一个强制语体的 skill,做到了提示词建议做不到的事。
免费的桌面应用才是真正的生意
除了 skill,项目还发了 Caveman Code,一个免费的 Mac 应用,把所有编码 Agent 放进同一个窗口。宣传数字落在 Terminal-Bench 4 上:每个解出的任务比 Codex 便宜 21%,比 Claude Code 便宜 14%,同时解出 97 个任务对 83 个,接入四个应用的一整个工作日便宜 76%。每次对比两边跑同一个模型,用标价,2026 年 11 月,他们自己的运行结果。
第三个数字要仔细读。接四个应用的一个完整工作日不是基准测试,它描述的是人们真正怎么用这些工具:几个 Agent 并行,长会话,频繁切换上下文。正是在这里,token 开销不再是舍入误差,而变成了账单本身。
策略看得懂。把省钱的东西送出去,成为所有人跑 Agent 的那个窗口,然后卖协调层。过去两年每个 IDE 和终端都在打这副牌,只是这个笑话更好笑。
它可能出问题的地方
压缩会删掉信息,而其中一些信息是承重的。用穴居人语写的代码注释,对下一个人类更糟。用穴居人语写的提交信息,对所有人都更糟。这个 skill 瞄准的是聊天,README 也明说代码保持原样,但这条边界靠提示词维持,而提示词会漏。
还有一个度量问题。token 数好报,每个解出任务的成本不好报。一个省了 30% token 却多要一轮澄清的模型,什么都没省下。18 题全对回答的是一次很窄的测试,而 18 道题不是基准。
不过核心论断经得起推敲,而且它是当下 AI 里最不体面的那个论断:Agent 花掉的钱里,很大一部分花在没人需要的字上。修好这件事不需要新模型、更大的上下文窗口或者一块 GPU。它只需要一个决定:Agent 应该像一个忙着的、靠谱的同事那样说话。
相关文章
「宿命感拉满的橘子海剪影」:一句提示词把情绪拆成了参数
11 月 19 日到 20 日,小红书和抖音同时刷起「橘子海剪影」。点进去会发现多数人并没有站在落日下,他们把自己的一张照片交给豆包,出来的是一张 3:4 竖版情绪海报。这套氛围被拆成了十几个写得明明白白的参数。
ByteDance 的 SeedRealtime 每秒只取两帧,再自己决定什么时候开口
豆包 Seed-Realtime-1.0 把摄像头画面、屏幕画面和语音合成一个全双工会话,每秒最多推两帧。有意思的决定是帧率、主动说话,以及默认就开着的审核回复。
Cicada 直接听会议的系统音频,会议室里没有机器人
Cicada 是 Mac、Windows、Linux 和 Android 上的免费应用,从系统音频里写出双语字幕和结构化会议笔记。按住一个键,你能用自己克隆出来的声音,把回复用另一种语言说出去。整个过程里没有机器人加入通话。
一台 server、一个 AI 主播:夜间直播背后的代码
open-yoki 是一个每晚在 Binance Square 直播的 AI 主播的生产代码,人格、声音和跟钱有关的功能都拿掉了。headless Chrome 画帧,ffmpeg 推 RTMP,一个 Markdown 文件夹决定她的情绪和要发的东西。