← 返回博客
Ai预计阅读 8 分钟

119,975 颗星,给一个让 Agent 说话像穴居人的技能

发布于 2026年11月14日
119,975 颗星,给一个让 Agent 说话像穴居人的技能

这个仓库有 119,975 颗星,它的卖点是一句语法崩坏的英文说明:why use many token when few token do trick。项目叫 Caveman,Apache-2.0 协议,一行命令就能装。它做的事是让写代码的 Agent 少写、少读。

整个产品就这些。没有新模型,没有新工具,没有 Agent 框架。一个改写 Agent 说话方式的 skill,一个修剪 Agent 读入内容的代理,加上几条用来选择压缩强度的命令。

README 里的前后对比说得很清楚。问一个 React 组件为什么重复渲染,普通 Agent 写 63 个 token:每次渲染都会创建新的对象引用,浅比较会认为它不同,于是触发重渲染,你应该把 prop 包进 useMemo。Caveman 写 20 个:每次渲染新建对象引用,所以 React 重渲染,把 prop 包进 useMemo。修法一样。消失的那些 token 是铺垫、含糊,还有对同一件事的重复表述。

那些数字,以及谁核过

项目自己测的数据是整段会话输入 token 减少 33.2%,来自 54 次 Claude Code 运行,18 道题全部答对。Auto 模式下,85 个编码任务对比 xhigh 档的 Opus 5.5,成本低 54%。有一次测试从 397 个 token 降到 76 个,对照的是把输出管进 `tail -20`。

一个靠传播起量的项目自报数据当然该被怀疑,所以外部的复核更重要。Adobe Research 发了一篇论文,arXiv 2606.24083,在八个模型上测这种穴居人式输出,成本降到 1.4 到 2.4 分之一。JetBrains 做了 A/B 测试,7 月写了报告。Elasticsearch Labs 为自家助手重做了一遍这个思路。项目还上过 Hacker News 第一和 GitHub Trending 第一,六位数星标就是这么来的。

三个独立团队复现同一个压缩技巧,在这类项目里并不常见。多数省 token 的说法只来自厂商自己的面板。

三档没礼貌

这个 skill 自带三档语体。`/caveman` 给你 20 个 token 的答案。`/ultracave` 砍到 14 个:内联对象 prop,新引用,重渲染,useMemo。`/megacave` 用中文回 13 个 token,这个玩笑在这里才真正落地,因为这类句子中文每个 token 装的信息更多。

之所以要有档位,是因为压缩不是免费的。抽掉足够多的连接组织,你也就丢掉了让答案可信的那部分推理。修法显而易见时,13 个 token 的回复很好;模型在猜的时候,它很危险。给用户一个旋钮而不是一个固定值,是诚实的设计选择,哪怕大多数人会停在中间那档,然后再也不去想它。

读入那一侧更不显眼,大概也更值钱。这个 skill 还改了 Agent 往上下文里拉什么:更少的文件内容,更少的上下文段落,更紧的日志。文档里的一个例子是某次测试输出 397 个 token,skill 改写它用的命令后变成 76 个。看过 Agent 把四十行通过的测试输出贴进对话的人,都知道那张账单从哪来。这部分省钱是结构性的,是读摘要和读逐字记录的区别。

安装就一行,`npx @caveman-ai/cli@latest`,需要 Node 22.13 或更新。安装器会找到你的 Agent 和登录信息,列出打算改什么,然后等你按回车。之后直接跑 `claude` 就是 caveman 模式,Codex、Gemini CLI、OpenCode 也一样,按 README 的说法还有 30 多个。它跑在本地,用你自己的密钥和订阅。除非你选云端方案,否则没有任何东西经过第三方服务器。

它为什么真能起作用

语言模型是在人类散文上训练的,而人类散文天生冗余。Agent 回答技术问题时,会复刻一篇有用的博客文章的形状:重述问题,解释机制,给出修法,补一句注意事项。这些都是好文笔,但当读者是一个已经知道上下文的开发者时,大部分并不必要。

省下来的量会在输入侧复利,这是人们容易忘的部分。一个回复更短的 Agent,历史也更短,而历史在每一轮都会被重发。一个啰嗦的 Agent,在之后每一次请求里都要为自己的啰嗦再付一次钱。把回复长度砍掉三分之一,省下的量会在整个对话里滚起来,而不是只停在一条消息里。

这也是压缩必须稳定的原因。如果 Agent 有时写散文、有时写穴居人语,上下文就变得不一致,模型会开始对自己的格式含糊其辞。一个强制语体的 skill,做到了提示词建议做不到的事。

免费的桌面应用才是真正的生意

除了 skill,项目还发了 Caveman Code,一个免费的 Mac 应用,把所有编码 Agent 放进同一个窗口。宣传数字落在 Terminal-Bench 4 上:每个解出的任务比 Codex 便宜 21%,比 Claude Code 便宜 14%,同时解出 97 个任务对 83 个,接入四个应用的一整个工作日便宜 76%。每次对比两边跑同一个模型,用标价,2026 年 11 月,他们自己的运行结果。

第三个数字要仔细读。接四个应用的一个完整工作日不是基准测试,它描述的是人们真正怎么用这些工具:几个 Agent 并行,长会话,频繁切换上下文。正是在这里,token 开销不再是舍入误差,而变成了账单本身。

策略看得懂。把省钱的东西送出去,成为所有人跑 Agent 的那个窗口,然后卖协调层。过去两年每个 IDE 和终端都在打这副牌,只是这个笑话更好笑。

它可能出问题的地方

压缩会删掉信息,而其中一些信息是承重的。用穴居人语写的代码注释,对下一个人类更糟。用穴居人语写的提交信息,对所有人都更糟。这个 skill 瞄准的是聊天,README 也明说代码保持原样,但这条边界靠提示词维持,而提示词会漏。

还有一个度量问题。token 数好报,每个解出任务的成本不好报。一个省了 30% token 却多要一轮澄清的模型,什么都没省下。18 题全对回答的是一次很窄的测试,而 18 道题不是基准。

不过核心论断经得起推敲,而且它是当下 AI 里最不体面的那个论断:Agent 花掉的钱里,很大一部分花在没人需要的字上。修好这件事不需要新模型、更大的上下文窗口或者一块 GPU。它只需要一个决定:Agent 应该像一个忙着的、靠谱的同事那样说话。

相关文章