← 返回部落格
Ai預計閱讀 8 分鐘

119,975 顆星,給一個讓 Agent 講話像穴居人的技能

發布於 2026年11月14日
119,975 顆星,給一個讓 Agent 講話像穴居人的技能

這個儲存庫有 119,975 顆星,賣點是一句文法崩壞的英文說明:why use many token when few token do trick。專案叫 Caveman,Apache-2.0 授權,一行指令就能安裝。它做的事,是讓寫程式的 Agent 少寫、少讀。

整個產品就這些。沒有新模型、沒有新工具、沒有 Agent 框架。一個改寫 Agent 說話方式的 skill、一個修剪 Agent 讀入內容的代理,加上幾條用來選擇壓縮強度的指令。

README 裡的前後對照說得很清楚。問一個 React 元件為什麼重複渲染,普通 Agent 寫 63 個 token:每次渲染都會建立新的物件參考,淺比較會認為它不同,於是觸發重渲染,你應該把 prop 包進 useMemo。Caveman 寫 20 個:每次渲染建立新物件參考,所以 React 重渲染,把 prop 包進 useMemo。修法一樣。消失的那些 token 是鋪陳、含糊,還有對同一件事的重述。

那些數字,以及誰核過

專案自己測到的數字是整段工作階段輸入 token 減少 33.2%,來自 54 次 Claude Code 執行,18 題全部答對。Auto 模式下,85 個程式任務對上 xhigh 的 Opus 5.5,成本低 54%。有一次測試從 397 個 token 降到 76 個,對照的是把輸出接進 `tail -20`。

一個靠擴散起量的專案自報數字當然該被懷疑,所以外部的複核更重要。Adobe Research 發了論文,arXiv 2606.24083,在八個模型上測這種穴居人式輸出,成本降到 1.4 到 2.4 分之一。JetBrains 做了 A/B 測試,7 月寫了報告。Elasticsearch Labs 為自家助理重做了一遍這個思路。專案還上過 Hacker News 第一和 GitHub Trending 第一,六位數星標就是這樣來的。

三個獨立團隊重現同一個壓縮技巧,在這類專案裡並不常見。多數省 token 的說法,只來自廠商自己的儀表板。

三種沒禮貌的程度

這個 skill 內建三種語體。`/caveman` 給你 20 個 token 的答案。`/ultracave` 砍到 14 個:行內物件 prop、新參考、重渲染、useMemo。`/megacave` 用中文回 13 個 token,這個玩笑在這裡才真的落地,因為這類句子中文每個 token 裝的資訊更多。

之所以要有段位,是因為壓縮不是免費的。抽掉夠多的連接組織,你也就丟掉讓答案可信的那部分推理。修法顯而易見時,13 個 token 的回覆很好;模型在猜的時候,它很危險。給使用者一個旋鈕而不是固定值,是誠實的設計選擇,即使大多數人會停在中間那格,然後再也不去想它。

讀入那一側更不顯眼,大概也更值錢。這個 skill 還改了 Agent 往上下文裡拉什麼:更少的檔案內容、更少的上下文段落、更緊的日誌。文件裡的一個例子是某次測試輸出 397 個 token,skill 改寫它用的指令後變成 76 個。看過 Agent 把四十行通過的測試輸出貼進對話的人,都知道那張帳單從哪來。這部分的節省是結構性的,是讀摘要和讀逐字紀錄的差別。

安裝就一行,`npx @caveman-ai/cli@latest`,需要 Node 22.13 或更新。安裝程式會找到你的 Agent 和登入資訊,列出打算改什麼,然後等你按 Enter。之後直接跑 `claude` 就是 caveman 模式,Codex、Gemini CLI、OpenCode 也一樣,照 README 的說法還有 30 多個。它跑在本機,用你自己的金鑰和訂閱。除非你選雲端方案,否則沒有任何東西經過第三方伺服器。

它為什麼真的有用

語言模型是在人類散文上訓練的,而人類散文天生冗餘。Agent 回答技術問題時,會複製一篇有用部落格文章的形狀:重述問題、解釋機制、給出修法、補一句注意事項。這些都是好文筆,但當讀者是一個已經知道上下文的開發者時,大部分並不必要。

省下來的量會在輸入側複利,這是人們容易忘的部分。一個回覆更短的 Agent,歷史也更短,而歷史在每一輪都會被重送。一個嘮叨的 Agent,在之後每一次請求裡都要為自己的嘮叨再付一次錢。把回覆長度砍掉三分之一,省下的量會在整段對話裡滾起來,而不是只停在一個訊息裡。

這也是壓縮必須穩定的原因。如果 Agent 有時寫散文、有時寫穴居人語,上下文就變得不一致,模型會開始對自己的格式含糊其辭。一個強制語體的 skill,做到了提示詞建議做不到的事。

免費的桌面應用才是真正的生意

除了 skill,專案還推出 Caveman Code,一個免費的 Mac 應用,把所有寫程式的 Agent 放進同一個視窗。宣傳數字落在 Terminal-Bench 4 上:每個解出的任務比 Codex 便宜 21%,比 Claude Code 便宜 14%,同時解出 97 個任務對 83 個,接上四個應用的一整個工作日便宜 76%。每次對比兩邊跑同一個模型,用標價,2026 年 11 月,他們自己的執行結果。

第三個數字要仔細讀。接四個應用的一整個工作日不是基準測試,它描述的是人們真正怎麼用這些工具:幾個 Agent 並行、長工作階段、頻繁切換上下文。正是在這裡,token 開銷不再是捨入誤差,而變成帳單本身。

策略看得懂。把省錢的東西送出去,成為所有人跑 Agent 的那個視窗,然後賣協調層。過去兩年每個 IDE 和終端機都在打這副牌,只是這個笑話更好笑。

它可能出問題的地方

壓縮會刪掉資訊,而其中一些資訊是承重的。用穴居人語寫的程式註解,對下一個人類更糟。用穴居人語寫的提交訊息,對所有人都更糟。這個 skill 瞄準的是聊天,README 也明說程式碼保持原樣,但這條界線靠提示詞維持,而提示詞會漏。

還有一個度量問題。token 數好報,每個解出任務的成本不好報。一個省了 30% token 卻多要一輪澄清的模型,什麼都沒省下。18 題全對回答的是一次很窄的測試,而 18 道題不是基準。

不過核心論斷經得起檢驗,而且它是當下 AI 裡最不體面的那個論斷:Agent 花掉的錢裡,很大一部分花在沒人需要的字上。修好這件事不需要新模型、更大的上下文視窗,或一張 GPU。它只需要一個決定:Agent 應該像一個忙著的、可靠的同事那樣說話。

相關文章