119,975 顆星,給一個讓 Agent 講話像穴居人的技能

這個儲存庫有 119,975 顆星,賣點是一句文法崩壞的英文說明:why use many token when few token do trick。專案叫 Caveman,Apache-2.0 授權,一行指令就能安裝。它做的事,是讓寫程式的 Agent 少寫、少讀。
整個產品就這些。沒有新模型、沒有新工具、沒有 Agent 框架。一個改寫 Agent 說話方式的 skill、一個修剪 Agent 讀入內容的代理,加上幾條用來選擇壓縮強度的指令。
README 裡的前後對照說得很清楚。問一個 React 元件為什麼重複渲染,普通 Agent 寫 63 個 token:每次渲染都會建立新的物件參考,淺比較會認為它不同,於是觸發重渲染,你應該把 prop 包進 useMemo。Caveman 寫 20 個:每次渲染建立新物件參考,所以 React 重渲染,把 prop 包進 useMemo。修法一樣。消失的那些 token 是鋪陳、含糊,還有對同一件事的重述。
那些數字,以及誰核過
專案自己測到的數字是整段工作階段輸入 token 減少 33.2%,來自 54 次 Claude Code 執行,18 題全部答對。Auto 模式下,85 個程式任務對上 xhigh 的 Opus 5.5,成本低 54%。有一次測試從 397 個 token 降到 76 個,對照的是把輸出接進 `tail -20`。
一個靠擴散起量的專案自報數字當然該被懷疑,所以外部的複核更重要。Adobe Research 發了論文,arXiv 2606.24083,在八個模型上測這種穴居人式輸出,成本降到 1.4 到 2.4 分之一。JetBrains 做了 A/B 測試,7 月寫了報告。Elasticsearch Labs 為自家助理重做了一遍這個思路。專案還上過 Hacker News 第一和 GitHub Trending 第一,六位數星標就是這樣來的。
三個獨立團隊重現同一個壓縮技巧,在這類專案裡並不常見。多數省 token 的說法,只來自廠商自己的儀表板。
三種沒禮貌的程度
這個 skill 內建三種語體。`/caveman` 給你 20 個 token 的答案。`/ultracave` 砍到 14 個:行內物件 prop、新參考、重渲染、useMemo。`/megacave` 用中文回 13 個 token,這個玩笑在這裡才真的落地,因為這類句子中文每個 token 裝的資訊更多。
之所以要有段位,是因為壓縮不是免費的。抽掉夠多的連接組織,你也就丟掉讓答案可信的那部分推理。修法顯而易見時,13 個 token 的回覆很好;模型在猜的時候,它很危險。給使用者一個旋鈕而不是固定值,是誠實的設計選擇,即使大多數人會停在中間那格,然後再也不去想它。
讀入那一側更不顯眼,大概也更值錢。這個 skill 還改了 Agent 往上下文裡拉什麼:更少的檔案內容、更少的上下文段落、更緊的日誌。文件裡的一個例子是某次測試輸出 397 個 token,skill 改寫它用的指令後變成 76 個。看過 Agent 把四十行通過的測試輸出貼進對話的人,都知道那張帳單從哪來。這部分的節省是結構性的,是讀摘要和讀逐字紀錄的差別。
安裝就一行,`npx @caveman-ai/cli@latest`,需要 Node 22.13 或更新。安裝程式會找到你的 Agent 和登入資訊,列出打算改什麼,然後等你按 Enter。之後直接跑 `claude` 就是 caveman 模式,Codex、Gemini CLI、OpenCode 也一樣,照 README 的說法還有 30 多個。它跑在本機,用你自己的金鑰和訂閱。除非你選雲端方案,否則沒有任何東西經過第三方伺服器。
它為什麼真的有用
語言模型是在人類散文上訓練的,而人類散文天生冗餘。Agent 回答技術問題時,會複製一篇有用部落格文章的形狀:重述問題、解釋機制、給出修法、補一句注意事項。這些都是好文筆,但當讀者是一個已經知道上下文的開發者時,大部分並不必要。
省下來的量會在輸入側複利,這是人們容易忘的部分。一個回覆更短的 Agent,歷史也更短,而歷史在每一輪都會被重送。一個嘮叨的 Agent,在之後每一次請求裡都要為自己的嘮叨再付一次錢。把回覆長度砍掉三分之一,省下的量會在整段對話裡滾起來,而不是只停在一個訊息裡。
這也是壓縮必須穩定的原因。如果 Agent 有時寫散文、有時寫穴居人語,上下文就變得不一致,模型會開始對自己的格式含糊其辭。一個強制語體的 skill,做到了提示詞建議做不到的事。
免費的桌面應用才是真正的生意
除了 skill,專案還推出 Caveman Code,一個免費的 Mac 應用,把所有寫程式的 Agent 放進同一個視窗。宣傳數字落在 Terminal-Bench 4 上:每個解出的任務比 Codex 便宜 21%,比 Claude Code 便宜 14%,同時解出 97 個任務對 83 個,接上四個應用的一整個工作日便宜 76%。每次對比兩邊跑同一個模型,用標價,2026 年 11 月,他們自己的執行結果。
第三個數字要仔細讀。接四個應用的一整個工作日不是基準測試,它描述的是人們真正怎麼用這些工具:幾個 Agent 並行、長工作階段、頻繁切換上下文。正是在這裡,token 開銷不再是捨入誤差,而變成帳單本身。
策略看得懂。把省錢的東西送出去,成為所有人跑 Agent 的那個視窗,然後賣協調層。過去兩年每個 IDE 和終端機都在打這副牌,只是這個笑話更好笑。
它可能出問題的地方
壓縮會刪掉資訊,而其中一些資訊是承重的。用穴居人語寫的程式註解,對下一個人類更糟。用穴居人語寫的提交訊息,對所有人都更糟。這個 skill 瞄準的是聊天,README 也明說程式碼保持原樣,但這條界線靠提示詞維持,而提示詞會漏。
還有一個度量問題。token 數好報,每個解出任務的成本不好報。一個省了 30% token 卻多要一輪澄清的模型,什麼都沒省下。18 題全對回答的是一次很窄的測試,而 18 道題不是基準。
不過核心論斷經得起檢驗,而且它是當下 AI 裡最不體面的那個論斷:Agent 花掉的錢裡,很大一部分花在沒人需要的字上。修好這件事不需要新模型、更大的上下文視窗,或一張 GPU。它只需要一個決定:Agent 應該像一個忙著的、可靠的同事那樣說話。
相關文章
ByteDance 的 SeedRealtime 每秒只取兩張影格,再自己決定什麼時候開口
豆包 Seed-Realtime-1.0 把攝影機畫面、螢幕畫面和語音合成一個全雙工工作階段,每秒最多推兩張影格。有意思的決定是影格率、主動說話,以及預設就開著的審核回覆。
一台 server、一個 AI 主播:夜間直播背後的程式碼
open-yoki 是一個每晚在 Binance Square 直播的 AI 主播的生產程式碼,人格、聲音和跟錢有關的功能都拿掉了。headless Chrome 畫幀,ffmpeg 推 RTMP,一個 Markdown 資料夾決定她的情緒和要發的東西。
Pinky 讓 agent 開你的手機,並且一直按著傳送鍵,直到你按下允許
Pinky 把任何 MCP agent 接到真的 iPhone 或 Android 手機上,審批在自己的閘道裡執行,不寫成 prompt。銀行類 App 對 agent 不可見,密碼欄位碰不到,在 Android 13 上 agent 還能拿到一塊隱藏的第二螢幕。
有人把全世界的法律放進了 git,於是你可以 blame 一條法條
global-law 把每個國家的法令存成一個 git 儲存庫,每次 commit 就是一部在某個已知日期生效的法律。你可以對一條法規跑 log、blame、show 和 diff,查某一天各國在施行什麼法,並透過 MCP 把整份語料交給助理。