← 返回部落格
Ai預計閱讀 8 分鐘

你的 coding agent 一直在重新認識你的 repo,帳單就是這樣來的

發布於 2026年11月7日
你的 coding agent 一直在重新認識你的 repo,帳單就是這樣來的

這裡有一張帳單,你可能很熟。你每天在同一個 repo 上跑 coding agent。它每次都要重新學一次:測試要用 python -m pytest 而不是 pytest。它載入了一個瀏覽器工具,卻從來沒呼叫過。同一個錯誤連續撞三次,同一個修法試四次,然後告訴你它卡住了。

這些都不是模型的問題,是記憶的問題。而 TokenEconomizer——來自 Microsoft Research、UC Berkeley 和 Microsoft Security——處理這件事的方式,是完全不去碰模型。

它量到什麼

論文(arXiv 2610.22732)在 SWE-Bench 任務上報告:五組 agent–model 組合,平均成本降低 18.4% 到 30.9%。三十個「repo × 組合」格子全都更便宜。五組裡有四組的 Pass@1 上升。

各組合的數字更值得細看,因為它們顯示省下來的錢從哪裡來:

  • Claude Code 搭配 Sonnet 5:成本 −23.6%,Pass@1 +1.3
  • Claude Code 搭配 Opus 4.8:成本 −30.9%,Pass@1 −1.0
  • Codex 搭配 GPT-5.6 Terra:成本 −24.7%,Pass@1 +0.9
  • Codex 搭配 GPT-5.6 Sol:成本 −26.1%,Pass@1 +1.6
  • Copilot CLI 搭配 Sonnet 5:成本 −18.4%,Pass@1 +2.6

一個退步,四個進步,全部更便宜。這個模式——幾乎處處更便宜,品質大致持平到略好——就是一個對準了目標的「去浪費」工具該長的樣子。它沒有讓模型變聰明,只是讓模型不要為同一課付兩次錢。

A dark laptop keyboard lit only by the glow of the screen

三個機制,一個想法

README 裡那句定調的話就是整篇的命題:coding agent 是為了完成任務而設計的,不是為了讓任務便宜。

微技能:記住這個 repo 是怎麼運作的。 每次工作階段都在重新發現同樣的事實。某個建置步驟必須先跑。某個指令在這裡的正確拼法。某個指令需要的環境變數。生成檔案放在哪裡。Micro-skills 從兩個來源學習這些:跨工作階段重複出現的失敗,以及每三個工作階段就回頭檢視近期紀錄、提出事實的模型。一個事實要在三個工作階段確認過之後,才會被升進 context。

這個確認門檻是我最喜歡的設計細節。那是「記憶」和「傳言」之間的差別。

工具修剪:別再送出這個 repo 永遠用不到的工具。 Coding agent 出廠就帶一大套工具。一個從不碰 notebook 的 repo,永遠不需要 notebook 工具,而每一個沒用到的工具,每一輪都在付錢。工具修剪透過 agent 自己的設定把它們移除,這也是為什麼它運作時,agent 完全不需要知道這件事。

失敗迴圈介入:注意到迴圈。 同一個錯誤出現三次,就會觸發一次提示,要你換個做法。這是最便宜的機制,大概也最有價值,因為失敗迴圈正是 agent 花最多錢、換最少產出的地方。

沒有別人做的會計細節

「它怎麼運作」那一節裡有一行,說明了為什麼那個標題數字可信:一個工作階段裡大部分 token 都是快取重讀,所以成本是用快取價格計算的,而且它把外掛自己的模型呼叫也算進去了。

這是很罕見的誠實。一個工具一邊報告省了多少、一邊把自己的開銷算在會計之外,那是行銷,不是量測。用快取價格計算快取重讀,也重新定義了問題:agent 工作階段裡貴的不是新產生的 token,而是累積。

安裝

它是你現有 agent 的外掛,從一個 clone 執行。需要 PATH 上有 Python 3.10 以上,它自己不需要 API 金鑰,也從不碰你的憑證。

git clone https://github.com/microsoft/TokenEconomizer.git
claude plugin marketplace add "$PWD/TokenEconomizer"
claude plugin install tokeneconomizer@tokeneconomizer

Codex 和 Copilot CLI 有對應的做法——codex plugin marketplace add、copilot plugin install——opencode 也支援。接著在 agent 裡用 /tokeneconomizer:status 檢查狀態。兩個設定上的重點:資料夾必須留在你 clone 的位置,因為外掛是從那個 clone 執行的;而 Claude Code 的話,每台機器要跑一次 /tokeneconomizer:toolprune refresh-catalog,Claude Code 更新後也要再跑一次,因為工具目錄是版本相關的。

在 Codex 裡,它會要求你信任那個資料夾,然後要你審閱 hooks。hooks 從下一個工作階段才生效,所以請退出後重開。那是整個安裝過程最不優雅的部分,但值得好好做,而不是一路點過去。

它不做什麼

它不改模型、不改權重、不改 agent 的程式碼。這就是它被稱為黑箱的原因:它做的每件事,都是透過工作階段開始時的 context 和 agent 自己的設定來實現。

它對你只碰一次的 repo 沒幫助。它的經濟模型明確是「在後續的工作階段裡回本」,意思是前兩三個工作階段是投資。如果你的工作看起來每週都換一個 repo,那這是錯的工具,論文也會同意你。

它也沒有解決品質問題。有一組組合稍微變差。去掉浪費改變的是 agent 花多少,不是它想得多好,而沒有理由期待兩個軸線每次都能免費變好。

關於量測,有一點要提醒。先跑一週對照組,再決定要不要相信這一切。agent 工作階段的 token 數量本來就吵,而一個剛好特別多產的一週,不管你裝了什麼外掛,都會看起來像成本上的勝利。比較「每完成一個任務的成本」,而不是「每天的成本」,並讓任務清單大致維持不變。論文那三十個格子是有用的先驗,但不能取代你自己的基準線。

為什麼這是接下來一年的樣子

Agent 的定價一直是個「模型成本下降」的故事。對多數團隊來說,那是錯的槓桿,因為帳單主要是被 agent 重讀了多少東西決定,而不是每 token 的價格。靠更便宜的模型省 25% 很好;靠不再重新發現你的建置指令省 25% 是結構性的,而且它會跟更便宜的模型疊加,而不是互相競爭。

我們花了兩年優化提示詞。這裡的數字暗示,接下來兩年是優化工作階段:什麼東西進入 context、哪些工具被載入、什麼時候該打斷一個迴圈。這些都不需要更好的模型,而這正是它很可能有效的原因。

如果你每個月在一個 repo 上跑 agent 超過十次,裝起來,量一週你自己的帳單。有意思的數字不是論文裡的 18–31%,而是你有多少個工作階段,在重新發現你早就知道的事。

相關文章