不依賴 harness 的代理:在自己的機器上執行任何前沿模型

harness 曾經就是產品
如果你想要最好的程式開發代理,就必須接受一個套裝。某個特定模型被包裝在某個特定介面裡,搭配一套特定工具,執行在別人的伺服器上。模型、harness 和代管被綁成一件東西販售,切換其中任何一環都意味著要全部切換。
十月的種種動向顯示,這個套裝正在鬆動。一批衝上熱門榜的開源專案共享同一個前提:模型是智慧,harness 是管線,兩者不必裝在同一個包裹裡。一旦接受這一點,許多關於如何使用代理的既有假設就開始鬆動。
這些專案實際上在做什麼
最清楚的例子是:拿你本來就喜歡的介面,讓它指向你能存取到的任何模型。其中一個專案本身也在熱門榜上,提供多 harness、多模型的設定,可以從終端機、編輯器或瀏覽器工作階段中執行,並附帶語音支援。它的賣點是:當你坐下來工作時,不會被鎖定在某家廠商的模型上。
另一個專案把這個想法推得更遠,直接取消了共享基礎設施。它的賣點是:每一次安裝都以各自的本地設定、各自的工作區允許清單和各自的權杖執行。沒有中央中繼,沒有共享帳號,也沒有中間的操作者盯著你的流量。這是一個基於 Model Context Protocol 建構、對供應商中立的執行層,其安全模型採取失敗即關閉的原則:僅限本地的 HTTP 綁定、每個請求都要權杖驗證,遠端呼叫者若沒有你的專屬憑證,根本無法觸及你的工作區。
第三種做法保留了各個元件,但改變了組織單位。你不再用單一代理,而是組裝一支小而持久的團隊:有明確定位、共享上下文、各自負責一部分工作的代理,並且可以同時從幾個不同的 harness 抽調。它押注的是:在長期專案上,一支結構化的普通代理團隊會勝過單一聰明的代理,因為工作是有形狀的,而這個形狀是被強制執行的。

為什麼「擁有自己的技術棧」突然變得具體
多年來,AI 領域的「擁有自己的技術棧」只是一句理想化的說法。你可以擁有自己的提示詞,卻無法擁有模型,而模型才是大部分價值所在。開放模型與開放權重模型近來的成熟,正好碰上程式開發代理這類工具走向成熟,兩者的結合正是這些專案之所以可行、而非為時過早的原因。
如果一個有能力的模型能在本地執行,或者能透過供應商中立的 API 存取,那麼 harness 就不再是一條銷售管道,而變成一個你可以隨時替換的工具。這對誰掌握主導權來說是一次意義重大的轉變。一個能在不重寫工作流程的前提下在不同模型間切換的團隊,能夠在一個下午、而非一季之內,應對漲價、退役或能力突襲。
這些工具的安全架構是最值得細讀的部分,因為真正的設計主張就藏在這裡。一個在你機器上執行、持有你憑證的工具,其可信程度完全取決於它的邊界。真正獲得動能的,是那些假定網路充滿敵意、預設把存取留在本地、並且要求明確設定才會暴露任何東西的專案。這與雲端優先的代理平台姿態截然不同,後者要求你把程式碼送到它們的伺服器上,並信任它們的隔離。
沒人解決的那份張力
供應商中立的說法有一個顯而易見的弱點,值得直說:它取決於模型廠商是否容忍它。任何讓使用者透過別人的介面來執行某家廠商模型的工具,都在一個該廠商可能認可、也可能不認可的地帶運作。有些專案明確表示,它們的設定以對服務條款友善為設計目標。另一些專案恰恰從這種張力中獲得能量。「供應商中立」與「繞過預期管道」之間的界線,每家廠商畫得都不一樣,而且還在移動。
這種脆弱性並不是否定這個類別的理由,而是理解自己到底依賴技術棧哪一層的理由。一個編排你本就擁有的本地模型的工具,與一個全部賣點在於用非常規手段取得前沿模型存取權的工具,風險特徵截然不同。兩者都有用,但只有一個是可長可久的,而且通常不是那個激動人心的。
這對你的工作方式意味著什麼
對今天就在使用代理的人來說,實際結論是:開始在自己腦中把各個層分開,因為工具本身已經在把它們分開了。你的模型是一個決定,你的 harness 是另一個。你的工具、記憶、權限和執行環境,全都是彼此獨立的選擇,而把它們當成一個套裝,正是讓你被鎖定的原因。
一旦你以分層的方式思考,社群的成果就開始像一整套技術棧,而不是一堆相互競爭的專案。一層負責安全地執行指令,另一層管理上下文和記憶,再一層把代理組織成團隊,還有一層處理工作流程的匯出與匯入,讓它們不會被困在某個產品裡。每一塊都不大,合在一起,它們描述的是一種屬於執行者本人、而非屬於某家廠商的代理。
這種所有權的代價是維護。你租來的套裝,是別人負責讓它保持運作;你組裝的技術棧,則是你自己的責任。模型更新了,你去測試;協定變了,你去移轉。這些專案讓這件事比從零開始更容易,但並沒有讓它免費,而那些採納了這套理念、卻沒有為維護編列預算的團隊,常常因為疲憊又漂回套裝。自由是真的,帳單也是真的。
方向
最可能的未來並不是其中某個專案勝出、廠商落敗,而是各個層被吸收。廠商會繼續推出社群所建構功能的官方版本,因為平台就是這麼做的。與此同時,社群專案提供的是一枚談判籌碼:證明套裝是可選項,以及一組逃生出口,供廠商更改條款或退役某個端點的那一天使用。
這是一種不算張揚的勝利,也是誠實的勝利。不依賴 harness 的代理不是什麼革命,它是保險,也是一個論點:你租用的智慧和執行它的機器,不該是同一個決定。對於一個剛花了一個月、眼看整個影片模型家族在某個固定日期被退役的領域來說,保險可不是小事。
相關文章
一個位元就夠了:微軟 BitNet 為何持續贏得人心
單位元權重不是噱頭。解析微軟 BitNet 的三值方案如何用加法取代乘法,讓大模型跑在一般 CPU 上,以及它真正的代價。
AI 影片的新規則手冊:歐盟 AI 法案下的機器可讀標籤
歐盟 AI 法案第 50 條讓 AI 影片的來源中繼資料成為合規問題。標籤在生成時已內建,也最容易被流程剝掉。
你的 AI Agent 什麼都記不住:修復 context 膨脹的 MCP 技巧
agent 不會因為跑得久而變聰明,反而會因為 context window 被垃圾填滿而變笨。從工具輸出 sandboxing 到持久化記憶與 routing,這些專案正在修復 agent 的記憶。
Google 將退役全部 Veo 端點:10 月 22 日影片服務大調整內幕
Google 將於 2026 年 10 月 22 日關停 Gemini API 上全部 Veo 端點,包括 veo-3.1-lite-generate-preview,替換為按 token 計費的 gemini-omni-1.1-flash。