Cohere 為企業代理的支出設下硬性上限

Cohere 於 10 月 5 日發表 North 2，全面翻新其供大型組織在內部運行 AI 代理的平台。最受矚目的功能是支出上限。

管理員現在能將 token 用量追蹤細化到個別使用者或代理，為群組定義用量層級，並對任一使用者或代理的支出設定上限。系統會在觸及限制前發出警示。這些控制項位於 North Admin，也就是該平台的管理主控台。

這聽起來像是會計功能。但更準確的理解是，這是對企業代理部署為何停滯不前的表態。Cohere 的論述是，企業過去被迫在安全性、能力與成本控制這三者中放棄其一，才能換得另外兩項。這次的新版本，就是為了不再讓成本成為被犧牲的那一項。

另一半在於協同運作層

支出上限之所以重要，在於建立於其上的功能。

North 2 取代了原本執行多步驟代理工作的協同運作系統。新版能自行完成任務，只在需要簽核的步驟才請人介入，而不是每一步都要求核准。用單一提示建構的代理可在全公司共用，因此一個團隊組好的工作流程，不必由另一個團隊從頭重建。記憶可跨工作階段持續保留。此外還有技能功能，可將代理反覆呼叫的邏輯打包，以及共用文件庫，讓每個代理都能取用特定文件。

只要以自然語言提出需求，平台就能產出簡報、儀表板，或讓使用者在聊天視窗內製作原型的輕量應用程式。針對反覆發生的流程，則提供預建範本，以及可拖放操作、並附有效能報告的工作流程建構工具。

連接器函式庫涵蓋 Slack、GitHub、SharePoint 與 OneDrive，並計畫新增財務資料供應商，包括 PitchBook、S&P Global 與 FactSet。North 自 2025 年 8 月起正式推出，Cohere 表示，金融與公部門一年的正式環境部署經驗，形塑了這次升級的內容。

為何支出控管才是重點

能無人看管運行的代理，也能無人看管地累積帳單。這正是讓許多企業部署停留在試辦階段的營運現實。

多步驟的代理迴圈會發出大量模型呼叫。其中有些是低成本的簡單分類，有些則是所費不貲的推理過程。若沒有以代理為單位的成本核算，單一工作流程的成本在帳單送達前完全不可見，而等到帳單到手，也已無人能將費用歸因於造成它的那項決策。

Cohere 的控制機制直接處理了這個問題。以使用者與代理為單位的追蹤，讓營運人員握有資料，足以判斷哪些工作流程值得其成本。用量層級讓企業能給代理一個預算，而不是一項權限。上限則把沒有底的承諾，變成有界線的承諾。

還有第二個影響，與金錢較無關。token 用量上限，同時也是代理在有人介入前能出錯到什麼程度的上限。阻止帳單失控的機制，同樣能阻止迴圈失控，這使得支出上限既是財務控管，也是安全控管。

不綁定模型作為談判籌碼

North 2 讓管理員能為各團隊指派模型，包括客戶從 Cohere 以外帶入的模型。這在採購環節很重要，因為若不是如此，就等於讓某個部門被單一供應商的定價綁死。

Cohere 藉由與 Nvidia 的合作來讓成本效益成立，宣稱其模型在 Blackwell 與 Hopper 硬體上，每個節點每秒能產出更多 token。Nvidia 生成式 AI 副總裁 Kari Briski 將這樣的成果形容為「用更少換更多 token」。

安全控管也位於同一個主控台。可對個別代理套用護欄。篩檢範圍涵蓋提示與回應中的個人識別資訊，以及試圖進行提示注入的行為。自主性政策會將每個代理限制在獲授權執行的動作內。North 可在地端運行，也可部署於客戶的虛擬私有雲，包括為完全不允許外部連線的組織提供的氣隙（air-gapped）部署。

客戶案例揭示產品用途

加拿大貝爾（Bell Canada）旗下的 Bell Cyber 部門，在其自身的安全營運中使用 North。該部門技術與 AI 長 Jawed Ahmad 表示，這個平台讓他們能在已內建客戶所要求的控管與主權需求下，運行代理式 AI。南韓的 LG CNS 則在內部使用 North 並轉售。早期投資 Cohere 的 Radical Ventures 建立了一套自動化流程，用來準備團隊在與創辦人通話前閱讀的簡報資料，取代了過去耗費數小時的人工背景蒐集。

這三個例子有共同的形狀。每一個都是原本已存在、由人力執行、成本與風險皆已知的工作流程。代理是被安插進既有的流程，而不是另創新流程，這正是支出上限得以派上用場之處。你無法為一個做全新事情的代理編預算，卻能為一個做團隊既有工作的代理編預算。

為何這次發表會在合併案三週後登場

North 2 登場的時間，距離 Cohere 與德國 Aleph Alpha 簽署合併協議不到三週，這項交易讓合併後的公司仍保留 Cohere 名稱。Aleph Alpha 的 Kolibri 是一個 780 億參數、針對德語與英語調校的開放權重模型，鎖定的正是 North 所爭取、同樣重視主權的買家。

這兩步讀起來像是一套完整的論述。Aleph Alpha 提供可在特定司法管轄區訓練與運行、並針對特定語言調校的模型。North 2 則提供這些模型運行的平台，具備受監管買家在部署任何東西之前所需的成本核算與權限管理。兩者單獨都不足夠，而合併案正是讓這個組合得以賣出去的原因。

這說明了為何特別強調地端與氣隙部署。最在意資料存放位置的客戶，正是無法使用純雲端代管代理平台的那些人，而他們也正是有預算支付獨立部署的族群。客戶名單——一家加拿大安全部門與一家韓國 IT 服務公司——正符合這個模式。

這些控管無法解決的事

支出上限是把鈍器，有些事它看不見。

代理成本核算中最棘手的問題是歸因。如果三個代理共用一個文件庫、一個技能套件與一個模型端點，而其中一個執行的工作流程花費了一千美元，上限會在這位發出呼叫的代理身上觸發。這個代理究竟是費用的肇因，或只是繼承了費用，是另一個以代理為單位的計量器無法回答的問題。

還有一個問題是，當觸及上限時使用者該怎麼辦。代理在工作流程中途停下，會讓工作處於未知狀態，而系統在限制解除後恢復運作時，必須釐清這段期間發生了什麼。Cohere 並未說明 North 2 如何處理這一點，而這正是決定這項控管在日常中是否可用的營運細節。

更可驗證的說法是：有預算的代理，比沒有預算的代理更可能被部署。這正是 North 2 押注的方向，而未來十二個月的企業部署狀況，將會說明這項賭注是否押對。

這次發表所處的脈絡

North 2 登場的時間，距離 Cohere 與德國 Aleph Alpha 簽署合併協議不到三週，這項交易讓合併後的公司仍保留 Cohere 名稱。Aleph Alpha 的 Kolibri 是一個 780 億參數、針對德語與英語調校的開放權重模型，鎖定的正是 North 所爭取、同樣重視主權的買家。

這正是 North 2 所瞄準的市場。不是想要最強代理的公司，而是必須向稽核人員證明代理正當性的公司。成本控管、以代理為單位的權限，以及地端部署，正是讓這場對話得以發生的功能。

尚未解決的問題是，這些控管在實際使用中是否站得住腳。token 上限的好壞取決於其背後的核算，而在共用文件庫、共用代理與共用脈絡之間歸屬成本，並非已解決的問題。Cohere 的答案，是管理員能看見使用者與代理層級的使用狀況，而這是必要的起點，而非完成品。

更可驗證的說法是：有預算的代理，比沒有預算的代理更可能被部署。這正是 North 2 押注的方向，而未來十二個月的企業部署狀況，將會說明這項賭注是否押對。