CrowdStrike 推出 AI 代理終止開關。難的是知道該終止什麼。

11 月 3 日,CrowdStrike 在其 Falcon Guardian 產品中推出 AI Kill Switch。獲授權的管理員可以即時終止未經授權的代理、阻止它在整個組織內再次執行,並保留該動作的稽核軌跡。
它從 AI 閘道開始。端點強制執行則被描述為之後才會推出。
這種先後順序很誠實,也道出了全貌。多數企業啟動代理,遠比停掉代理容易得多。終止開關把「我們認為代理行為正常」變成可強制執行的事。但強制執行需要一份清單,而清單正是沒有人擁有的部分。
三項產品、一週之內、同一個方向
CrowdStrike 並不孤單。同一週內,另外三家供應商也推出了同一概念的不同版本。
Amazon Web Services 在 Amazon Quick 中加入了 Smart Approvals。其邏輯是分層的。當代理執行低風險任務,例如查詢庫存時,它會自動執行。當它嘗試高風險動作,例如修改資料庫、轉移資金、寄送敏感電子郵件時,系統會暫停並要求人工核准。它用一點自動化,換來消除真正阻礙企業部署的東西:對無人監督失誤的恐懼。
NVIDIA 更新了其 Agent Toolkit,為企業資料存取加入細緻的權限控管。開發人員現在可以定義代理可以讀取哪些資料來源、哪些只能摘要、哪些對它完全不可見。在製藥與工業製造業,資料外洩代表失去營業秘密,而不是合規清單上的一個項目;在這些產業,正是第三類權限能讓採購訂單簽得下來。
ElevenLabs 讓 ElevenAgents 與 Genesys Cloud、Amazon Connect 和 SIP 原生整合,這讓語音代理進入大型企業既有的客服中心技術堆疊之中,而不是放在旁邊。
這些都不是模型改良。它們全都圍繞同一件事:無法被終止、界定範圍或稽核的代理,只是示範,不是部署。
代理清冊問題
終止開關是執行階段控制,而執行階段控制取決於識別。你只能終止你知道存在的代理。
這比聽起來更難。代理可能由個別開發人員用個人 API 金鑰建立、由行銷團隊透過 SaaS 整合建立、由三月就離職的承包商建立,或由某個內部工具生成沒有人命名的子代理。閘道看得到流量,卻不一定看得到意圖、擁有者或範圍。
CrowdStrike 的公告把控制放在閘道,這意味著可視性僅限於經過閘道路由的流量。若代理從筆電直接呼叫模型供應商,或在本地模型上執行,就不會經過閘道。端點強制執行是解決方案,但目前尚未推出。
未來兩季能從中獲得價值的企業,是那些已因為部署閘道而順帶擁有代理清冊的公司。其他公司則是有開關,卻沒有配線圖。
煞車改變經濟邏輯
核准步驟通常被描述為安全功能,但它們同時也是人力配置決策。
如果代理每次遇到高風險動作都要暫停等待人工確認,就需要有人隨時可用來確認。如果那個人四小時後才回應,那麼不論模型多快,代理的有效吞吐量就是每四小時一個動作。核准佇列成了新的瓶頸,而且不像 GPU 容量,你無法用一年期合約買到更多。
這就是 AWS Smart Approvals 的風險分級發揮價值之處。設計問題在於:你要在哪裡劃出自動執行與人工把關之間的界線,以及之後如何稽核這條界線。劃得太保守,代理就只是多了幾道手續的填表助理。劃得太寬鬆,你就把最終會寄到監管機關信箱裡的東西給自動化了。
目前似乎逐漸成形的模式是政策即程式碼(policy-as-code):風險類別只定義一次、一致地套用,並留下稽核軌跡,顯示每個動作屬於哪一類,以及由誰核准。這是無聊的基礎設施,但它也是 CFO 願意簽核的代理平台,與卡在試辦階段的那個平台之間的差別。
稽核軌跡就是產品本身
每一則這類公告都提到記錄。CrowdStrike 會保留終止動作的紀錄。NVIDIA 的工具包會記錄資料存取決策。Smartsheet 在 11 月 4 日的 ENGAGE 大會上,新增了將近即時的安全事件串流到 Splunk 與 Microsoft Sentinel,因此如果代理編輯了專案資料,安全營運中心就能看到它做了什麼。
最後一個例子最能有效闡明整個趨勢。會寫入系統記錄的代理,功能上就是特權使用者。特權使用者會獲得工作階段記錄;代理一直以來得到的卻是一封歡迎信和一把 API 金鑰。
一旦接受特權使用者的框架,採購問題就會自己回答。身分、最小權限、工作階段錄製、輪替、撤銷。這些都不新穎,全都不是流行做法,而這正是安全團隊在讓代理碰觸生產資料前會問的問題。
清冊是一份試算表,而且早就是錯的
大多數已經運行代理一年的組織,都答不出一個簡單問題:有多少代理存在,以及每個代理的擁有者是誰。
原因是代理的建立沒有閘門。有 API 金鑰的開發人員可以在一個下午內弄出一個代理。行銷經理可以在無程式碼工具中建一個。供應商可以在 SaaS 產品中夾帶一個代理,而這個產品只出現在續約通知裡。上述每一種情況都會創造一個擁有憑證、資料存取權和採取行動能力的行為者,而且它們不一定會經過安全團隊。
CrowdStrike 的開關旨在終止未經授權的代理,這是有用的最後防線。多數企業眼前的工作在更上游:建立清冊、指派擁有者、定義每個代理可以碰觸什麼,並讓註冊成為阻力最小的途徑。已經為雲端帳號與服務主體解決這個問題的安全團隊,早已有可循的模式。他們只需把它套用到每週都會被建立的事物上。
仍然缺少什麼
目前在這一波產品中,可以看到兩個缺口。
第一是跨供應商政策。一家企業若在三個模型供應商上運行代理、透過兩個閘道、搭配十幾項 SaaS 整合,就沒有單一位置能強制執行「這個代理不得轉移資金」。每個供應商各自執行自己的邊界,而邊界之間的接縫正是事故發生之處。
第二是「未經授權」的定義。CrowdStrike 的開關會終止未經授權的代理,這意味著有人定義了授權。實務上,那個定義是一份兩週內就會過時的試算表,因為代理被建立的速度快於治理文件被修訂的速度。
這兩個缺口都不是跳過控管的理由。它們是預期企業代理部署第一年會像雲端第一年的理由:有用、昂貴,並且不時被事故打斷,而那些事故會催生更好的政策。
發展方向很清楚。兩年來,代理的討論都圍繞模型能做什麼。本週的發布則是在談組織會允許它做什麼,以及在不可逆的事情發生前的那一刻,由誰來決定。這是比較不令人興奮的產品類別,但它也決定了另一個類別能否真正出貨。