CrowdStrike 为 AI 智能体发布终止开关。难的是知道该终止什么。

11 月 3 日,CrowdStrike 在其 Falcon Guardian 产品中推出了 AI Kill Switch(AI 终止开关)。授权管理员可以实时终止未经授权的智能体,阻止其在全组织范围内再次运行,并保留该操作的审计轨迹。
它从 AI 网关开始。终端侧强制执行被描述为后续才会推出。
这种先后顺序很诚实,也说明了全部问题。大多数企业启动一个智能体,远比停掉一个智能体容易得多。终止开关把“我们认为这个智能体在规规矩矩地运行”变成可强制执行的事情。但强制执行需要一份清单,而清单正是谁都没有的东西。
三款产品,一周之内,同一个方向
CrowdStrike 并不孤单。同一周,另外三家厂商也发布了同一想法的不同变体。
AWS 为 Amazon Quick 增加了 Smart Approvals。其逻辑是分层级的。当智能体执行低风险任务(例如检查库存)时,它会自动运行。当它尝试高风险操作——修改数据库、转移资金、发送敏感邮件——系统会暂停并请求人工批准。它用少量自动化换取消除真正阻碍企业部署的东西:对无人监督下犯错的恐惧。
NVIDIA 更新了其 Agent Toolkit,为企业数据访问加入了细粒度权限控制。开发者现在可以定义智能体可以读取哪些数据源、哪些只能进行摘要,以及哪些对它完全不可见。在制药和工业制造领域,数据泄露意味着商业机密丢失,而不是合规清单上的一项,因此正是第三类(完全不可见)能让采购订单获批。
ElevenLabs 则让 ElevenAgents 原生集成 Genesys Cloud、Amazon Connect 和 SIP,从而把语音智能体放进大型企业已经拥有的呼叫中心技术栈内部,而不是放在旁边。
这些都不是模型层面的改进。它们全都围绕同一件事:一个无法被停止、限定范围或审计的智能体,只是演示,不是部署。
智能体清单问题
终止开关是一种运行时控制,而运行时控制依赖识别。你只能终止你知道其存在的智能体。
这个问题比听起来更难。智能体可能由个人开发者用私人 API 密钥创建,由营销团队通过 SaaS 集成创建,由三月就离职的承包商创建,也可能由某个内部工具生成,而这个工具又派生出无人命名的子智能体。网关看得到流量,却不一定看得到意图、归属或范围。
CrowdStrike 的发布把控制点放在网关上,这意味着可见性仅限于经过该网关的流量。智能体若从笔记本电脑直接调用模型提供商,或运行在本地模型上,就不会经过网关。终端侧强制执行是解决办法,但目前尚未发布。
未来两个季度能从中获得价值的公司,是那些已经因为部署网关而顺带拥有智能体清单的公司。其他所有人则只有一个开关,却没有接线图。
刹车改变经济账
审批步骤通常被描述为一项安全功能。它们也是一项人员配置决策。
一个在每次高风险操作时都停下来等待人工确认的智能体,需要有可用的真人来确认。如果这个人四小时后才响应,那么无论模型有多快,智能体的有效吞吐量就是每四小时一个操作。审批队列成为新的瓶颈,而且与 GPU 容量不同,你没法通过一年期合同买到更多审批人力。
这正是 AWS Smart Approvals 中风险分级体现价值的地方。设计问题在于:你在自动执行和人工把关之间把界线画在哪里,以及之后如何审计这条界线。画得太保守,智能体就成了多了几步操作的表单填写助手。画得太松,你就把最终会出现在监管机构收件箱里的那件事自动化了。
似乎正在形成的模式是策略即代码(policy-as-code):风险类别只定义一次,一致地应用,并保留审计轨迹,说明每个操作属于哪个类别以及由谁批准。这是无聊的基础设施。它也是 CFO 会签字的智能体平台与卡在试点阶段的平台之间的区别。
审计轨迹就是产品
这些发布中的每一个都提到了日志记录。CrowdStrike 会保留终止操作的记录。NVIDIA 的工具包会记录数据访问决策。Smartsheet 在 11 月 4 日的 ENGAGE 大会上,增加了向 Splunk 和 Microsoft Sentinel 的近实时安全事件流,这样如果智能体编辑了项目数据,安全运营中心就能看到它做了什么。
最后一个例子是对整个趋势最有用的表述。一个向记录系统写入数据的智能体,在功能上就是特权用户。特权用户会获得会话日志记录。而智能体一直得到的是一封欢迎邮件和一个 API 密钥。
一旦你接受“特权用户”这个框架,采购问题就迎刃而解。身份、最小权限、会话记录、轮换、吊销。这些都不新颖,全都不时髦,而这正是安全团队在允许智能体接触生产数据之前会问的问题。
清单是一张电子表格,而且它已经错了
大多数已经运行智能体一年的组织,回答不了一个简单问题:存在多少个智能体,以及每个智能体归谁所有。
原因在于智能体的创建没有关口。一个有 API 密钥的开发者可以在一个下午就启动一个。一个营销经理可以在无代码工具里构建一个。一个供应商可以在 SaaS 产品里附带一个,而这个产品只会在续费通知里出现。上述每一种方式都会创造一个拥有凭据、数据访问权限和采取行动能力的行动主体,而它们都不一定会经过安全团队。
CrowdStrike 的开关旨在终止未经授权的智能体,这是一个有用的兜底措施。大多数企业面前的工作在这之前:建立清单、分配所有者、定义每个智能体可以接触什么,并让登记成为阻力最小的路径。那些已经为云账户和服务主体解决过这个问题的安全团队,已经有现成模式。他们只需把它应用到每周都会产生的东西上。
还缺什么
当前这批产品中能看到两个缺口。
第一个是跨厂商策略。一个企业在三个模型提供商上运行智能体,经过两个网关,并拥有十几个 SaaS 集成,却没有一个统一的地方来强制执行“这个智能体不得转移资金”。每个厂商都执行自己的边界,而边界之间的接缝正是事故发生的地方。
第二个是“未经授权”的定义。CrowdStrike 的开关终止未经授权的智能体,这意味着有人定义了什么是授权。在实践中,这个定义是一张两周就会过期的电子表格,因为智能体创建的速度快于治理文件修订的速度。
这两个缺口都不是跳过控制的理由。它们反而是理由,让人预期企业智能体部署的第一年看起来会像云的第一年:有用、昂贵,并时不时被事故打断,而这些事故会催生更好的策略。
前进方向是清楚的。两年来,智能体的讨论一直围绕模型能做什么。本周的发布则围绕组织会允许它做什么,以及在不可逆的事情发生前的那一刻由谁来决定。这是一个不那么令人兴奋的产品类别。但它也是决定另一个类别能否交付的产品类别。