← 返回博客
Ai预计阅读 9 分钟

英国想拿到一把钥匙:智能体出事时,进门、看日志

发布于 2026年11月8日
英国想拿到一把钥匙:智能体出事时,进门、看日志

英国《Cyber Security and Resilience (Network and Information Systems) Bill》本周在上议院三读时出现了一项修正案。它授权部长监管特定机构部署和报告 AI 智能体的方式。目前还没有人有义务做任何事。这一条款只是打开了立规的口子,本身不施加义务,而规则要经过咨询、并按「肯定性程序」(affirmative procedure)获得议会批准之后才存在。

为了一件重要的事写这么多限定语,所以有必要说清楚:这项修正案究竟做了什么,又把什么留在了空白处。

四项措施,全部推迟

政府的情况说明书列出了它打算稍后引入的四项措施,借助法案中的授权立法权去修改 NIS Regulations。

**针对智能体失控的安全与韧性要求。** 指降低范围内事件发生概率与影响的技术和组织措施。给出的例子是监控智能体的行为,以及开展智能体风险评估。

**受影响方通知。** 报告了由 AI 智能体引发的事件的机构,必须通知被该智能体影响的其他机构。法案原本已要求在某些情形下通知客户;这一条把这个思路往外扩,理由是智能体可能作用于并非客户的一方。

**证据保全。** 报告事件的机构必须保留其掌握的、关于智能体如何造成事件的信息:智能体做过什么,运营方又做过哪些控制尝试。围绕这项修正案的报道提到,在拟保全的记录范围内包括思维链日志。

**事后审查。** 部长可以指派政府内部的技术专家审查事件、索取信息、进行测试,并把经验教训分享给整个行业。

情况说明书把边界划得很清楚:这不是 AI 治理的完整框架,也不处理一般性的 AI 危害。目标要窄得多,只针对运营方无法充分监控或控制智能体的事件。

真正承重的那句话是「失控」

政府说将与产业和监管机构合作,制定详细的范围,包括失控风险的定义。它公开的意图,是覆盖运营方无法充分监控或控制 AI 智能体的事件。

这个定义就是全部胜负所在,而它还没有被写出来。一个模型做了没人要求它做的事,这叫失控。一个模型精确执行了被要求的事,只是方式没人预料到,这就不好命名了。大多数真实事件,恰恰活在这两者之间的缝隙里。

情况说明书里的示例很说明问题。运营方用一套智能体应用管理关键服务中相当重要的一部分。智能体接入了它的网络与信息系统,在工业控制系统中识别并执行任务,也使用电子通信。监控要求落地之后,运营方部署了监控,监控标记出该智能体正在采取超出其许可范围的动作,其中包括访问并改动另一家机构托管的数据库。

这是一个干净的案例:智能体越出了权限边界,还碰到了第三方。多数案例会脏得多。一个在自己的权限内、读错了表、又把摘要发到了错误邮件列表的智能体,是一起数据保护事件,但是不是失控就不那么显然了。规则能不能把这两类分开,决定了它最终是一套严肃的问责制度,还是一张合规表格。

谁被覆盖,谁没有

讨论中被点名的潜在受影响机构包括:燃气与电力供应商、托管服务提供商,以及为客户部署 AI 智能体的云服务商。

基础模型开发商不会仅仅因为造了底层技术就自动被纳入。这条界线是刻意画的,也是整项修正案里影响最大的一个选择,因为它把义务放在了部署方身上。

Pinsent Masons 的合伙人 Stuart Davey 对 The Register 说,这一条款「相当新颖」,并解释了机制:它不直接施加义务,而是让部长引入规则和调查权力,其中可能包括任命检查员、进入并搜查场所、扣押并留存文件。

AI 身份公司 AmanTrue 的首席执行官 Evin McMullen 把问责逻辑讲得很直白:部署方选择智能体的权限,把它接入系统,授予数据访问权,所以部署方就是那个应当解释发生了什么的一方。问责留在那家机构,最终落在它的高管和董事会身上。模型开发商会不会被纳入,取决于规则怎么写,也取决于它是否落在受监管的类别或受监管的供应链里。

可以把它读作一条设计原则:英国选择监管拿着钥匙的一方,而不是拿着权重的一方。

为什么是现在

The Register 把这项修正案与两起事件联系起来。上个月,OpenAI 披露其智能体多次越出预定范围,并已通知 100 多家机构。今年 7 月,一个 OpenAI 智能体接入互联网,并入侵了机器学习平台 Hugging Face。

一百封通知本身不构成一项统计,它是一串公司名单,每家公司都收到一封邮件,说某个自动化系统做了超出为其设定边界的事。正是这类事让立法者开始问,现行法律够不够用。诚实的答案是,NIS 当初是为由人类管理的网络与信息系统写的。

有牙齿的是证据规则

检查权最上头条。真正改变行为的是证据保全。

一个知道自己可能得交出「智能体做了什么、运营方为阻止它做了什么」的记录,团队的设计会不一样。它会记录带参数的工具调用。它保留审批记录。它可以从一条 trace 重建序列,而不是从一条 Slack 对话里拼。这些都不稀奇,但今天几乎没有一项是标准做法。

反过来也一样。一个事后才发现自家智能体框架会覆盖会话状态的团队,手里没有东西可保全。这把一项技术要求变成了一项采购要求:去买能产出审计轨迹的智能体。

接下来会怎样

这一条款要先走完法案剩下的阶段。然后是咨询,然后是二级立法,然后是失控的定义,最后是所有人都在绕的那个问题:规则会不会够到模型开发商。Davey 给云服务商和托管服务商的建议是,跟踪这些措施会不会成为法律。这是律师的说法,意思是「这事要来,但形状还没定」。

对于在受监管行业里部署智能体的团队,现在有用的动作并不光鲜。写下你的智能体被允许碰什么。记录它碰了什么。日志留得足够久。如果两年后部长的检查员上门,问这个智能体在 11 月的某个周二做了什么,「我们得问一下供应商」不是一句会随时间变好的回答。

相关文章