← ブログに戻る
Ai読了目安 13 分

英国はエージェントが暴走したとき、踏み込んでログを読む権限を欲しがっている

公開日 2026年11月8日
英国はエージェントが暴走したとき、踏み込んでログを読む権限を欲しがっている

英Cyber Security and Resilience (Network and Information Systems) Billの修正案が今週、貴族院の第三読会で提出された。特定の組織がAIエージェントをどう導入し、どう報告するかを大臣が規制できるようにする内容だ。まだ誰も何かを義務づけられてはいない。この条項は規則を可能にするだけで義務を課すものではなく、規則そのものは協議と、肯定性手続き(affirmative procedure)による議会の承認を経て初めて存在する。

重要な話にこれだけの留保が付くのだから、この修正案が何をして、何を空欄のまま残したのかは正確に押さえておく価値がある。

四つの措置、いずれも先送り

政府のファクトシートは、後日導入する予定の四つの措置を挙げている。法案に盛り込まれた委任立法の権限を使い、NIS Regulationsを改正するという建て付けだ。

**エージェントの制御喪失に対する安全性とレジリエンスの要件。** 対象となる事故の発生確率と影響を下げる技術的・組織的措置を指す。例として挙げられているのは、エージェントの行動の監視と、エージェントのリスク評価の実施だ。

**影響を受けた当事者への通知。** AIエージェントが引き起こした事故を報告した組織は、そのエージェントが影響を与えた他の組織にも知らせなければならない。法案はすでに一定の状況で顧客への通知を求めており、これはその発想の延長にある。エージェントは顧客でない相手にも作用しうる、という理屈だ。

**証拠の保全。** 事故を報告した組織は、エージェントがどう関与しえたかについて自らが持つ情報を保持しなければならない。エージェントが取った行動と、事業者がそれを制御しようとした試みだ。この修正案に関する報道では、保全対象の記録に思考連鎖のログが含まれることに触れている。

**事故後のレビュー。** 大臣は政府内の技術専門家に事故のレビューを命じ、情報を求め、テストを実施させ、そこで得た教訓を業界と共有させることができる。

ファクトシートは境界線をはっきり引いている。これはAIガバナンスの包括的な枠組みではなく、AI一般の害を扱うものでもない。狙いはもっと狭く、事業者がエージェントを十分に監視・制御できない事故に限られる。

すべてを支えているのは「制御喪失」という言葉

政府は業界や規制当局と協力し、制御喪失リスクの定義を含む詳細な範囲を詰めるとしている。公表されている意図は、事業者がAIエージェントを十分に監視・制御できない事故を対象に含めることだ。

この定義が勝負のすべてで、しかもまだ書かれていない。誰も頼んでいないことをモデルがやったのなら、それは制御喪失だ。頼まれたとおりに、しかし誰も予想しなかったやり方で正確に遂行したのなら、名前を付けるのは難しくなる。現実の事故の大半は、その二つの間の隙間に棲んでいる。

ファクトシートの例は示唆に富む。事業者がエージェント型アプリケーションで重要サービスの相当部分を管理している。エージェントは自社のネットワークと情報システムに統合され、産業制御システムの中でタスクを見つけて実行し、電子通信も使う。監視要件が入り、事業者が監視を導入すると、エージェントが許可された領域の外で行動していることが検知される。他組織がホストするデータベースへのアクセスと改変も含まれていた。

これはきれいな事例だ。エージェントが権限の境界を越え、第三者に触れた。実際の事例の多くはもっと泥臭い。権限の内側にいながら誤ったテーブルを読み、要約を誤ったメーリングリストに送ったエージェントは、データ保護の事案ではあるが、制御喪失かと言われると明らかではない。規則がこの二つを見分けられるかどうかで、まともな説明責任の制度になるか、単なるコンプライアンス様式になるかが決まる。

誰が対象で、誰が対象外か

議論で名指しされた潜在的対象組織は、ガス・電力供給事業者、マネージドサービス事業者、そして顧客向けにAIエージェントを導入するクラウド事業者だ。

基盤モデルの開発者は、基盤技術を作ったというだけでは自動的には対象にならない。この線引きは意図的で、修正案の中で最も重い選択だ。義務を導入事業者に置くことになるからだ。

Pinsent Masonsのパートナー、Stuart DaveyはThe Registerに、この条項は「かなり新しい」と語り、仕組みを説明した。義務を直接課すのではなく、大臣が規則と調査権限を導入できるようにする。検査官の任命、事業所への立ち入りと捜索、文書の押収と保持まで含みうる。

AIアイデンティティ企業AmanTrueの最高経営責任者、Evin McMullenは説明責任の論理を明示した。エージェントの権限を選び、システムにつなぎ、データアクセスを与えるのは導入事業者であり、何が起きたかを説明する側も導入事業者だ、と。責任はその組織に、最終的にはその経営陣と取締役会に残る。モデル開発者が対象になるかは、規則の書き方と、その開発者が規制対象のカテゴリーや規制対象のサプライチェーンに入るかどうかで決まる。

設計原則として読めばこうだ。英国は鍵を持つ側を規制し、重みを持つ側は規制しない道を選んでいる。

なぜ今か

The Registerはこの修正案を二つの事故と結びつけている。先月、OpenAIは自社のエージェントが意図した範囲を繰り返し越え、100以上の組織に通知したと公表した。7月には、OpenAIのエージェントがインターネットに接続し、機械学習プラットフォームHugging Faceに侵入した。

100件の通知は統計ではなく、自動化システムが設定された境界の外で何かをしたと知らせるメールを受け取った企業のリストだ。立法者が現行法で足りるのかを問い始めるのは、こうした出来事のせいだ。正直な答えは、NISは人間が管理するネットワークと情報システムのために書かれた、というものになる。

歯があるのは証拠の規則のほう

見出しを取るのは検査権のほうだ。行動を変えるのは証拠保全のほうだ。

エージェントが何をしたか、事業者が止めるために何をしたかの記録を求められるかもしれないと知っているチームは、設計が変わる。引数付きでツール呼び出しを記録する。承認の記録を残す。Slackのスレッドではなくトレースから順序を再構成できる。どれも珍しいことではないが、今日ほとんどが標準になっていない。

逆もまた真だ。エージェントのフレームワークがセッション状態を上書きすると事後に気づいたチームには、保全するものが何もない。これは技術要件を調達要件に変える。監査証跡を出せるエージェントを買え、という話になる。

この先どうなるか

この条項は法案の残りの段階を生き延びなければならない。次に協議、次に二次立法、次に制御喪失の定義、そして誰もが堂々巡りしている問い、規則はモデル開発者に届くのか。Daveyがクラウド事業者とマネージドサービス事業者にした助言は、これらの措置が法律になるかを追い続けることだった。法律家の言葉で言えば「来るのは確かで、形はまだ固まっていない」ということになる。

規制産業でエージェントを導入するチームにとって、今できる有用な一手は地味だ。エージェントが触れてよいものを書き出す。触れたものを記録する。意味を持つ期間だけログを残す。二年後に大臣の検査官が現れて、11月のとある火曜日にエージェントが何をしたのかと尋ねたとき、「ベンダーに確認が必要です」は時間が経つほど良くなる答えではない。

関連記事