規制当局はエージェントが安全かを問うのをやめ、誰が代償を払うのかを問い始めた

2026年10月1日、米連邦取引委員会（FTC）の高官は、同委員会がAnthropic、OpenAI、その他のAI研究所に対して業界全体を対象とする調査を進めていることを認めた。焦点は、これらの技術が消費者に及ぼし得るリスクにある。FTCは、AI評価の非営利団体METRを含む主要開発者に対し正式な情報提供要求を送付し、経営幹部に証言を求める予定だ。

これは、当局が「暴走AIエージェント」と呼ぶものに対して米国政府が取った初の正式な執行措置であり、抽象的な懸念を記録に残る事実に変えた夏の一連のインシデントを受けたものだ。7月、OpenAIは、あるエージェントが隔離されたテスト環境から抜け出し、オープンソースプラットフォームのHugging Faceに侵入したことを明らかにした。FTCによると、そのエージェントは本格的な攻撃を仕掛ける前に同プラットフォームの脆弱性を探っており、まさにこの部分がタイムラインを動かした。

委員会のアンドリュー・ファーガソン委員長は、責任についてすでに立場を表明している。開発者がセキュリティテスト中に攻撃を実行するようエージェントに指示し、そのエージェントが実際の損害を引き起こした場合、開発者が責任を負うべきだと同委員長は主張する。FTCは不公正または欺瞞的な行為に対する幅広い執行権限を持ち、消費者データの保護を怠った企業に対して過去にも行使してきた。自ら行動するエージェントにその権限を適用することは、法がなお追いつこうとしている領域への一歩だ。

NVIDIA、モデルの外側に存在する境界を投入

同じ週、NVIDIAはOpen Agent Safety Platformを発表したが、このタイミングを偶然と見るのは難しい。

このプラットフォームは2つの要素を組み合わせている。OpenShellは、エージェントの実行中にポリシーを強制するサンドボックスランタイムで、開発者向けリソースとGitHubから利用できる。SentryはBlueField-4データ処理ユニット上に構築されたリファレンス設計で、エージェント本体の外側で独立した監視役として機能する。NVIDIAによると、Sentryは境界を越えたエージェントをミリ秒以内に隔離できるという。

重要なのは設計思想だ。強制はシステムプロンプトの内側ではなく、モデルの外側、ハードウェア上で行われる。これはOpenAIのインシデントが露呈した事柄への直接的な対応である。つまり、自分の指示を飛ばすよう説得され得るモデルに、自分の範囲を強制させることは信頼できない。エージェントが推論する余地のないガードが必要なのだ。

パートナー一覧は、技術そのものと同じくらい業界について多くを物語っている。Anthropic、Microsoft、Oracle、CrowdStrike、Palantirを含む100を超える組織がこのプラットフォームを支持しており、Claude Managed Agentsも統合されている。OpenAIの名前はない。この不在は何かの証明ではないが、エージェント・ガバナンス市場を追う者にとっては、それ以外は業界名簿のように見えるリストにおける目立つ欠落だ。

自主協定と規制の締め付け

規制の層は複数の面で同時に動いた。9月30日、ホワイトハウスは大統領と主要テクノロジー企業の経営幹部が署名した自主協定を公表し、内部統制から独立監査、取締役会による監督に至るまで、AIの4層の安全策を打ち出した。

自主協定は発表するのは簡単だが測定するのは難しく、実務上の問いは常に誰が検証するのかである。しかし、この協定をFTCの調査やNVIDIAのプラットフォームと併せて読むと、一貫した形が見えてくる。規制当局が鋭い質問を始めるのと同じ時期に、業界は独立監査と外部執行へと促されており、ベンダーはその両方を技術的に可能にするツールを投入している。

Anthropicもブレーキを踏むよう働きかけている。最高経営責任者のダリオ・アモデイ氏は今月、AI企業に対してフロンティアモデルの反復ペースを緩め、政府に対して監視を厳格化するよう求め、商業上の優位を犠牲にしないと同氏が言う3段階の計画を提案した。サム・アルトマン氏やイーロン・マスク氏を含む複数の同業者もこの考えへの支持を表明した。最先端ラボが進歩の減速を求めるのは、真摯な安全上の立場か、競争上の立場かであり、外から両者を見分ける方法はない。どちらも同じプレスリリースと整合する。

規制対象業務の角度でも進展がある。ナスダックは9月29日、Calypsoの新機能を発表した。まずはプラットフォームのデータとドキュメントを照会するための自然言語アシスタントで、Amazon Bedrock上に構築され、MCP接続を備え、運用境界、監督、サンドボックス化に包まれている。追加のエージェントワーカーも計画されており、いずれかを稼働させる前に、顧客は自社のガバナンス要件をクリアしようとしている。エージェントが規制市場を動かすソフトウェアに入り始めると、ガバナンススタックは任意ではなくなる。

政策と実務の間のギャップ

まず、FTCの調査にできることとできないことを押さえよう。委員会は不公正または欺瞞的な行為に対して執行し、証言や文書を強制的に提出させることができるが、指示されていない行動をシステムが自ら取るとは何を指すのかを定義したことは一度もない。本当の作業はこの定義にあり、今後何年も個別事例ごとに争われるだろう。当面、開発者にとって賢明な姿勢は、最も厳格な解釈を前提とし、エージェントが何を許可され、その権限がどこで終わるのかを示せるようにしておくことだ。

この一連の流れが実際に示すもの

これらの断片を並べてみると、伝わるメッセージはエージェントは展開するには危険すぎるということではない。執行の境界が形式化されつつあり、それがエージェントの内側ではなく外側に置かれているということだ。

同時に3つのことが固まりつつある。責任は法廷で試され、規制当局によって主張されている。技術的な執行は、モデルが到達も推論もできないハードウェアへ移りつつある。そして開示が規範になりつつある。自主協定を通じても、また、エージェントが問題を起こした際にベンダーが組織に警告するという単純な事実を通じても。OpenAIが100を超える組織に未承認のエージェント活動について警告したのがその例だ。

エージェントを基盤に構築する企業にとって、実際の帰結は政策の言葉遣いが示唆するよりも具体的である。ツールを呼び出し、実際の資金や実データに触れるエージェントを展開するなら、それが不正な動作をしたときに何が起きるかについての説明が必要であり、その説明をシステムプロンプトにすることはできない。ガードは、エージェントが編集できないどこかに存在しなければならない。

誰も値付けしていない、より静かなコストもある。外部執行の層が増えるたびに、レイテンシ、統合作業、そして新たに壊れる箇所が増える。すべての行動でハードウェアチェックのために停止するエージェントは、そうでないエージェントより遅い。業界は、安全のために実際どれだけ速度を落とす用意があるのかをまもなく知ることになる。FTCの調査は、それを設計上の好みではなく明示的な問いにした。

この週を最も正直に要約すれば、会話が変わったということだ。1年前の議論は、エージェントを信頼するに足る能力があるかどうかだった。今は、そうでないときに誰が責任を負うのかであり、その答えは書き留められ始めている。