エージェント・ガバナンス層が登場、しかも急速に実用化が進む

この2年間、AIエージェントに関する問いは能力でした。航空券を予約できるか、チケットを起票できるか、請求をクローズできるか。その問いは、少なくとも企業が実際に重視する狭いタスクに関しては、ほぼ決着しています。新しい問いはガバナンスです。エージェントが本番環境で実際の資格情報を使って動いているとき、企業はどうやってそれを範囲内に留めておくのか。

10月には、まさにそのために作られた製品がまとまって登場し、そのパターンは見逃しにくいものでした。

OpenAI、自社エージェント向けの運用レイヤーを構築

OpenAIはPresenceを立ち上げました。これは音声エージェントとチャットエージェントを展開するための運用レイヤーと説明されています。売りは構造化された制御です。各エージェントに職務範囲を定義し、到達できる知識を制限し、実行を許可するアクションを制限し、評価と人間へのエスカレーションをデフォルトで組み込みます。発表時の例は示唆に富みます。というのも、企業が最も引き渡したがらない業務を挙げているからです。請求サポート。保険金請求。従業員のITリクエスト。

これらは、エージェントが金銭、個人データ、記録システムにアクセスするタスクです。また、誤ったアクションのコストが高く、取り消しが難しいタスクでもあります。Presenceは、有能なモデルだけでは不十分だとOpenAIが認めたものとして読めます。モデルは問いに答えます。運用レイヤーは、その答えをアクションに変えてよいかを判断します。

すでに稼働中のエージェント向けの第2の製品

Classieは同じニーズに沿ってSuperviseを立ち上げ、すでに本番環境にあるエージェントのリアルタイム追跡、制御、会計として位置づけました。この違いは重要です。Presenceはこれから展開するエージェント向けです。Superviseは、6か月前に稼働し、誰も付与したことを覚えていない権限が蓄積されたエージェントという、より厄介な現実を対象にしています。

2つの製品は同じ市場を反対側から描いており、合わせて転換点を示しています。買い手はもはや、エージェントがタスクを完了できるかどうかを問うていません。買い手が問うているのは、ある日エージェントが予期しないことをしたときに何が起こるか、そしてそれを受け止めるコントロールプレーンが存在するかどうかです。

ガバナンス企業はエージェントを自社プラットフォームに組み込む

OneTrustは、ランタイムAIガバナンスを中心にプラットフォームを拡張しました。コントロールプレーン、コマンドセンター、そしてChatGPT、Claude、Copilot、Gleanとの統合です。その枠組みは、ガバナンスは展開前に行う文書化の作業ではあり得ないというものです。アクションが発生するその時に適用され、意思決定の証拠を保持し、企業がすでに運用しているプライバシーとリスクのプログラムに接続する必要があります。

本当に重要なのは、この統合ポイントです。OneTrustの顧客は新しいダッシュボードを望んでいません。エージェントの監督を、すでに同意、プライバシー、データリスクを扱っている同じシステムの中に置きたいのです。なぜなら、監査証跡はそこでこそ残り続けなければならないからです。

セキュリティベンダーは反対側から同じ主張をしています。Red HatのCTOは、エージェントが企業システム全体でアクションを実行できるようになった瞬間、モデルレベルの保護策は十分ではなくなると主張してきました。セキュリティ境界は、モデルからその周囲のID、ランタイム、ネットワーク層へと移ります。その読み方では、エージェントはより賢いチャットボットではなく、バッジを持つ新しい種類の内部者です。

監査証跡こそが製品である

ブランドを剥がせば、製品は1つの成果物に収束します。記録です。誰がエージェントを起動したのか、どんな範囲を持っていたのか、何を読み、何を変更し、誰が結果を承認したのか。規制産業は何十年もの間、人間に対してこれを行ってきました。それを自ら行動するソフトウェアに拡張することは新しく、導入を解き放つのはまさにこれです。

SalesforceとAWSはAgentforce 360で同じ賭けに出ました。これはすべてのエージェントの意思決定に対して不変の監査証跡を生成し、その推論エンジンをBedrock経由でClaude上で実行します。CrowdStrikeは早期に参加し、セキュリティと並んで調達の簡便さを挙げました。顧客が能力と同じ契約でガバナンスの話を買えるようになると、取引は容易になります。

なぜ監督は聞こえるほど簡単ではないのか

製品はダッシュボードのように聞こえます。しかし表面下では、エージェント・ガバナンスはこの10年より前には存在しなかった問題を解かなければなりません。即興で動くシステムの正しい振る舞いを、どう記述するのか。

従来のサービスは、プログラムされたとおりに動きます。人間の従業員はルールを知っており、意思決定の説明を求められます。エージェントはその2つの間に位置します。目標と一連のツールを持ち、手順を選びます。その自由が価値の源であり、同時にリスクの潜む場所でもあります。なぜなら、エージェントが珍しいリクエストを処理できる柔軟性は、誰も承認していない珍しいアクションを取ることにもつながるからです。

ガバナンス製品はこれをいくつかの角度から攻めます。スコープ制限は、エージェントが試みてよいことを定義します。知識境界は、何を読めるかを決めます。アクション承認は、取り返しのつかないことの前にチェックポイントを挿入します。評価は時間の経過に伴う劣化を捉え、人間へのエスカレーションは、エージェントが不確実だとフラグを立てたケースを扱います。個々の制御は不完全です。しかし重ね合わされると、悪い意思決定が監督なしに拡大する余地を狭めます。

微妙な要件は、すべてが順調なときには制御が見えなくなければならないということです。あらゆる定型業務を遅くする監督レイヤーは、1か月以内にオフにされるでしょう。たいていは、それを求めたのと同じチームによってです。優れた製品は、端の部分でだけ介入するものです。これはポリシーエンジンを出荷するよりもはるかに難しいエンジニアリングの課題です。

購買パターンもそれに伴って変わる

これらの発表には見落としやすい商業的信号があります。ガバナンス製品は、モデル購読のアドオンとして売られているのではありません。プラットフォームとして売られており、時にはモデルトレーニングとは何の関係もない企業によって売られています。

これは、認識される価値がどこへ移っているかを示しています。モデルが希少で目を見張るものだったとき、モデルが製品でした。今や複数のモデルが同じ仕事に十分な性能を持つようになり、差別化要因はモデルを取り巻くものになります。制御、ログ、統合、監査人に何が起きたかを証明する能力です。買い手はエージェントを、システムそのものではなく、ガバナンスされたシステムの1コンポーネントとして扱い始めています。

また、買い手が変わったことも意味します。ガバナンスプラットフォームに署名する人は、多くの場合、モデルに署名した人ではありません。セキュリティ、リスク、コンプライアンスのチームが意思決定に加わり、異なる質問を持ち込みます。どれほど賢いかではなく、誰がそれをオフにできるのか、何を残すのか、証拠はどこに存在するのか。そのような読者向けに作られた製品は、デモ映像の横では地味に見えますが、デモ映像を展開可能にするのはそれらです。

これが次の段階について語ること

ガバナンス製品がまとまって登場するのは、通常、能力の段階が終わり、信頼の段階が始まったことを意味します。それはクラウドでも起こりました。インフラストラクチャの数年後にコンプライアンスツールが現れたのです。モバイルでも起こりました。デバイス管理がアプリの爆発に追いついたのです。エージェントは同じ曲線上にあり、ただ圧縮されています。

今エージェントを展開する人にとっての実践的な読みは率直です。監督機能を最初から組み込みましょう。1年間野放しで動いてきたエージェントに後からコントロールプレーンを付けるのは、ローンチ前に立ち上げるよりも困難であり、それを実現するツールがようやく棚に並びました。「後でガバナンスを追加する」がもっともらしく聞こえた時期は終わりました。