Arriva il livello di governance degli agenti, e viene rilasciato in fretta

Per due anni la domanda sugli agenti AI è stata la capacità. Sa prenotare il volo, aprire il ticket, chiudere il sinistro. Quella domanda è in gran parte risolta, almeno per i compiti ristretti che interessano davvero alle aziende. La nuova domanda è la governance: una volta che un agente è in esecuzione in produzione con credenziali reali, come fa un'azienda a tenerlo entro i limiti.

Ottobre ha portato un gruppo di prodotti creati esattamente per questo, e lo schema è difficile da non notare.

OpenAI costruisce un livello operativo per i propri agenti

OpenAI ha lanciato Presence, descritto come un livello operativo per distribuire agenti vocali e chat. La proposta è controllo strutturato: definire un ambito di lavoro per ogni agente, limitare le conoscenze a cui può accedere, restringere le azioni che è autorizzato a compiere e collegare per impostazione predefinita valutazione ed escalation umana. Gli esempi del lancio sono rivelatori, perché nominano le funzioni che le aziende sono state più riluttanti a delegare. Supporto alla fatturazione. Sinistri assicurativi. Richieste IT dei dipendenti.

Questi sono i compiti in cui un agente ha accesso a denaro, dati personali e sistemi di registrazione. Sono anche i compiti in cui un'azione sbagliata è costosa e difficile da invertire. Presence si legge come un'ammissione di OpenAI: un modello capace non basta. Il modello risponde alla domanda. Il livello operativo decide se alla risposta è consentito diventare un'azione.

Un secondo prodotto per gli agenti già in esecuzione

Classie ha lanciato Supervise in risposta allo stesso bisogno, presentato come tracciamento, controllo e rendicontazione in tempo reale per gli agenti già in produzione. La distinzione conta. Presence è per gli agenti che stai per distribuire. Supervise prende di mira la realtà più disordinata degli agenti andati in produzione sei mesi fa e che hanno accumulato autorizzazioni che nessuno ricorda di aver concesso.

I due prodotti descrivono lo stesso mercato da estremità opposte e, insieme, segnano un cambiamento. L'acquirente non chiede più se un agente può completare un compito. L'acquirente chiede cosa succede il giorno in cui fa qualcosa di inaspettato e se esiste un control plane che lo intercetti.

Le aziende di governance integrano gli agenti nelle loro piattaforme

OneTrust ha ampliato la sua piattaforma attorno alla governance AI a runtime: un control plane, un centro di comando e integrazioni con ChatGPT, Claude, Copilot e Glean. L'impostazione è che la governance non può essere un esercizio di documentazione che avviene prima della distribuzione. Deve applicarsi alle azioni mentre accadono, preservare le prove delle decisioni e connettersi ai programmi di privacy e rischio che le aziende già gestiscono.

Quel punto di integrazione è la vera notizia. I clienti di OneTrust non vogliono una nuova dashboard. Vogliono che la supervisione degli agenti risieda nello stesso sistema che già gestisce consenso, privacy e rischio sui dati, perché è lì che la traccia di audit deve sopravvivere.

I fornitori di sicurezza portano lo stesso argomento dall'altro lato. Il CTO di Red Hat ha sostenuto l'idea che le salvaguardie a livello di modello smettono di essere sufficienti nel momento in cui un agente può eseguire azioni attraverso i sistemi aziendali. Il confine di sicurezza si sposta dal modello ai livelli di identità, runtime e rete che lo circondano. In questa lettura, un agente è un nuovo tipo di insider con un badge, non un chatbot più intelligente.

La traccia di audit è il prodotto

Togli il branding e i prodotti convergono su un unico risultato: un registro. Chi ha avviato l'agente, quale ambito avesse, cosa ha letto, cosa ha modificato e chi ha approvato l'esito. I settori regolamentati lo fanno per gli esseri umani da decenni. Estenderlo a software che agisce da solo è nuovo, ed è la cosa che sblocca l'adozione.

Salesforce e AWS hanno fatto la stessa scommessa con Agentforce 360, che genera tracce di audit immutabili per ogni decisione dell'agente ed esegue il suo motore di ragionamento su Claude tramite Bedrock. CrowdStrike ha aderito presto, citando la semplicità di approvvigionamento accanto alla sicurezza. Quando un cliente può acquistare la storia della governance nello stesso contratto della capacità, l'accordo diventa più facile.

Perché la supervisione è più difficile di quanto sembri

I prodotti sembrano dashboard. Sotto la superficie, la governance degli agenti deve risolvere un problema che non esisteva prima di questo decennio: come si descrive il comportamento corretto di un sistema che improvvisa.

Un servizio tradizionale fa ciò per cui è stato programmato. Un dipendente umano conosce le regole e può essere chiamato a spiegare una decisione. Un agente si colloca tra i due. Ha un obiettivo e una serie di strumenti, e sceglie i passaggi. Quella libertà è il luogo da cui viene il valore, ed è anche il luogo in cui vive il rischio, perché la stessa flessibilità che permette a un agente di gestire una richiesta insolita gli permette di compiere un'azione insolita che nessuno ha autorizzato.

I prodotti di governance attaccano questo problema da diverse angolazioni. I limiti di ambito definiscono ciò che all'agente è consentito tentare. I confini della conoscenza decidono cosa può leggere. Le approvazioni delle azioni inseriscono un checkpoint prima di qualsiasi cosa irreversibile. La valutazione intercetta le regressioni nel tempo, e l'escalation umana gestisce i casi che l'agente segnala come incerti. Ogni controllo è imperfetto. Stratificati insieme, restringono lo spazio in cui una cattiva decisione può aggravarsi senza supervisione.

Il requisito sottile è che i controlli devono essere invisibili quando va tutto bene. Un livello di supervisione che rallenta ogni attività di routine verrà disattivato entro un mese, di solito dallo stesso team che lo ha richiesto. I buoni prodotti sono quelli che intervengono solo ai margini, il che è un brief ingegneristico molto più difficile da realizzare rispetto al rilascio di un motore di policy.

Anche il modello di acquisto sta cambiando

C'è un segnale commerciale in questi lanci che è facile perdere. I prodotti di governance non vengono venduti come add-on a un abbonamento a un modello. Vengono venduti come piattaforme, a volte da aziende che non hanno nulla a che fare con l'addestramento dei modelli.

Questo dice dove si sta spostando il valore percepito. Quando i modelli erano scarsi e abbaglianti, il modello era il prodotto. Ora che diversi sono abbastanza buoni per lo stesso lavoro, il differenziatore diventa ciò che li circonda: i controlli, i log, le integrazioni, la capacità di dimostrare a un auditor cosa è successo. Gli acquirenti stanno iniziando a trattare l'agente come un componente di un sistema governato, non come il sistema stesso.

Significa anche che l'acquirente è cambiato. La persona che firma per una piattaforma di governance spesso non è la persona che ha firmato per il modello. Team di sicurezza, rischio e conformità stanno entrando nella decisione e portano una serie diversa di domande. Non quanto è intelligente, ma chi può spegnerlo, cosa lascia dietro di sé e dove risiedono le prove. I prodotti costruiti per quel pubblico sembrano noiosi accanto a un demo reel, e sono ciò che rende il demo reel distribuibile.

Cosa dice questo sulla fase successiva

Prodotti di governance che arrivano in gruppo di solito significano che la fase della capacità è finita e quella della fiducia è iniziata. È successo con il cloud, quando gli strumenti di conformità sono comparsi anni dopo l'infrastruttura. È successo con il mobile, quando la gestione dei dispositivi ha raggiunto l'esplosione delle app. Gli agenti sono sulla stessa curva, solo compressa.

La lettura pratica per chiunque stia distribuendo agenti ora è netta. Integra la supervisione fin dall'inizio. Adeguare un control plane su un agente che è rimasto libero per un anno è più difficile che allestirne uno prima del lancio, e gli strumenti per farlo sono finalmente sugli scaffali. La finestra in cui “aggiungeremo la governance più tardi” sembrava ragionevole si è chiusa.