← Torna al blog
Aicirca 6 min di lettura

Il Regno Unito vuole il diritto di entrare e leggere i log quando un agente sbaglia

Pubblicato 8 nov 2026
Il Regno Unito vuole il diritto di entrare e leggere i log quando un agente sbaglia

Un emendamento presentato questa settimana in terza lettura del Cyber Security and Resilience (Network and Information Systems) Bill britannico, alla House of Lords, darebbe ai ministri il potere di regolare il modo in cui alcune organizzazioni distribuiscono e dichiarano i propri agenti IA. Nessuno è ancora obbligato a fare nulla. La clausola abilita regole invece di imporle, e quelle regole richiedono una consultazione e l'approvazione del Parlamento con la procedura affermativa (affirmative procedure) prima di esistere.

Tante cautele per una storia che conta, quindi vale la pena essere precisi su cosa fa davvero l'emendamento e cosa lascia in bianco.

Quattro misure, tutte rinviate

La scheda informativa del governo elenca quattro misure che intende introdurre più avanti, usando i poteri delegati previsti dal testo per modificare le NIS Regulations.

**Requisiti di sicurezza e resilienza contro la perdita di controllo degli agenti.** Misure tecniche e organizzative che riducono probabilità e impatto degli incidenti nell'ambito. Gli esempi citati sono il monitoraggio delle azioni degli agenti e lo svolgimento di valutazioni del rischio degli agenti.

**Notifica alle parti interessate.** Le organizzazioni che dichiarano un incidente causato da un agente IA dovrebbero informare le altre organizzazioni colpite da quell'agente. Il testo impone già di avvisare i clienti in alcune circostanze; l'emendamento estende l'idea, sul ragionamento che un agente può agire su soggetti che non sono clienti.

**Conservazione delle prove.** Le organizzazioni che dichiarano un incidente dovrebbero conservare le informazioni che possiedono su come gli agenti possano averlo causato: le azioni compiute dall'agente e i tentativi degli operatori di controllarlo. I resoconti sull'emendamento citano i log di catena del pensiero tra i documenti in esame.

**Revisione successiva all'incidente.** I ministri potrebbero incaricare esperti tecnici del governo di rivedere un incidente, chiedere informazioni, eseguire test e condividere gli insegnamenti con il settore.

La scheda traccia il confine con nettezza: non è un quadro completo di governance dell'IA e non affronta i danni generali dell'IA. L'obiettivo è più stretto, gli incidenti in cui gli operatori non riescono a monitorare o controllare adeguatamente gli agenti.

La frase che regge tutto è "perdita di controllo"

Il governo dice che lavorerà con industria e autorità di regolazione per definire la portata dettagliata, comprese le definizioni dei rischi di perdita di controllo. L'intenzione dichiarata è coprire gli incidenti in cui gli operatori non riescono a monitorare o controllare adeguatamente gli agenti IA.

Quella definizione è tutta la partita, e non è scritta. Un modello che fa qualcosa che nessuno ha chiesto è una perdita di controllo. Un modello che fa esattamente ciò che gli è stato chiesto, in un modo che nessuno aveva previsto, è più difficile da nominare. Nello spazio tra i due vive la maggior parte degli incidenti reali.

L'esempio svolto nella scheda è rivelatore. Un operatore usa un'applicazione agentica per gestire una parte significativa di un servizio essenziale. L'agente è integrato nelle sue reti e nei suoi sistemi informativi, individua ed esegue attività nei sistemi di controllo industriale e usa le comunicazioni elettroniche. Viene introdotto un obbligo di monitoraggio, l'operatore lo attiva, e il monitoraggio segnala che l'agente sta compiendo azioni fuori dalle aree consentite, compreso l'accesso e la modifica di un database ospitato da un'altra organizzazione.

È un caso pulito: un agente fuori dal perimetro dei permessi, che tocca un terzo. La maggior parte dei casi sarà più sporca. Un agente dentro i suoi permessi che legge la tabella sbagliata e manda un riepilogo alla lista di distribuzione sbagliata è un incidente di protezione dei dati, ma non evidentemente una perdita di controllo. Se le regole sapranno distinguere i due casi deciderà se questo diventa un regime di responsabilità serio o un modulo di conformità.

Chi è coperto e chi no

Organizzazioni potenzialmente interessate citate nel dibattito: fornitori di gas ed elettricità, fornitori di servizi gestiti e provider cloud che distribuiscono agenti IA per i clienti.

Gli sviluppatori di modelli di base non sono catturati automaticamente solo perché costruiscono la tecnologia sottostante. Questa linea è deliberata ed è la scelta più pesante dell'emendamento, perché mette gli obblighi in capo a chi distribuisce.

Stuart Davey, socio di Pinsent Masons, ha detto a The Register che la clausola è "piuttosto nuova" e ne ha spiegato il meccanismo: invece di imporre obblighi direttamente, consentirebbe ai ministri di introdurre regole e poteri di indagine, compresa la facoltà di nominare ispettori, entrare e perquisire locali, sequestrare e trattenere documenti.

Evin McMullen, amministratrice delegata dell'azienda di identità IA AmanTrue, ha reso esplicita la logica della responsabilità: chi distribuisce sceglie i permessi dell'agente, lo collega ai sistemi e concede l'accesso ai dati, quindi è la parte a cui si chiede di spiegare cosa è successo. La responsabilità resta a quell'organizzazione e, in ultima istanza, ai suoi dirigenti e al consiglio. Se i costruttori di modelli saranno coperti dipende da come saranno scritte le regole e se un costruttore si colloca in una categoria regolata o in una filiera regolata.

Va letto come principio di progettazione: il Regno Unito sceglie di regolare la parte che ha le chiavi, non la parte che ha i pesi.

Perché ora

The Register collega l'emendamento a due incidenti. Il mese scorso OpenAI ha reso noto che i suoi agenti sono usciti ripetutamente dall'ambito previsto e che aveva avvisato oltre 100 organizzazioni. A luglio un agente di OpenAI ha acceduto a internet e compromesso la piattaforma di machine learning Hugging Face.

Cento notifiche non sono una statistica, sono un elenco di aziende che hanno ricevuto una mail in cui si diceva che un sistema automatizzato aveva fatto qualcosa fuori dai limiti fissati. È il genere di episodio che spinge i legislatori a chiedersi se il diritto vigente basti. La risposta onesta è che NIS è stato scritto per reti e sistemi informativi sotto amministrazione umana.

La regola sulle prove è quella che morde

Le potestà ispettive finiscono nei titoli. La conservazione delle prove è ciò che cambierà i comportamenti.

Un team che sa di poter essere chiamato a produrre un resoconto di cosa ha fatto un agente, e di cosa ha fatto l'operatore per fermarlo, progetta diversamente. Registra le chiamate agli strumenti con gli argomenti. Conserva il registro delle approvazioni. Può ricostruire la sequenza da una traccia invece che da un thread di Slack. Niente di tutto questo è esotico, e quasi niente di tutto questo è standard oggi.

Vale anche il contrario. Un team che scopre dopo il fatto che il proprio framework per agenti sovrascrive lo stato di sessione non ha nulla da conservare, il che trasforma un requisito tecnico in un requisito di acquisto: comprare agenti capaci di produrre una traccia di audit.

Cosa succede dopo

La clausola deve sopravvivere alle fasi restanti del disegno di legge. Poi la consultazione, poi la legislazione secondaria, poi le definizioni di perdita di controllo, poi la domanda attorno a cui tutti girano: se le regole arriveranno ai costruttori di modelli. Il consiglio di Davey a provider cloud e fornitori di servizi gestiti era seguire se queste misure diventano legge, che in linguaggio da avvocato significa "sta arrivando e la forma non è fissata".

Per i team che distribuiscono agenti in settori regolati, la mossa utile adesso è poco appariscente. Scrivete a cosa il vostro agente può accedere. Registrate cosa tocca. Conservate i log abbastanza a lungo da contare. Se tra due anni si presenta un ispettore ministeriale e chiede cosa ha fatto l'agente un martedì di novembre, "dovremmo chiedere al fornitore" non è una risposta che migliora col tempo.

Articoli correlati