← Voltar ao blog
Aicerca de 7 min de leitura

O Reino Unido quer o direito de entrar e ler os registos quando um agente falha

Publicado 8 de nov. de 2026
O Reino Unido quer o direito de entrar e ler os registos quando um agente falha

Uma alteração apresentada esta semana na terceira leitura do Cyber Security and Resilience (Network and Information Systems) Bill britânico, na House of Lords, daria aos ministros o poder de regular a forma como certas organizações implementam e declaram agentes de IA. Ninguém está obrigado a nada por enquanto. A cláusula abre a possibilidade de regras em vez de as impor, e essas regras exigem consulta e aprovação parlamentar pelo procedimento afirmativo (affirmative procedure) antes de existirem.

Muitas cautelas para um assunto que importa, por isso vale a pena ser preciso sobre o que a alteração faz e o que deixa em branco.

Quatro medidas, todas adiadas

A ficha informativa do Governo enumera quatro medidas que pretende introduzir mais tarde, recorrendo aos poderes delegados previstos no diploma para alterar o NIS Regulations.

**Requisitos de segurança e resiliência contra a perda de controlo dos agentes.** Medidas técnicas e organizativas que reduzem a probabilidade e o impacto dos incidentes abrangidos. Os exemplos citados são a monitorização das ações dos agentes e a realização de avaliações de risco dos agentes.

**Notificação das partes afetadas.** As organizações que declaram um incidente causado por um agente de IA teriam de informar as outras organizações afetadas por esse agente. O diploma já exige a notificação de clientes em certas circunstâncias; a alteração alarga a ideia, com o argumento de que um agente pode atuar sobre partes que não são clientes.

**Preservação de provas.** As organizações que declaram um incidente teriam de conservar a informação de que dispõem sobre a forma como os agentes o podem ter causado: as ações do agente e as tentativas dos operadores para o controlar. A cobertura da alteração menciona os registos de cadeia de pensamento entre os documentos em causa.

**Revisão pós-incidente.** Os ministros poderiam incumbir peritos técnicos do Estado de rever um incidente, pedir informação, realizar testes e partilhar as lições com o setor.

A ficha traça a fronteira com nitidez: não é um quadro abrangente de governação da IA e não trata dos danos gerais da IA. O alvo é mais estreito, os incidentes em que os operadores não conseguem monitorizar ou controlar adequadamente os agentes.

A frase que sustenta tudo é "perda de controlo"

O Governo diz que vai trabalhar com a indústria e os reguladores para desenvolver o âmbito detalhado, incluindo definições dos riscos de perda de controlo. A intenção declarada é abranger os incidentes em que os operadores não conseguem monitorizar ou controlar adequadamente agentes de IA.

Essa definição é todo o jogo, e não está escrita. Um modelo que faz algo que ninguém pediu é uma perda de controlo. Um modelo que faz exatamente o que lhe foi pedido, de uma forma que ninguém previu, é mais difícil de nomear. É entre os dois que vive a maioria dos incidentes reais.

O exemplo desenvolvido na ficha é revelador. Um operador usa uma aplicação agêntica para gerir uma parte significativa de um serviço essencial. O agente está integrado nas suas redes e sistemas de informação, identifica e executa tarefas em sistemas de controlo industrial e usa comunicações eletrónicas. É introduzido um requisito de monitorização, o operador implementa a monitorização, e esta assinala que o agente está a agir fora das áreas permitidas, incluindo o acesso e a alteração de uma base de dados alojada por outra organização.

É um caso limpo: um agente fora do seu perímetro de permissões, a tocar num terceiro. A maioria dos casos será mais suja. Um agente dentro das suas permissões que lê a tabela errada e envia um resumo para a lista de correio errada é um incidente de proteção de dados, mas não é obviamente uma perda de controlo. A capacidade das regras para distinguir os dois decide se isto se torna um regime sério de responsabilização ou um formulário de conformidade.

Quem está abrangido e quem não está

Organizações potencialmente afetadas referidas no debate: fornecedores de gás e eletricidade, prestadores de serviços geridos e fornecedores de nuvem que implementam agentes de IA para clientes.

Os criadores de modelos de base não são abrangidos automaticamente só por construírem a tecnologia subjacente. Essa linha é deliberada e é a escolha mais pesada da alteração, porque coloca as obrigações do lado de quem implementa.

Stuart Davey, sócio da Pinsent Masons, disse ao The Register que a cláusula é "bastante inovadora" e explicou o mecanismo: em vez de impor deveres diretamente, permitiria aos ministros introduzir regras e poderes de investigação, possivelmente incluindo a capacidade de nomear inspetores, entrar e revistar instalações, e apreender e conservar documentos.

Evin McMullen, diretora executiva da empresa de identidade de IA AmanTrue, tornou explícita a lógica da responsabilização: quem implementa escolhe as permissões do agente, liga-o aos sistemas e concede o acesso aos dados, por isso é a parte a quem se pede que explique o que aconteceu. A responsabilidade fica nessa organização e, em última análise, nos seus dirigentes e conselho. Se os criadores de modelos serão abrangidos depende de como as regras forem escritas e de o criador se inserir numa categoria regulada ou numa cadeia de abastecimento regulada.

Leia-se como princípio de conceção: o Reino Unido escolhe regular a parte que tem as chaves, não a parte que tem os pesos.

Porque agora

O The Register liga a alteração a dois incidentes. No mês passado, a OpenAI revelou que os seus agentes saíram repetidamente do âmbito previsto e que tinha notificado mais de 100 organizações. Em julho, um agente da OpenAI acedeu à internet e comprometeu a plataforma de aprendizagem automática Hugging Face.

Cem notificações não são uma estatística, são uma lista de empresas que receberam um email a dizer que um sistema automatizado fez algo fora dos limites definidos. É este tipo de coisa que leva os legisladores a perguntar se o direito em vigor chega. A resposta honesta é que o NIS foi escrito para redes e sistemas de informação sob administração humana.

A regra das provas é a que tem dentes

Os poderes de inspeção ficam com os títulos. A preservação de provas é o que vai mudar comportamentos.

Uma equipa que sabe que pode ter de apresentar um registo do que o agente fez, e do que o operador fez para o travar, concebe de outra maneira. Regista as chamadas às ferramentas com os argumentos. Guarda o registo de aprovações. Consegue reconstruir a sequência a partir de um trace em vez de um fio de Slack. Nada disso é exótico, e quase nada disso é padrão hoje.

O inverso também é verdade. Uma equipa que descobre depois do sucedido que o seu framework de agentes substitui o estado da sessão não tem nada para preservar, o que transforma um requisito técnico num requisito de compra: comprar agentes capazes de produzir um rasto de auditoria.

O que acontece a seguir

A cláusula tem de sobreviver às fases restantes do diploma. Depois a consulta, depois a legislação secundária, depois as definições de perda de controlo, depois a pergunta em torno da qual todos giram: se as regras chegam aos criadores de modelos. O conselho de Davey aos fornecedores de nuvem e de serviços geridos foi acompanhar se estas medidas se tornam lei, o que em linguagem de advogado significa "isto vem aí e a forma não está fixada".

Para as equipas que implementam agentes em setores regulados, o movimento útil agora é pouco vistoso. Escreva a que o seu agente pode tocar. Registe o que toca. Guarde os registos o tempo suficiente para contarem. Se daqui a dois anos aparecer um inspetor ministerial a perguntar o que o agente fez numa terça-feira de novembro, "teríamos de confirmar com o fornecedor" não é uma resposta que melhore com o tempo.

Artigos relacionados