A marca d'água não está acompanhando o conteúdo falso

As plataformas agora rotulam automaticamente conteúdo gerado por IA. Uma nova auditoria sugere que os rótulos ainda não alcançam as falsificações que mais importam.

Pesquisadores auditaram a rotulagem de IA no Instagram, TikTok, X e YouTube, usando as diretrizes da Comissão Europeia de julho de 2026 sobre deepfakes como ponto de referência. Todas as quatro plataformas aplicaram rótulos automaticamente, e uma parcela maior dos rótulos foi aplicada pela própria plataforma, em vez de pelo usuário que fez o upload, o que representa um progresso em relação a auditorias anteriores. O problema é a cobertura.

Apenas 33% das deepfakes identificadas por especialistas em contextos de risco sistêmico tinham um rótulo de IA aplicado pela plataforma. Os itens sem rótulo alcançaram uma mediana de 160.000 visualizações, o que significa que um grande público os viu sem qualquer aviso anexado. Em uploads controlados de conteúdo gerado por IA que carregava sinais de proveniência padrão, as plataformas rotularam apenas 61%, e removeram completamente os sinais ocultos de 39% dos uploads.

Esse último número é o que deveria preocupar qualquer pessoa que esteja construindo sobre proveniência. O rótulo é aplicado na superfície. O sinal que permitiria a alguém rastrear o item depois é removido na entrada.

Por que o sinal desaparece

As plataformas recodificam mídia. Elas redimensionam, comprimem, removem metadados e hospedam novamente. Cada uma dessas etapas é hostil a uma marca d'água frágil, e os sistemas que anexam proveniência no momento da geração não conseguem controlar o que acontece depois.

Essa é a tensão que a auditoria expõe. As empresas que geram mídia sintética fizeram, em grande parte, o trabalho de assinar sua produção. As plataformas que a distribuem não fizeram o trabalho de preservar a assinatura e, em muitos casos, seu processamento normal a remove antes que alguém veja a publicação.

O resultado é um regime de rotulagem que funciona quando o usuário que faz o upload coopera e falha quando ele não coopera. Um usuário que quer seu conteúdo de IA rotulado geralmente conseguirá. Um usuário que quer que ele fique sem rótulo pode recodificar o arquivo, e os próprios pipelines da plataforma muitas vezes ajudarão.

O que uma marca d'água pode e não pode fazer

O SynthID do Google DeepMind é a tentativa mais amplamente implantada de resolver o problema de anexação, e um podcast que o laboratório publicou em 1º de outubro apresentou os objetivos de design com clareza incomum. Apresentado por Hannah Fry e com Pushmeet Kohli, vice-presidente de ciência da DeepMind e um dos arquitetos do SynthID, além do pesquisador de biossegurança Jeremy Radcliffe, o episódio descreve o que torna uma marca d'água útil: ela deve ser imperceptível para as pessoas, difícil de remover mesmo após edições e transformações, e fácil de integrar e detectar em escala.

O mecanismo de incorporação e o detector do SynthID são treinados juntos contra um adversário que corta, rotaciona, reduz e adiciona ruído ao conteúdo, então a marca é construída para sobreviver exatamente ao processamento que remove sinais mais fracos. A detecção está integrada ao aplicativo Gemini. Parceiros que compartilham suas chaves podem ser verificados por meio de um serviço central. Veículos de imprensa usaram o SynthID para verificar imagens que circulam online.

Essa é uma posição técnica forte contra a remoção acidental. Não é uma posição forte contra a remoção deliberada, e o podcast é honesto sobre o limite. Marcadores e metadados podem ser removidos ou alterados. Marcadores baseados em texto podem ser ofuscados por reescrita. Uma marca d'água aumenta o custo da eliminação. Ela não torna a eliminação impossível.

De imagens a proteínas

A segunda metade do episódio vai para um lugar mais estranho. Radcliffe descreve o SynthID Bio, uma prova de conceito que aplica as mesmas ideias a sequências biológicas projetadas por IA, para que uma sequência produzida por um modelo possa ser distinguida de uma encontrada na natureza.

O propósito é a rastreabilidade antes da síntese. Se um design se origina de um sistema de IA, marcá-lo significa que a origem pode ser estabelecida antes que qualquer coisa física seja construída, o que importa para a biossegurança de uma forma que uma fotografia com marca d'água não importa. O mesmo princípio que protege uma redação que verifica uma imagem em circulação é estendido a um laboratório que decide se uma sequência deve existir.

A analogia não é perfeita. Sequências de proteínas e DNA têm restrições funcionais que imagens não têm, e a prova de conceito é inicial. Mas mostra até onde a ideia de proveniência pode chegar quando se aceita que a questão não é “isto é real”, mas “quem assinou isto, e quando”.

O relógio regulatório e a lacuna de confiança

As regras avançaram mais rápido do que as ferramentas. As obrigações de transparência da Lei de IA da UE se aplicam desde 2 de agosto de 2026, exigindo rótulos legíveis por máquina para certos conteúdos gerados ou manipulados por IA e avisos visíveis ao público para deepfakes e alguns materiais de interesse público. As penalidades do Artigo 50 podem chegar a 15 milhões de euros ou 3% do faturamento anual global, o que for maior. A Anthropic anunciou a marca d'água para conteúdo produzido pelo Claude, juntando-se a uma lista de laboratórios que agora marcam sua produção.

As expectativas dos consumidores também mudaram. Em uma pesquisa da Capgemini de 2026 com 12.000 consumidores, 67% disseram esperar que as empresas indiquem claramente quando um anúncio exibido a eles foi gerado por IA. A demanda por rotulagem não vem apenas dos reguladores.

O que a auditoria sugere é que o rótulo e a confiança estão se distanciando. As plataformas podem apontar para um sistema de rotulagem automática e para a conformidade com políticas. Um espectador que vê uma deepfake sem rótulo com 160.000 visualizações não tem como saber se a ausência de um rótulo significa que o conteúdo é autêntico ou que o rótulo falhou. A ausência de evidência está sendo lida como evidência de autenticidade, que é o oposto do que um regime de rotulagem deveria produzir.

A versão cotidiana do problema

Os números da auditoria descrevem contextos de risco sistêmico, mas o mesmo maquinário governa o conteúdo comum. Uma imagem gerada por IA de um produto, de uma pessoa ou de um lugar que circula sem marca é tratada como fotografia por quase todos que a veem, e a correção, se algum dia vier, chega muito depois de o item ter viajado.

Um episódio separado deixou o ponto de forma mais contundente. Uma imagem gerada por IA de um sapato inexistente, atribuída a um designer, se espalhou pela mídia húngara e pelas redes sociais e foi citada em comentários de especialistas antes que alguém estabelecesse que o item não existia. Ninguém estava lavando um segredo de Estado. Estavam repassando uma imagem que parecia plausível, e a etapa de verificação nunca aconteceu porque fazê-la era mais difícil do que compartilhar.

Esse é o problema prático que a marca d'água pretende resolver, e é um problema de padrões predefinidos, não de adversários determinados. A maioria das pessoas não removerá uma marca. Elas simplesmente tratarão sua ausência como significativa, quer pretendam ou não.

O que realmente fecharia a lacuna

Duas mudanças movimentariam os números mais do que qualquer melhoria na marca d'água. A primeira é a preservação: as plataformas precisariam manter a proveniência por meio de seu próprio processamento em vez de removê-la, o que é um compromisso de infraestrutura, não um problema de modelo. A segunda é um sinal público para rótulos ausentes, de modo que um item sem rótulo seja tratado como não verificado, e não como verificado.

O C2PA Content Credentials, o padrão de proveniência apoiado por uma associação que reúne Adobe, Amazon, BBC, Google, Meta, Microsoft, OpenAI e Sony, é o veículo mais provável para a primeira. Ele anexa um manifesto assinado criptograficamente na captura ou exportação e permite que qualquer pessoa o verifique com ferramentas abertas. Não consegue detectar falsificações criadas antes da assinatura, e não classifica nada como real ou falso. O que ele faz é criar uma cadeia de custódia, que é precisamente o que se perde no caminho até um feed.

Até que essa cadeia sobreviva ao upload, o resumo honesto da rotulagem de IA em 2026 é incômodo. Os sistemas funcionam. A cobertura, não. E a lacuna está sendo preenchida por aquilo que a audiência decide presumir.