C2PA e SynthID: Depois do AI Act da UE, a proveniência de mídia é uma tarefa de engenharia

Texto, imagens, áudio e vídeo gerados por IA estão se tornando mais difíceis de distinguir de obras feitas por humanos. Isso transformou a proveniência de um tópico de pesquisa em um requisito de pipeline, e os prazos começaram a se impor.

Os deveres de transparência do AI Act da UE, nos termos do Artigo 50, se aplicam a partir de 2 de agosto de 2026, com um período de carência para marcação até 2 de dezembro de 2026. A Índia alterou suas Regras de TI em fevereiro de 2026 para abranger informações geradas sinteticamente. Marcar mídia gerada agora é algo que uma equipe precisa implementar, não algo que uma equipe discute.

Três ferramentas que respondem a perguntas diferentes

O erro que a maioria das equipes comete é tratar proveniência, marca d'água e detecção como intercambiáveis. Não são, e falham de maneiras diferentes.

Proveniência, no sentido C2PA, são metadados assinados criptograficamente anexados a um arquivo ou referenciados por ele. Ela responde a uma pergunta específica: quem assinou isto, com qual ferramenta, e se mudou desde então. Sua principal fraqueza é que é fácil de remover. Uma captura de tela, uma recodificação ou uma plataforma que descarta metadados remove o manifesto.

Uma marca d'água invisível é um sinal incorporado ao próprio conteúdo, seja em pixels, amostras de áudio ou escolhas de tokens. Ela responde: isto foi produzido por um sistema que aplica esta marca d'água. Sua fraqueza é que edições pesadas, reescritas ou ataques adversariais podem enfraquecer ou remover o sinal, e ela normalmente só é detectável pelo próprio detector do fornecedor.

Um classificador de detecção é um modelo treinado para adivinhar se um conteúdo é sintético. Ele responde: isto parece gerado por IA. É probabilístico, sofre deriva conforme os geradores melhoram e produz falsos positivos em conteúdo real.

A distinção principal é que proveniência e marcas d'água são aplicadas no momento da criação por uma parte cooperante. A detecção é aplicada depois, a conteúdo de qualquer pessoa, inclusive adversários, o que a torna a forma mais fraca de evidência, embora seja a única opção para conteúdo que nunca foi marcado.

Por que a detecção sozinha não basta

A detecção é uma corrida armamentista. Classificadores aprendem os artefatos de geradores conhecidos, e novos modelos somados a pós-processamento simples alteram esses artefatos. Falsos positivos prejudicam pessoas reais, porque fotos reais editadas, vídeos comprimidos e textos de não nativos acabam sinalizados. Quando isso se torna um problema de equidade, uma selfie genuína de cliente é rejeitada.

E uma pontuação limpa não prova nada. O conteúdo pode vir de um gerador que o modelo nunca viu. A orientação prática é tratar a detecção como um sinal de risco, com revisão humana para decisões de alto impacto.

Como o C2PA realmente funciona

A Coalition for Content Provenance and Authenticity publica um padrão técnico aberto para registrar a origem e o histórico de edição de conteúdo digital. Seu comitê gestor inclui Adobe, Google, Microsoft, Meta, OpenAI, Amazon, Sony e BBC, entre outros. A especificação está na série 2.x e é revisada regularmente, então projetos devem verificar a versão atual em vez de fixar uma versão específica.

A unidade central é o manifesto C2PA, uma estrutura de dados assinada criptograficamente que descreve a proveniência de um ativo. Um armazenamento de manifestos pode conter vários, um por etapa na vida do ativo. Asserções são declarações individuais sobre o ativo, com padrões que cobrem ações como criado ou editado, inclusive por um sistema de IA, além de ingredientes e miniaturas.

Em meados de 2026, a OpenAI anexa manifestos C2PA a cada imagem produzida por seus modelos de imagem, e o Google anexa tanto manifestos C2PA quanto marcas d'água SynthID às saídas de sua geração de imagem e vídeo. O Firefly, da Adobe, faz o mesmo desde 2024. O firmware de câmeras da Canon, Sony, Nikon e Leica agora grava Content Credentials na captura, o que significa que a mesma infraestrutura que permite a uma redação verificar uma fotografia também permite a um gerente de contratação verificar uma foto de perfil.

O que o SynthID faz de diferente

O SynthID do Google DeepMind é uma família de tecnologias de marca d'água que adapta o sinal a cada tipo de conteúdo, em vez de usar uma única técnica para tudo. Imagens recebem um sinal espalhado pela imagem, de modo que a qualidade visual normal seja preservada e algumas transformações comuns não o apaguem. Vídeo distribui a informação de marca d'água pelos quadros, ajudando um verificador a examinar um clipe em vez de uma área isolada. Áudio coloca o sinal dentro do som, inaudível, mas detectável por máquina. Texto faz o modelo deslocar sutilmente as probabilidades dos tokens, com um verificador examinando texto suficiente para o padrão estatístico esperado.

A marca d'água em texto é o caso mais frágil. Uma resposta curta pode não conter evidência suficiente. Parafraseamento pesado, tradução ou mistura de saídas de vários modelos pode enfraquecer o padrão. É por isso que um resultado negativo deve ser relatado como "nenhuma marca d'água suportada detectada", em vez de "escrito por um humano".

O que isso significa para uma equipe que entrega mídia gerada

Três práticas decorrem das diferenças entre as ferramentas.

Assine na criação e preserve o original. O C2PA às vezes sobrevive à recodificação, mas os metadados frequentemente são descartados adiante. O único registro confiável de proveniência é o arquivo que você guardou.

Não trate uma marca d'água ausente como prova de autoria humana. Um sinal ausente pode significar que o gerador não aplica uma, que a edição a removeu ou que o detector não estava disponível. Cada um desses casos é um fato diferente.

Separe a questão técnica da questão da verdade. A criptografia do C2PA ajuda a revelar alterações não autorizadas, mas não certifica por si só que a representação de um produto é precisa ou que toda afirmação em um manifesto é verdadeira. A proveniência diz de onde um arquivo veio. Ela não diz se o arquivo é honesto.

O mercado tem respondido a tudo isso. Os gastos com marca d'água e proveniência de IA foram avaliados em cerca de US$ 480 milhões em 2025, com projeções acima de 28% de crescimento anual até 2034. Trata-se de gasto empresarial, não de adoção pelo consumidor, e reflete uma realidade simples: conforme o custo de gerar mídia cai, o valor de provar de onde a mídia veio sobe. As equipes que tratam a proveniência como infraestrutura de pipeline, e não como curiosidade de laboratório, estarão prontas quando as regras de marcação se impuserem.

Como é um pipeline em conformidade

Deixando as abstrações de lado, uma equipe que precisa marcar mídia gerada agora necessita de uma sequência específica de etapas, e cada etapa corresponde a uma das ferramentas acima.

Na criação, o pipeline assina a saída. Para imagens produzidas por uma API importante, isso acontece automaticamente: a OpenAI anexa um manifesto C2PA a cada imagem, o Google anexa tanto um manifesto quanto uma marca d'água SynthID, e a Adobe faz o mesmo por meio do Firefly. Uma equipe que trabalha com um provedor menor pode ter que adicionar o manifesto por conta própria.

Durante a edição, o pipeline preserva a cadeia. Cada ferramenta que toca o ativo deve acrescentar uma asserção em vez de substituir o manifesto, para que o histórico sobreviva. É aqui que a maioria dos pipelines vaza, porque uma ferramenta que recodifica o arquivo pode descartar metadados que não entende.

Na distribuição, o pipeline mantém o original. As plataformas rotineiramente removem metadados, recomprimem arquivos enviados e geram pré-visualizações. O arquivo assinado que sai do sistema de produção é o único registro confiável, e deve ser retido independentemente de onde a imagem for publicada.

Na camada humana, o pipeline rotula. Um rótulo visível é a forma mais simples de divulgação e aquela que os reguladores esperam para certos usos. Também é o mais facilmente cortado, e é por isso que ele acompanha os sinais legíveis por máquina em vez de substituí-los.

A distinção que os reguladores fazem

O Artigo 50 do AI Act da UE, e as Regras de TI alteradas da Índia, ambos traçam uma linha que é fácil de borrar em uma discussão de engenharia.

A obrigação é sobre transparência, não precisão. Uma imagem marcada é certificada como gerada ou editada por um processo identificado, e é só isso que a marca afirma. A distinção importa porque determina para que serve um manifesto. Ele registra a proveniência, ou seja, quem fez o arquivo e como. Ele não atesta o conteúdo, ou seja, se o que o arquivo retrata é real.

Errar essa distinção leva a uma falha previsível. Uma equipe trata uma Content Credential válida como evidência de que uma imagem é confiável, quando a credencial só confirma que a imagem veio do sistema de onde afirma vir. Uma foto manipulada com um manifesto intacto continua sendo uma foto manipulada, e um manifesto não detecta a manipulação.

A conclusão para uma equipe ativa

Três coisas decorrem disso, e todas são sobre disciplina, não tecnologia.

Trate a marcação como parte da etapa de exportação, não como um acréscimo posterior. A proveniência é aplicada na criação, e adaptá-la depois não é possível para um ativo que já está em circulação.

Mantenha o original, porque a cópia que os outros veem normalmente terá os metadados removidos. O manifesto só é útil se uma equipe puder apresentar o arquivo que o contém.

E separe a questão da proveniência da questão da detecção na forma como a equipe fala sobre a saída. A proveniência diz de onde um arquivo veio. A detecção diz o que um modelo supõe sobre conteúdo que nunca viu, o que é uma afirmação mais fraca. Dizer isso claramente, internamente e para os clientes, é o que mantém um programa de conformidade honesto sobre o que pode e não pode provar.