Google abriu seu Detector SynthID para todos. Leia as letras miúdas.

O Google abriu seu Detector SynthID ao público em 7 de outubro, permitindo que qualquer pessoa verifique se uma imagem, um vídeo ou um arquivo de áudio contém uma marca d'água de IA oculta. O portal em synthid.com está no ar globalmente em inglês. Faça login com uma conta do Google, da OpenAI ou da Apple e envie um arquivo.

Esta é uma melhoria genuína em relação ao cenário anterior, quando a única forma de verificar o SynthID fora do programa de testadores confiáveis do Google era perguntar ao Gemini e interpretar o que ele respondesse. Detectar marcas d'água não deveria exigir uma conversa com o modelo que as aplicou. Até esta semana, o detector ficava restrito a um grupo de teste de jornalistas, profissionais de mídia e pesquisadores que receberam acesso na Google I/O do ano passado, e a resposta muitas vezes vinha como um parágrafo de prosa quando o que você queria era um único bit.

Como é a escala

Os números por trás do SynthID são grandes. Desde o lançamento em 2023, o Google afirma ter aplicado marca d'água em mais de 180 bilhões de imagens e vídeos, além de 240.000 anos de conteúdo em áudio. As verificações realizadas na Busca, no app Gemini e no Chrome agora processam mais de um milhão de solicitações por dia.

O mecanismo é a parte interessante. O SynthID incorpora um sinal diretamente nos pixels de uma imagem ou vídeo, e nos componentes de frequência do áudio, em vez de em metadados que podem ser removidos. Para imagens e vídeo, a marca d'água é gravada no momento da criação e projetada para sobreviver a recortes, filtros, mudanças de taxa de quadros e compressão com perdas. Para áudio, ela é criada para resistir a ruído adicionado, compressão MP3 e mudanças na velocidade de reprodução. A marca d'água de texto do app Gemini funciona de modo diferente, ajustando as pontuações de probabilidade que o modelo atribui a palavras candidatas para que a saída visível permaneça inalterada.

Essa diferença em onde o sinal reside é o motivo pelo qual o SynthID sobrevive a operações que removem metadados por completo. Uma captura de tela, uma recodificação e uma limpeza de metadados removerão todas as etiquetas de procedência, mas não removem um padrão entrelaçado nos próprios valores dos pixels. A contrapartida é que o sinal em nível de pixel também é o mais suscetível a se degradar sob transformação agressiva, e é por isso que o detector pede o arquivo de maior qualidade que você tiver.

Os formatos compatíveis são amplos: JPG, PNG, WEBP, HEIC e vários outros tipos de imagem; MP4, MOV e WEBM para vídeo; WAV, MP3, OGG, FLAC, AAC e M4A para áudio.

A parceria é a verdadeira expansão

Antes, o detector verificava apenas o SynthID do próprio Google. Imagens do ChatGPT também carregavam SynthID, e a ferramenta do Google não as sinalizava. Essa limitação acabou. Agora o detector é compatível com marcas d'água de todos os parceiros do SynthID, incluindo OpenAI, NVIDIA e Kakao, com a Apple entrando em breve.

O efeito prático é que um único upload pode identificar resultados de vários grandes provedores, em vez de exigir uma verificação separada na página de verificação de cada empresa. A OpenAI ainda mantém sua própria página, então uma imagem suspeita do ChatGPT tem dois lugares para consulta.

Os limites merecem igual destaque

O site deixa explícito que não é um detector geral de IA, e o aviso legal importa mais do que o recurso. Ele só consegue identificar mídia de empresas que adotaram o SynthID. Microsoft e Meta mantêm seus próprios padrões de marca d'água e verificação, e nenhuma das duas aparece na lista de parceiros. O detector da Meta já foi pego deixando passar algumas de suas próprias imagens de IA recortadas.

Depois, há o problema dos modelos de pesos abertos. Qualquer pessoa pode rodar um modelo aberto em seu próprio hardware e produzir conteúdo sem marca d'água e sem nenhuma rotulagem de metadados. Esse conteúdo nunca aparecerá no detector.

Um resultado negativo, portanto, significa que a origem do arquivo é desconhecida. Não significa que o arquivo seja autêntico. Ele pode vir de um modelo fora da rede de parceiros, ou uma modificação pesada pode ter degradado o sinal além da detecção. A orientação do próprio site é enviar a versão de maior qualidade disponível e reunir vários pontos de dados antes de tirar uma conclusão.

O site também observa o modo de falha oposto, que recebe menos atenção. Em casos raros, o detector pode disparar falsamente para conteúdo que não carrega marca d'água alguma. Um falso positivo é um erro mais prejudicial do que um falso negativo, porque convida alguém a acusar uma fotografia real de ser sintética. Existem erros nas duas direções, e nenhum deles substitui verificar de onde veio o arquivo.

O acesso é deliberadamente limitado

A ferramenta é gratuita, mas restrita. Os usuários recebem uma cota diária de aproximadamente 10 verificações de imagem, vídeo e áudio, e precisam estar conectados. Engenheiros do Google disseram que o limite existe para impedir que pessoas usem as verificações para desenvolver ferramentas de remoção do SynthID. O número da cota é descrito de forma vaga porque o sistema pode bloquear você mais cedo se você estiver verificando muitos arquivos muito semelhantes. Esse padrão se parece com alguém ajustando um método de burla.

Mídias enviadas são processadas em tempo real e excluídas depois que os resultados retornam, conforme o aviso de privacidade, embora uma assinatura digital do arquivo seja retida por 24 horas para aplicar as cotas. Os termos proíbem engenharia reversa da lógica de detecção, automatização de consultas e criação de várias contas para burlar limites.

Duas filosofias de procedência

O SynthID é marca d'água proativa: rotular o conteúdo de IA. A abordagem alternativa é rotular o conteúdo autêntico, em vez disso, usando padrões criptográficos como o C2PA para assinar informações de procedência nos arquivos no momento da captura. Os celulares Pixel do Google estão entre os poucos dispositivos que fazem isso.

As duas abordagens falham de maneiras diferentes. A marca d'água depende da cooperação do gerador, algo que modelos de pesos abertos não têm incentivo para fazer. A assinatura criptográfica depende da cooperação do dispositivo de captura, o que a limita a hardware que já vem com o recurso. Nenhuma das duas cobre o problema inteiro sozinha, e o conselho prático é usar ambas, junto com o trabalho pouco glamouroso de verificar fonte, data e contexto.

Há uma razão estrutural para a abordagem de marca d'água ter sido a primeira a ser lançada. Ela não exige hardware novo nem mudança na forma como o conteúdo é consumido. Pode ser adaptada a modelos existentes com uma atualização. A procedência criptográfica exige um ecossistema de dispositivos de captura, ferramentas de edição e visualizadores que concordem com um padrão, e esse ecossistema ainda é em grande parte aspiracional. O caminho mais fácil foi construído primeiro, e o caminho mais fácil tem o maior ponto cego.

Depois, há a questão adversarial para a qual ninguém tem uma boa resposta. Marcas d'água são projetadas para serem duráveis, o que não é o mesmo que serem irremovíveis. Toda ferramenta pública de detecção fornece um sinal de treinamento para quem tenta derrotá-la, e é exatamente por isso que o Google limita a cota e proíbe consultas automatizadas. O detector é útil, e o detector também é um mapa para as pessoas que tentam apagar a marca.

O que levar disso

O modelo mental útil é que o SynthID oferece um sim forte e um não muito fraco. Uma correspondência positiva aponta para um conjunto específico de provedores. Uma correspondência negativa não lhe diz quase nada. Qualquer pessoa que trate esta última como um atestado de boa saúde está usando a ferramenta incorretamente, e a própria documentação do Google é extraordinariamente franca sobre isso.

O acesso mais amplo à detecção é uma vitória real para o letramento midiático. A vitória é mais estreita do que o anúncio faz parecer, e as ressalvas são onde mora a utilidade real.