Uma marca d'água invisível mudou três resultados em cinco dias

Em cinco dias deste mês, uma marca d'água invisível passou de curiosidade técnica a algo que tira prêmios de gente e obriga empresas a reimprimir artes.

Em 7 de outubro, o Google abriu o SynthID Detector para qualquer pessoa com uma conta. Em 9 de outubro, a Nikon desclassificou o primeiro colocado do seu concurso Small World in Motion. Em algum ponto entre uma coisa e outra, o Fortnite trocou discretamente a capa de uma música depois que fãs notaram uma marca d'água do Gemini no canto.

Nenhum desses episódios é sobre uma tecnologia de detecção mágica. Os três são sobre o que acontece quando um sinal se torna algo sobre o qual a sociedade pode agir.

O que o SynthID é de fato, e o que o detector de fato diz

SynthID é uma marca d'água que o Google embute em mídias criadas pelos seus modelos — imperceptível, projetada para sobreviver à compressão e ao recorte. O detector é uma página web gratuita: você envia uma imagem, um vídeo ou um arquivo de áudio e ele diz se aquela marca está presente.

A cobertura é mais ampla que a dos modelos do próprio Google. Segundo a empresa, a ferramenta sinaliza mídias feitas com seus modelos e com os de parceiros como OpenAI, Nvidia e Kakao, com suporte à Apple chegando em breve. É um passo relevante, porque um detector que só reconhece a produção de um fornecedor é programa de fidelidade, não ferramenta de integridade.

Os limites são igualmente importantes, e é preciso reconhecer que o Google os declara: o detector encontra SynthID e mais nada. Outras empresas usam padrões diferentes, então a ausência de um sinal não prova nada. Um resultado positivo não diz se o arquivo foi gerado do zero ou apenas editado com uma ferramenta que aplica a marca. E marcas d'água não são à prova de adulteração: quem tiver determinação suficiente consegue removê-las ou danificá-las.

O que deixa a pergunta prática: se um sinal não é prova, por que ele mudou três resultados em uma semana?

Nikon: o caso que será citado por anos

O 16º concurso Small World in Motion deu o primeiro lugar ao Dr. Ning Xu por um vídeo de cílios — as estruturas semelhantes a pelos que revestem as vias aéreas — batendo de forma anormal em tecido de uma criança com discinesia ciliar primária, uma doença genética rara.

Então os cientistas começaram a olhar. Edward Phelps, professor associado da University of Florida, descreveu publicamente problemas estruturais: estruturas roxas surgindo e desaparecendo, cílios verdes aparecendo do nada. Ian Donovan, estudante de MD/PhD na UT Southwestern, passou o material pelo Gemini e relatou uma marca d'água do SynthID.

A versão de Xu, dada em um comentário no LinkedIn que já foi apagado, é que a IA foi usada na pós-produção: uma rede neural não supervisionada aplicada a dados em escala de cinza reconstruídos para separar e colorir estruturas de forma semelhante. Ele sustenta que o vídeo original, os cílios e o movimento deles são reais, e que não acreditava estar quebrando as regras.

A decisão da Nikon foi mais estreita que a da internet. A empresa disse que a inscrição “não cumpria o regulamento do concurso no que diz respeito a IA generativa”, que a decisão se baseou apenas na elegibilidade e que não deveria ser lida como julgamento sobre a reputação profissional de Xu, suas contribuições científicas ou sua intenção. Também reconheceu que um método de rede neural não supervisionada foi usado no fluxo de pós-produção e visualização, e afirmou que revisará as regras e os procedimentos de avaliação. O ranking mexeu: Nguyen Nam Nhat agora é o primeiro, seguido por Benedikt Pleyer, Andrew Moore, Patrick Hickey e Igor Adameyko. A inscrição desclassificada sumiu da galeria.

Aqui está a parte incômoda. A falsa cor é padrão na microscopia há décadas. Redução de ruído, deconvolução e reconstrução são o jeito de conseguir qualquer imagem quando você ultrapassa o limite de difração. A linha que a Nikon precisou traçar não é “IA ou não IA”. É se o processamento acrescentou estrutura que não estava nos dados. Essa linha é muito mais difícil, e uma marca d'água não responde a ela.

Fortnite: a marca d'água que ninguém conferiu

O segundo caso é menor e, de certa forma, mais revelador. O Fortnite adicionou uma faixa chamada “Meow”, de Ironmouse, Sleeping Forest e HalaCG. Fãs notaram uma marca d'água do Google Gemini no canto inferior direito da arte — não só no jogo, mas também nas plataformas de streaming.

A resposta da Epic foi que a arte havia sido fornecida pela artista e correspondia ao que era usado em outros lugares, e que a imagem foi trocada assim que a artista entregou uma substituta. Ironmouse disse que não sabia de nada, que sua equipe exigiu a mudança e que a situação era extremamente decepcionante.

Repare no que aconteceu aqui: ninguém acusou a Epic de gerar a arte. A marca d'água fez seu papel de sinal de procedência — ela dizia que um modelo Gemini tinha tocado aquele arquivo — e a consequência social veio daí. A falha interessante não foi a detecção. Foi um asset com marca d'água passar por uma artista, uma gravadora, uma plataforma de jogos e vários serviços de streaming sem que ninguém notasse uma marquinha no canto.

O que um estúdio deveria estar registrando agora

Se você vive de fazer imagens, a resposta prática para este mês não é assinar um serviço de detecção. É manter uma trilha de procedência que sobreviva a uma disputa.

Isso significa a captura bruta, não só o export. O arquivo do projeto, com a pilha de camadas intacta. Um registro de qual ferramenta generativa tocou qual etapa, mesmo que a resposta seja “nenhuma”. Um changelog datado de tudo que for publicado. Nada disso é empolgante, e tudo isso é o que um concurso, um cliente ou uma plataforma vai pedir quando um sinal aparecer.

Também significa decidir sua política de divulgação antes de precisar dela. Um fotógrafo que pode dizer “uso preenchimento generativo para tirar poeira e nada mais” está em posição muito mais forte do que alguém que precisa reconstruir essa resposta sob pressão, em público, de memória.

O lado institucional tem a mesma lição de casa. Um regulamento que diz “vídeos gerados por IA não são permitidos” não é uma regra verificável até alguém definir onde termina o aprimoramento. A Nikon já disse que vai revisar suas regras e procedimentos de avaliação. Todo outro concurso com uma cláusula de IA está prestes a descobrir a mesma lacuna.

A virada silenciosa: de “é IA?” para “quem tocou nisso?”

Por dois anos, a discussão sobre detecção de IA foi enquadrada como binária — real ou falso — e a tecnologia seguiu perdendo essa discussão, porque detecção é probabilística e acusação não é.

As marcas d'água mudam a pergunta. Elas não perguntam se uma imagem é verdadeira. Perguntam se uma ferramenta específica participou da produção dela. É uma afirmação muito mais fraca, e muito mais defensável. E é exatamente a afirmação de que as instituições precisam: um concurso pode aplicar uma regra de elegibilidade, uma plataforma pode exigir divulgação, uma editora pode fazer uma pergunta a um fornecedor.

As regras de rotulagem de IA da União Europeia se apoiam na mesma lógica. Assim como cada caixinha de divulgação que você viu este ano. Nenhuma exige provar que uma imagem é sintética. Exigem anexar um fato a um arquivo.

O que nos traz de volta ao que os fotógrafos ouvem sem parar e continuam ignorando: guarde os originais. Arquivos RAW, arquivos de projeto, logs de captura, aquele acervo chato que ninguém abre. Num mundo em que um sinal pode custar um prêmio, o único álibi confiável é o rastro documental que mostra com o que você começou.

O detector agora é gratuito. Isso não o torna um juiz. Torna-o uma testemunha — e testemunhas só servem se alguém guardou as provas.