O macaco não salvou o cachorro. As lágrimas eram reais

Em 7 de outubro, um vídeo subiu ao vigésimo lugar no ranking de tecnologia do Weibo. Mostrava um macaco, em meio à água de uma enchente, puxando um cachorro para um lugar seguro. Tinha todos os ingredientes de um sucesso: desastre, um gesto de cuidado entre espécies, instinto fazendo a coisa moralmente correta sem que ninguém pedisse. As pessoas compartilharam e choraram. Depois foi confirmado que era gerado.

A parte interessante não é que fosse falso. É a ordem em que o público o processou: primeiro comovido, depois desconfiado, por fim verificado. Essa sequência hoje é tão confiável que quase dá para acertar o relógio por ela.

Por que a ordem nunca muda

Porque nenhuma etapa do caminho exige prova no momento da publicação.

Uma redação tem padrões editoriais, assinatura, departamento jurídico. Quem posta um vídeo numa plataforma de vídeos curtos não tem nada disso. O padrão da plataforma é generoso: o conteúdo é tratado como autêntico até que alguém denuncie. O único teste disponível para o público é «isso parece real?», e parecer real é exatamente aquilo em que a geração de vídeo hoje é excelente.

Pelo molhado. O formato específico de um respingo. O jeito como o corpo de um cachorro assustado se torce. Não são detalhes acessórios. São exatamente os traços que a empatia humana lê como prova. Um modelo treinado para produzir imagens convincentes é, funcionalmente, um modelo treinado para produzir as pistas que fazem as pessoas acreditarem nas imagens.

Aí está a assimetria. A verificação é lenta, adversarial e entediante. A emoção é rápida, social e gratificante. Vence o formato que otimiza a segunda sem cobrar nada por pular a primeira.

A amostra deste mês é incomumente rica

O macaco não foi um caso isolado. Nas mesmas semanas:

Um vídeo de um avião de passageiros girando fora de controle sob chuva forte circulou em plataformas estrangeiras. O Lead Stories rastreou a origem e ferramentas de detecção de IA o marcaram como gerado. Um clipe de turistas alimentando um urso em Kanas, em Xinjiang, foi confirmado como sintético. Um print de um suposto «aviso de retificação» interno do site de comparação de carros Dongchedi revelou-se fabricado.

E num registro completamente diferente: o bot de atendimento da plataforma de ingressos Taopiaopiao insultou um usuário. A resposta da empresa foi que não sabia qual grande modelo de linguagem havia sido usado.

Juntando tudo, surge um padrão. Um caso é fabricação maliciosa, outro é implantação descuidada, outro é um print que qualquer pessoa com um editor de imagens faria. Compartilham um único defeito: quando algo dá errado, não há parte identificável que tenha produzido o conteúdo. Nem o fornecedor do modelo, nem a plataforma, nem a conta.

O custo recai sobre o próximo vídeo real

Eis o que, na minha leitura, fica subestimado nessas discussões.

O dano de um vídeo falso de resgate não é que alguém tenha ficado triste por um macaco que não existia. É que o próximo vídeo real de resgate — e vai haver um, na próxima temporada de cheias, filmado por alguém com um celular e nenhum treinamento jornalístico — chega já desacreditado. A primeira reação do público foi treinada para ser «provavelmente IA».

É um imposto sobre a autenticidade, e é regressivo. Grandes veículos podem pagar mesas de verificação. Uma pessoa qualquer que filma um evento real não pode. Cada falso que viraliza torna a testemunha honesta menos crível, e a testemunha honesta é justamente quem tem menos capacidade de provar qualquer coisa.

Já fizemos esse experimento com fotografia. As unidades de verificação da Reuters e da AFP, o hábito da busca reversa de imagem, a sabedoria popular do «olhe as mãos» — tudo isso nasceu de uma década de manipulação fotográfica. Levou anos e ainda não funciona de forma confiável. Vídeo é mais difícil, porque o vídeo carrega uma alegação implícita de continuidade: isso aconteceu, nesta ordem, por esse tempo. Gerar essa alegação hoje é barato. Auditá-la não é.

Um espaço para assinatura é pouco glamouroso e provavelmente necessário

A proposta que não sai dos comentários de tecnologia chineses é simples: três espaços de assinatura.

Lado da geração: qual modelo produziu isto, declarado na exportação. Lado da publicação: quem atesta, e com base em quê. Lado da plataforma: o que foi detectado, e o que foi feito. Se faltar qualquer um dos três, o item recebe por padrão um rótulo visível de «suspeita de síntese».

Nada disso é tecnicamente difícil. Manifestos C2PA e esquemas de marca d'água como o SynthID já existem; o difícil é a adoção, porque as partes que mais se beneficiam da ambiguidade são justamente as que teriam de assinar.

E há uma objeção legítima: metadados de proveniência obrigatórios também são uma superfície de vigilância. Um sistema que registra qual modelo fez cada imagem, atrelado a uma conta, é um sistema que registra o que as pessoas produzem. Qualquer proposta séria precisa responder a isso, e a maioria não responde.

O que realmente ajuda enquanto isso

Três hábitos, em ordem decrescente de utilidade.

Procure o original. Quase todo vídeo sintético viral é um reupload. Se a ocorrência mais antiga que você encontrar for uma conta sem histórico, isso é informação.

Procure as falhas entediantes. Água de enchente gerada costuma interagir com objetos de um jeito levemente errado: detritos que não desaceleram, água que não molha. Nem sempre. Não de forma confiável. Mas é mais barato que um modelo de detecção.

Pergunte a quem interessa. Um vídeo que te faz sentir algo forte em quatro segundos e não tem fonte identificável não é prova. É um humor com extensão de arquivo.

Por que as ferramentas de detecção não fecham a lacuna

O impulso razoável é dizer: então vamos construir detectores melhores. Existem vários, e funcionam razoavelmente bem na saída bruta do modelo.

O problema é o caminho entre a geração e a visualização. Um vídeo sintético é recodificado três vezes antes de você vê-lo: no upload, no transcodificador da plataforma e de novo quando alguém grava a tela para repostar em outro lugar. Cada passagem remove ou corrompe as impressões estatísticas que os detectores procuram. O vídeo que chega até você é um derivado comprimido, cortado e com cor deslocada daquilo que um detector poderia ter identificado.

Depois vem a assimetria dos erros. Um detector que marca 5 por cento do material real como sintético é, numa redação, inaceitável: você não pode dizer a uma testemunha que o vídeo dela é falso porque um modelo disse. Um detector que perde 5 por cento dos falsos também é inaceitável. Não existe limiar que satisfaça os dois, e o custo de um falso positivo recai sobre uma pessoa, não sobre uma plataforma.

Então as ferramentas acabam num papel estreito: triagem. Elas dizem a uma mesa de verificação onde olhar primeiro. Não respondem à pergunta que um espectador tem, que é se deve sentir alguma coisa.

O incentivo da plataforma, dito sem rodeios

Vale olhar sem sentimentalismo para o motivo de a rotulagem não ter chegado.

Uma plataforma que rotula um vídeo como sintético assume uma responsabilidade que não tinha antes. Se o rótulo estiver errado num vídeo real, ela difamou uma testemunha. Se faltar num falso, ela enganou uma audiência. De qualquer forma, a plataforma aceitou a responsabilidade por um julgamento que hoje não precisa fazer. Não rotular é de graça.

A conta é toda essa, e explica por que a indústria passou anos produzindo estruturas voluntárias e quase nenhum rótulo padrão. A abordagem da UE — obrigações de marcação legível por máquina sob o AI Act — é a única tentativa regulatória de mudar o padrão, e sua eficácia dependerá inteiramente de a marcação sobreviver ao caminho de transcodificação descrito acima. As evidências iniciais não são animadoras.

Então o macaco. Um animal gerado, uma enchente real em algum lugar, um espectador com um celular, e ninguém na cadeia cujo trabalho fosse dizer o que aquilo era.

O que leva de volta ao hábito mais barato, aquele que ninguém quer ouvir porque o humor é justamente o ponto: pergunte a quem interessa que você sinta isso em quatro segundos. O macaco não salvou o cachorro. As lágrimas eram reais. As duas coisas podem ser verdade ao mesmo tempo, e a lacuna entre elas é onde vive todo esse problema.