Você ainda consegue distinguir uma imagem de IA de uma real? A resposta honesta é não.

Há um jogo circulando neste mês que transforma uma pergunta séria em um placar. Ele mostra uma sequência de imagens e pede que você marque quais foram geradas por IA. As pessoas jogam convencidas de que têm bom olho, e então veem sua precisão desabar mais ou menos no ponto em que a IA começa a renderizar mãos humanas realistas corretamente. Já faz anos que isso deixou de ser um indício confiável. O jogo rendeu mais de cem pontos no Hacker News, e os comentários parecem um grupo de apoio para pessoas que descobrem a própria cegueira.

Os sinais reveladores sumiram

Todos os atalhos em que as pessoas costumavam confiar se fecharam. Dedos extras, texto distorcido, pele de plástico, iluminação impossível. Os modelos atuais lidam com todos eles bem o suficiente para que você não possa confiar em nenhum deles isoladamente. O texto, em particular, melhorou drasticamente, o que eliminou uma das últimas vitórias fáceis para a detecção humana. Um modelo que renderizava uma placa legível dentro de uma cena costumava ser um sinal infalível. Agora é o mínimo esperado.

O resultado é uma situação estranha. As imagens melhoraram, mas a capacidade humana de identificá-las não. A maioria das pessoas, diante de uma boa imagem de IA e de uma foto real lado a lado, está chutando. A popularidade do jogo é, em parte, prova disso: ele é divertido justamente porque você erra o tempo todo, e o erro é o objetivo. A confiança é alta e a precisão fica em torno de um cara ou coroa.

Os detectores também não estão nos salvando

Existe um mercado paralelo de ferramentas de detecção de IA, e ele é igualmente instável. Novas ferramentas são lançadas alegando identificar imagens de IA, e funcionam no laboratório e falham no mundo real. Um detector ajustado para os artefatos de um modelo tem dificuldade com os do próximo. Comprima uma imagem, redimensione-a ou passe-a pela recodificação de uma rede social, e as impressões digitais sutis nas quais o detector se baseava são apagadas.

Pior, os detectores produzem falsos positivos. Uma foto real com determinada iluminação ou um filtro pesado pode fazê-los disparar. Para uma ferramenta que deveria restaurar a confiança nas imagens, um falso positivo é um problema sério, porque permite que qualquer pessoa descarte uma foto genuína como falsa. As ferramentas de detecção, em outras palavras, podem ser usadas como arma nos dois sentidos. Isso não é uma falha que mais treinamento corrige. É estrutural.

A corrida armamentista só tem um vencedor

Há uma assimetria fundamental aqui que as pessoas continuam subestimando. Os geradores tentam produzir imagens que pareçam reais, e têm um objetivo claro. Os detectores tentam identificá-las, e perseguem um alvo móvel que não para de melhorar. Em uma corrida armamentista, o lado com um objetivo claro e um ciclo de iteração rápido geralmente vence, e esse lado são os geradores.

Cada novo modelo obriga os detectores a serem retreinados e, quando eles alcançam o modelo atual, o próximo já foi lançado. A lacuna não está se fechando. Está aumentando, e aumenta a cada lançamento. As pessoas que vendem ferramentas de detecção têm incentivo para parecer otimistas, mas a linha de tendência real não está do lado delas. Na verdade, a posição honesta é que a detecção confiável é um jogo perdido, e quanto mais cedo aceitarmos isso, mais cedo poderemos trabalhar naquilo que realmente ajuda.

O que isso significa na prática

A resposta honesta para "você consegue perceber?" é: não de forma confiável e, cada vez mais, não. A pergunta mais útil é como conviver com isso. A verificação precisa ir mais a montante, para a proveniência. Se uma imagem for assinada na criação, ou carregar um registro de onde veio e de como foi editada, então você não precisa forçar a vista nos pixels. Você verifica os metadados.

Essa infraestrutura quase não existe para usuários comuns. Alguns fabricantes de câmeras e plataformas estão experimentando com credenciais de conteúdo, mas isso não é padrão, e no momento em que uma imagem é capturada em uma captura de tela, a corrente se rompe. Até que isso mude, o padrão é o ceticismo, e o ceticismo é exaustivo. Ele também é corrosivo, e essa é a parte que estamos apenas começando a sentir.

O custo social é a verdadeira história

O dano não está realmente em ser enganado por uma imagem falsa. Está no colapso da confiança compartilhada. Quando qualquer foto pode ser fabricada, e as ferramentas de detecção são pouco confiáveis, as pessoas começam a duvidar de tudo, inclusive de evidências reais. Esse é um problema mais pesado do que qualquer imagem individual, e é o que a tecnologia não resolveu.

Essa é a parte que a conversa técnica continua ignorando. As pessoas preocupadas com imagens de IA não estão, em sua maioria, preocupadas em serem enganadas por um filtro divertido. Elas estão preocupadas com um mundo em que uma fotografia real de um evento real pode ser descartada como falsa, e uma falsa pode ser defendida como real. Quando a própria evidência está em dúvida, os argumentos que dependem de evidência deixam de funcionar. Isso não é um problema de detector. É um problema de confiança, e é maior do que qualquer uma das ferramentas de ambos os lados.

A responsabilidade está mudando de lugar, e ninguém a quer

Uma das subtramas mais discretas é que a responsabilidade vive sendo empurrada de um lado para o outro sem parar em lugar nenhum. Os criadores dos modelos dizem que estão apenas fornecendo uma ferramenta. As plataformas dizem que não podem verificar cada imagem. Os usuários dizem que não deveriam ter de ser analistas forenses. Todos estão tecnicamente certos, e o resultado é que ninguém é responsabilizado pelo dano quando uma imagem falsa causa prejuízo.

Essa difusão de responsabilidade é o problema real. Quando uma imagem manipulada se espalha e causa dano, o dano é real, mas não há um único ator cujo trabalho fosse detectá-la. O criador do modelo lançou uma ferramenta capaz, a plataforma a hospedou, e o usuário acreditou nela. Cada elo da corrente pode apontar para o próximo e alegar que não fez nada de errado.

Até que a responsabilidade recaia em algum lugar concreto, a resposta padrão será culpar a ferramenta ou culpar quem vê, e nenhuma das duas funciona. Culpar a ferramenta é como culpar uma câmera por uma foto encenada. Culpar quem vê ignora que nenhum humano consegue mais distinguir de forma confiável. A solução honesta é estrutural: regras claras sobre divulgação e proveniência que vinculem as pessoas que publicam e distribuem imagens, não as que olham para elas.

O que realmente vem a seguir

Os geradores de imagens venceram a corrida armamentista. Ficaram tão bons que a pergunta "isso é real" não tem mais uma resposta rápida. O próximo problema a resolver não é criar detectores melhores. É construir um sistema em que a veracidade de uma imagem não dependa de o seu olho, por acaso, conseguir identificá-la. Proveniência, conteúdo assinado, cadeias de custódia verificáveis. Isso é entediante, e é a única coisa que realmente funcionará. O olho perdeu, e fingir o contrário só dá a todos uma falsa sensação de segurança.