Peut-on encore distinguer une image IA d'une vraie photo ? La course aux armements de la détection devient inconfortable

Un petit jeu web intitulé « Pouvez-vous dire quelles images sont générées par IA ? » a atteint la page d'accueil de Hacker News ce mois-ci avec 112 points et 85 commentaires. Le principe est simple : on vous montre un flux d'images et vous devinez si elles sont réelles ou générées. Les commentaires convergeaient vers la même confession. Les personnes qui travaillent avec des images pour vivre obtenaient à peine mieux que le hasard.

Quelques jours plus tard, un autre fil HN présentait Pangram, une startup qui vend de la détection d'IA pour le texte et les images, avec une discussion de 27 commentaires pour savoir si la détection peut fonctionner tout court. Entre les deux fils se trouve l'état inconfortable du domaine : distinguer les images générées des vraies devient plus difficile plus vite que la détection ne s'améliore.

Pourquoi vos yeux continuent de perdre

Les indices qui fonctionnaient ont disparu ou presque. Mains brouillées, texte fondu, éclairage incohérent, peau cireuse : chaque correction a été livrée dans les générations successives de modèles. Le rendu du texte, longtemps l'indice fiable, est désormais un problème résolu dans les principaux modèles, ce qui explique en partie pourquoi les benchmarks d'images ont commencé à lui accorder autant de poids. Ce qui reste est un écart plus subtil. Les images générées sont souvent légèrement trop cohérentes, les textures un peu trop uniformes, les arrière-plans un peu trop accommodants. Les humains perçoivent l'ambiance et ne savent pas l'articuler, ce qui explique précisément pourquoi un jeu de devinettes met tout le monde mal à l'aise.

La question Loki illustre le propos sur un autre registre. Un post sur r/StableDiffusion demandait comment les gens produisent des images IA qui préservent avec autant de précision l'apparence d'un acteur spécifique à travers de nouvelles tenues et scènes. La réponse, de la part de ceux qui le font, est la génération par référence et les adaptateurs affinés, dont aucun ne nécessite encore d'outillage exotique. Des ressemblances qui auraient pris des années à un studio de VFX se réalisent maintenant en un après-midi, et la personne qui posait la question ne pouvait pas dire lesquelles des images inondant son fil étaient des sorties de modèle.

La détection comme produit, la détection comme politique

L'argument de Pangram est que la détection est réalisable lorsqu'on entraîne les détecteurs aussi agressivement que les générateurs. La discussion HN a objecté avec les objections classiques et largement correctes : les détecteurs généralisent mal aux modèles inédits, ils produisent des faux positifs qui nuisent aux vrais photographes, et tout détecteur publié devient une cible que la prochaine version de modèle défait silencieusement. Il existe aussi l'approche par provenance, les content credentials de type C2PA, qui contourne la détection en demandant aux appareils photo et aux générateurs de signer leurs sorties. Cela aide quand tout le monde coopère. Cela ne fait rien pour l'image que quelqu'un a réencodée et dépouillée.

La politique avance de toute façon. Les restaurants utilisant de la photographie culinaire par IA sont devenus un petit sujet d'actualité ce mois-ci via un article du Wall Street Journal, et la réaction négative portait moins sur la tromperie dans l'abstrait que sur la trahison spécifique : le burger que vous commandez devrait ressembler au burger de la publicité. C'est un mécanisme de détection sociale, une confiance issue de la foule, et il est plus strict que n'importe quel classifieur.

Ce dont les fils HN ont réellement débattu

Les deux discussions Hacker News ont bien divisé le problème. Le fil sur le jeu était surtout composé de gens rapportant leurs scores et échangeant des astuces, et ces astuces constituent une bonne archive fossile de ce qui fonctionnait : regardez les mains, vérifiez le texte, inspectez les reflets, comptez les doigts des piétons en arrière-plan. Presque toutes ces vérifications renvoient désormais des faux négatifs sur les modèles actuels. Le rendu du texte en particulier a cessé d'être un indice fiable une fois que les principaux modèles en ont fait une priorité de benchmark ; une devanture générée avec une signalétique lisible était une nouveauté il y a deux ans et est un comportement par défaut aujourd'hui.

Le fil Pangram était plus sceptique. Les objections dans les commentaires étaient les classiques, et elles tiennent : les détecteurs entraînés sur les générateurs d'hier ratent ceux de demain, les faux positifs frappent le plus durement les vrais photographes dont le travail est signalé comme synthétique, et la publication d'un détecteur est une invitation ouverte pour que le prochain modèle soit entraîné contre lui. Un commentaire a rendu l'asymétrie concrète : un générateur n'a besoin que de tromper les détecteurs qui existent, tandis qu'un détecteur doit attraper tous les générateurs, y compris ceux pas encore publiés. C'est une course perdue par construction, ce qui explique pourquoi les produits commerciaux de détection se vendent surtout à des institutions ayant des obligations de modération plutôt qu'à des particuliers curieux à propos d'une image suspecte.

La provenance, l'alternative ennuyeuse

L'alternative qui revient sans cesse est celle des content credentials : des métadonnées signées cryptographiquement, de type C2PA, attachées à la capture ou à la génération. Les appareils photo signent ce que le capteur a vu. Les générateurs signent ce que le modèle a produit. Les outils d'édition préservent ou annotent la chaîne. Rien de tout cela n'exige de détecter quoi que ce soit, ce qui est sa principale vertu, puisque la détection est une course aux armements permanente et que la signature est une norme de plomberie.

Les faiblesses sont tout aussi structurelles. La signature est volontaire, les métadonnées disparaissent avec les captures d'écran et les réencodages, et la chaîne prouve seulement d'où vient une image, jamais si l'original était honnête. Une image IA signée reste une image IA. Mais à mesure que les plateformes commencent à afficher les credentials, la présence d'une chaîne propre devient un signal de confiance à la manière de HTTPS, et son absence commence à se lire comme une question à laquelle l'image ne peut pas répondre.

La couche sociale est plus stricte que la couche technique

Entre la détection et la provenance se trouve le mécanisme qui a réellement fait le travail ce mois-ci : les foules. L'histoire du restaurant s'est répandue parce que les clients ont reconnu l'écart entre la nourriture photographiée et celle servie, pas parce qu'un classifieur l'a signalée. Les images de grands-parents boomers et de leurs petits-enfants sont devenues un sujet parce que des parents dans la conversation de groupe ont dit non. Les images Loki ont poussé un subreddit à demander comment elles avaient été faites, et il a obtenu une réponse en un jour. Les communautés détectent comme les détecteurs ne peuvent pas le faire, en connaissant le contexte.

Cela suggère une division du travail à prendre au sérieux. Les machines sont bonnes pour le filtrage à grande échelle, en signalant les envois en masse pour examen humain. Les humains sont bons pour le contexte, en repérant que le burger de la publicité n'a pas de miettes parce qu'aucun burger n'en a. La provenance est bonne à la source, là où se trouvent les acteurs honnêtes. Aucune couche unique ne rattrape tout, ce qui explique précisément pourquoi le jeu qui a embarrassé tout le monde reste un étalonnage utile plutôt qu'un verdict.

Ce que cela signifie pour ceux qui publient des images

Si vous publiez ou commandez des images, trois habitudes découlent de l'état actuel. Premièrement, étiqueter le contenu généré devient un atout de confiance plutôt qu'un aveu. Les créateurs qui divulguent, et il existe une fracture visible dans les fils r/StableDiffusion sur la manière de gérer les commentaires anti-IA, se bâtissent des audiences qui restent lorsque la divulgation a lieu d'emblée. Deuxièmement, les métadonnées de provenance sont peu coûteuses à conserver et parfois décisives ; les plateformes commencent à les afficher, et le coût de leur préservation est un réglage à basculer. Troisièmement, pour tout ce où l'image avance une affirmation factuelle (actualités, produits, preuves), partez du principe que votre audience dispose d'un détecteur qui joue à pile ou face et d'un outil de capture d'écran. La seule défense durable est d'être honnête sur ce qu'est l'image.

Le jeu qui a embarrassé tout le monde vaut quand même la peine d'être essayé. Dix minutes face à un jeu d'images réelles et générées mélangées recalibrent votre confiance dans une direction utile. Les images sur lesquelles vous échouez n'étaient pas des défaillances d'attention. Elles sont la nouvelle base de référence, et cette base de référence évolue chaque mois.