Peut-on encore distinguer une image générée par IA d’une image réelle ? La réponse honnête est non.

Il y a un jeu qui circule ce mois-ci et qui transforme une question sérieuse en tableau de scores. Il vous montre un flux d’images et vous demande de signaler celles qui sont générées par IA. Les gens y jouent convaincus d’avoir l’œil, puis voient leur précision s’effondrer à peu près au moment où l’IA commence à rendre correctement des mains humaines réalistes. Cela fait des années que ce n’est plus un indice fiable. Le jeu a récolté plus d’une centaine de points sur Hacker News, et les commentaires ressemblent à un groupe de soutien pour personnes découvrant leur propre cécité.

Les indices ont disparu

Tous les raccourcis sur lesquels les gens s’appuyaient se sont refermés. Doigts en trop, texte déformé, peau plastique, éclairage impossible. Les modèles actuels gèrent tout cela suffisamment bien pour qu’on ne puisse plus se fier à un seul de ces signes. Le texte en particulier s’est amélioré de façon spectaculaire, ce qui a éliminé l’un des derniers avantages faciles pour la détection humaine. Un modèle qui affichait un panneau lisible dans une scène était autrefois un indice infaillible. Aujourd’hui, c’est la base.

Le résultat est une situation étrange. Les images se sont améliorées, mais la capacité humaine à les repérer, non. La plupart des gens, face à une bonne image IA et à une vraie photo côte à côte, devinent. La popularité du jeu en est une preuve partielle : il est amusant précisément parce qu’on se trompe sans cesse, et c’est bien là l’intérêt. La confiance est élevée et la précision tourne autour d’un pile ou face.

Les détecteurs ne nous sauvent pas non plus

Il existe un marché parallèle des outils de détection d’IA, et il est tout aussi fragile. De nouveaux outils sont lancés en prétendant repérer les images IA ; ils fonctionnent en laboratoire et échouent en conditions réelles. Un détecteur réglé sur les artefacts d’un modèle a du mal avec ceux du modèle suivant. Compressez une image, redimensionnez-la ou faites-la passer par le réencodage d’une plateforme sociale, et les empreintes subtiles sur lesquelles le détecteur s’appuyait sont effacées.

Pire, les détecteurs produisent des faux positifs. Une vraie photo avec un certain éclairage ou un filtre lourd peut les déclencher. Pour un outil censé restaurer la confiance dans les images, un faux positif est un problème sérieux, car il permet à n’importe qui d’écarter une photo authentique comme fausse. Autrement dit, les outils de détection peuvent être utilisés comme des armes dans les deux sens. Ce n’est pas un défaut que davantage d’entraînement corrige. C’est structurel.

La course aux armements n’a qu’un seul gagnant

Il y a ici une asymétrie fondamentale que les gens continuent de sous-estimer. Les générateurs cherchent à produire des images qui paraissent réelles, et ils ont un objectif clair. Les détecteurs cherchent à les repérer, et ils poursuivent une cible mouvante qui ne cesse de s’améliorer. Dans une course aux armements, le camp qui a un objectif clair et une boucle d’itération rapide gagne généralement, et ce camp, ce sont les générateurs.

Chaque nouveau modèle force les détecteurs à se réentraîner, et le temps qu’ils rattrapent leur retard, le modèle suivant est déjà sorti. L’écart ne se referme pas. Il se creuse, et il se creuse à chaque sortie. Les vendeurs d’outils de détection ont intérêt à paraître optimistes, mais la tendance réelle ne joue pas en leur faveur. En réalité, la position honnête est que la détection fiable est une bataille perdue d’avance, et plus vite nous l’accepterons, plus vite nous pourrons travailler sur ce qui aide réellement.

Ce que cela signifie en pratique

La réponse honnête à « pouvez-vous faire la différence ? » est : pas de manière fiable, et de plus en plus, non. La question plus utile est de savoir comment vivre avec cela. La vérification doit remonter en amont, vers la provenance. Si une image est signée à sa création, ou porte un enregistrement de son origine et de la manière dont elle a été modifiée, alors vous n’avez pas besoin de plisser les yeux devant les pixels. Vous vérifiez les métadonnées.

Cette infrastructure existe à peine pour les utilisateurs ordinaires. Certains fabricants d’appareils photo et plateformes expérimentent les Content Credentials, mais ce n’est pas standard, et dès qu’une image fait l’objet d’une capture d’écran, la chaîne se rompt. Tant que cela ne change pas, la réaction par défaut est le scepticisme, et le scepticisme est épuisant. Il est aussi corrosif, et c’est la partie que nous commençons seulement à ressentir.

Le coût social est la vraie histoire

Le dommage ne vient pas vraiment du fait d’être trompé par une fausse image. Il vient de l’effondrement d’une confiance partagée. Quand n’importe quelle photo peut être fabriquée, et que les outils de détection ne sont pas fiables, les gens commencent à douter de tout, y compris des preuves réelles. C’est un problème plus lourd que n’importe quelle image individuelle, et c’est celui que la technologie n’a pas résolu.

C’est la partie que la conversation technique ne cesse de manquer. Les personnes inquiètes des images IA ne craignent pas surtout d’être trompées par un filtre amusant. Elles craignent un monde où une photographie réelle d’un événement réel peut être écartée comme fausse, et où une fausse peut être défendue comme réelle. Quand la preuve elle-même est mise en doute, les arguments qui reposent sur des preuves cessent de fonctionner. Ce n’est pas un problème de détecteur. C’est un problème de confiance, et il est plus grand que n’importe lequel des outils des deux côtés.

La responsabilité se déplace, et personne n’en veut

L’un des ressorts discrets, c’est que la responsabilité ne cesse d’être renvoyée sans jamais se poser nulle part. Les fabricants de modèles disent qu’ils ne font que fournir un outil. Les plateformes disent qu’elles ne peuvent pas vérifier chaque image. Les utilisateurs disent qu’ils ne devraient pas avoir à être des experts en analyse forensique. Tout le monde a techniquement raison, et le résultat est que personne n’est responsable du préjudice quand une fausse image fait des dégâts.

Cette diffusion de la responsabilité est le vrai problème. Quand une image manipulée se répand et cause un préjudice, le préjudice est réel, mais il n’y a aucun acteur unique dont le rôle était de l’intercepter. Le fabricant du modèle a livré un outil performant, la plateforme l’a hébergé, et l’utilisateur y a cru. Chaque maillon de la chaîne peut pointer vers le suivant et affirmer qu’il n’a rien fait de mal.

Tant que la responsabilité ne se pose pas quelque part de concret, la réponse par défaut sera de blâmer l’outil ou de blâmer le spectateur, et ni l’un ni l’autre ne fonctionne. Blâmer l’outil, c’est comme blâmer un appareil photo pour une photo mise en scène. Blâmer le spectateur ignore qu’aucun humain ne peut plus faire la différence de manière fiable. La solution honnête est structurelle : des règles claires sur la divulgation et la provenance qui lient les personnes qui publient et distribuent les images, pas celles qui les regardent.

Ce qui vient réellement ensuite

Les générateurs d’images ont gagné la course aux armements. Ils sont devenus si bons que la question « est-ce réel ? » n’a plus de réponse rapide. Le prochain problème à résoudre n’est pas de fabriquer de meilleurs détecteurs. C’est de construire un système où la vérité d’une image ne dépend pas de ce que votre œil parvient ou non à repérer. Provenance, contenu signé, chaînes de traçabilité vérifiables. Tout cela est ennuyeux, et c’est la seule chose qui fonctionnera réellement. L’œil a perdu, et prétendre le contraire ne fait que donner à tout le monde un faux sentiment de sécurité.