Le singe n'a pas sauvé le chien. Les larmes étaient réelles

Le 7 octobre, une vidéo est montée à la vingtième place du classement tech de Weibo. On y voyait un singe, dans une eau de crue, tirer un chien vers un endroit sûr. Tous les ingrédients d'un succès étaient réunis : une catastrophe, un geste de sollicitude entre espèces, un instinct qui fait ce qui est moralement juste sans qu'on le lui demande. Les gens l'ont partagée et ont pleuré. Puis il a été confirmé qu'elle était générée.

Ce qui est intéressant, ce n'est pas qu'elle soit fausse. C'est l'ordre dans lequel le public l'a traitée : ému d'abord, soupçonneux ensuite, vérifié enfin. Cette séquence est désormais si fiable qu'on pourrait presque régler sa montre dessus.

Pourquoi l'ordre ne change jamais

Parce qu'aucun maillon de la chaîne n'exige de preuve au moment de la publication.

Une rédaction a des règles éditoriales, une signature, un service juridique. Une personne qui poste une vidéo sur une plateforme de formats courts n'a rien de tout cela. Le réglage par défaut de la plateforme est généreux : un contenu est tenu pour authentique tant que personne ne le signale. Le seul test dont dispose le public, c'est « est-ce que ça a l'air vrai », et avoir l'air vrai est précisément ce que la vidéo générative sait le mieux faire aujourd'hui.

De la fourrure mouillée. La forme particulière d'une éclaboussure. La façon dont le corps d'un chien apeuré se tord. Ce ne sont pas des détails accessoires. Ce sont exactement les traits que l'empathie humaine lit comme des preuves. Un modèle entraîné à produire des images convaincantes est, fonctionnellement, un modèle entraîné à produire les indices qui font croire aux images.

Voilà l'asymétrie. La vérification est lente, conflictuelle et ennuyeuse. L'émotion est rapide, sociale et gratifiante. Le format qui gagne est celui qui optimise la seconde sans rien facturer pour avoir sauté la première.

L'échantillon de ce mois-ci est inhabituellement riche

Le singe n'était pas un cas isolé. Durant les mêmes semaines :

Une vidéo montrant un avion de ligne qui part en toupie sous une pluie battante a circulé sur des plateformes étrangères. Lead Stories en a retrouvé l'origine et des outils de détection l'ont identifiée comme générée. Un clip de touristes nourrissant un ours à Kanas, au Xinjiang, a été confirmé comme synthétique. Une capture d'écran d'une prétendue « notification de rectification » interne du site de comparaison automobile Dongchedi s'est révélée fabriquée.

Et dans un registre tout différent : le chatbot du service client de la plateforme de billetterie Taopiaopiao a insulté un utilisateur. La réponse de l'entreprise : elle ne savait pas quel grand modèle de langage avait été utilisé.

Mis bout à bout, un schéma apparaît. Un cas est une fabrication malveillante, un autre un déploiement négligent, un troisième une capture d'écran que n'importe qui possédant un éditeur d'images pourrait produire. Ils partagent un même défaut : quand quelque chose tourne mal, il n'y a aucune partie identifiable qui ait produit le contenu. Ni le fournisseur du modèle, ni la plateforme, ni le compte.

Le coût retombe sur la prochaine vraie vidéo

Voici ce qui, à mon sens, est sous-estimé dans ces discussions.

Le dommage causé par une fausse vidéo de sauvetage n'est pas qu'une personne ait eu de la peine pour un singe qui n'existait pas. C'est que la prochaine vraie vidéo de sauvetage — et il y en aura une, à la prochaine saison des crues, filmée par quelqu'un avec un téléphone et aucune formation journalistique — arrive déjà discréditée. La première réaction du public a été dressée à être « c'est probablement de l'IA ».

C'est une taxe sur l'authenticité, et elle est régressive. Les grands médias peuvent se payer des cellules de vérification. Une personne ordinaire qui filme un événement réel ne le peut pas. Chaque faux qui devient viral rend le témoin honnête moins crédible, et le témoin honnête est celui qui a le moins de moyens de prouver quoi que ce soit.

Nous avons déjà mené cette expérience avec la photographie. Les cellules de vérification de Reuters et de l'AFP, les réflexes de recherche d'image inversée, la sagesse populaire du « regardez les mains » : tout cela est sorti d'une décennie de trucage photo. Il a fallu des années, et cela ne fonctionne toujours pas de manière fiable. La vidéo est plus difficile, parce qu'elle porte une affirmation implicite de continuité : ceci a eu lieu, dans cet ordre, sur cette durée. Générer cette affirmation est devenu bon marché. L'auditer ne l'est pas.

Un emplacement de signature, peu glamour et sans doute nécessaire

La proposition qui revient sans cesse dans les commentaires tech chinois est simple : trois emplacements de signature.

Côté génération : quel modèle a produit ceci, déclaré à l'export. Côté publication : qui se porte garant, et sur quelle base. Côté plateforme : ce qui a été détecté, et ce qui a été fait. Si l'un des trois manque, l'élément reçoit par défaut une étiquette visible « synthétique présumé ».

Rien de tout cela n'est techniquement difficile. Les manifestes C2PA et des dispositifs de filigrane comme SynthID existent déjà ; le difficile, c'est l'adoption, parce que les parties qui profitent le plus de l'ambiguïté sont celles qui devraient signer.

Et il existe une objection sérieuse : des métadonnées de provenance obligatoires sont aussi une surface de surveillance. Un système qui enregistre quel modèle a produit chaque image, lié à un compte, est un système qui enregistre ce que les gens fabriquent. Toute proposition sérieuse doit répondre à cela, et la plupart ne le font pas.

Ce qui aide vraiment en attendant

Trois habitudes, par ordre d'utilité décroissante.

Cherchez l'original. Presque toutes les vidéos synthétiques virales sont des réuploads. Si l'occurrence la plus ancienne que vous trouvez est un compte sans historique, c'est une information.

Cherchez les ratés ennuyeux. Une eau de crue générée interagit souvent avec les objets de manière légèrement fausse : des débris qui ne ralentissent pas, une eau qui ne mouille pas. Pas toujours. Pas de façon fiable. Mais c'est moins cher qu'un modèle de détection.

Demandez à qui profite la chose. Une vidéo qui vous fait ressentir quelque chose de fort en quatre secondes et n'a aucune source identifiable n'est pas une preuve. C'est une humeur avec une extension de fichier.

Pourquoi les outils de détection ne comblent pas l'écart

L'instinct raisonnable consiste à dire : très bien, faisons de meilleurs détecteurs. Il en existe plusieurs, et ils fonctionnent raisonnablement bien sur la sortie brute d'un modèle.

Le problème, c'est la chaîne entre la génération et le visionnage. Une vidéo synthétique est réencodée trois fois avant que vous ne la voyiez : au téléversement, dans le transcodeur de la plateforme, puis quand quelqu'un l'enregistre à l'écran pour la republier ailleurs. Chaque passage retire ou corrompt les empreintes statistiques que cherchent les détecteurs. La vidéo qui vous parvient est un dérivé compressé, recadré et décalé en couleur de ce qu'un détecteur aurait pu identifier.

Il y a ensuite l'asymétrie des erreurs. Un détecteur qui signale 5 pour cent de séquences réelles comme synthétiques est, dans une rédaction, inacceptable : on ne peut pas dire à un témoin que sa vidéo est fausse parce qu'un modèle l'a dit. Un détecteur qui manque 5 pour cent des faux est également inacceptable. Il n'existe pas de seuil qui satisfasse les deux, et le coût d'un faux positif retombe sur une personne, pas sur une plateforme.

Les outils finissent donc dans un rôle étroit : le tri. Ils indiquent à une cellule de vérification où regarder d'abord. Ils ne répondent pas à la question que se pose un spectateur, qui est de savoir s'il doit ressentir quelque chose.

L'incitation des plateformes, dite franchement

Il vaut la peine d'examiner sans sentimentalisme pourquoi l'étiquetage n'est pas arrivé.

Une plateforme qui étiquette une vidéo comme synthétique assume une responsabilité qu'elle n'avait pas auparavant. Si l'étiquette est fausse sur une vraie vidéo, elle a diffamé un témoin. Si elle manque sur un faux, elle a induit le public en erreur. Dans les deux cas, la plateforme a accepté la responsabilité d'un jugement qu'elle n'a pas, aujourd'hui, à porter. Ne pas étiqueter est gratuit.

Tout le calcul est là, et cela explique pourquoi l'industrie a passé des années à produire des cadres volontaires et presque aucune étiquette par défaut. L'approche de l'UE — des obligations de marquage lisible par machine au titre de l'AI Act — est la seule tentative réglementaire de changer le défaut, et son efficacité dépendra entièrement de la survie du marquage à la chaîne de transcodage décrite plus haut. Les premières preuves ne sont pas encourageantes.

Revenons au singe. Un animal généré, une vraie crue quelque part, un spectateur avec un téléphone, et personne dans la chaîne dont le métier était de dire ce que c'était.

Ce qui ramène à l'habitude la moins chère, celle que personne ne veut entendre parce que l'humeur est justement le but : demandez à qui profite le fait que vous ressentiez cela en quatre secondes. Le singe n'a pas sauvé le chien. Les larmes étaient réelles. Les deux peuvent être vrais en même temps, et l'écart entre les deux est l'endroit où vit tout ce problème.