Les contenus générés par IA doivent désormais dévoiler leur identité

Depuis le 1er octobre, les contenus générés par IA doivent porter un label lorsqu'ils circulent en Chine. Les « Mesures d'identification des contenus générés ou synthétisés par intelligence artificielle », publiées conjointement par l'Administration du cyberespace de Chine, le ministère de l'Industrie et des Technologies de l'information, le ministère de la Sécurité publique et l'Administration nationale de la radio et de la télévision, sont entrées en vigueur ce jour-là : textes, images, audio, vidéos et scènes virtuelles, toute information générée ou synthétisée au moyen de l'intelligence artificielle doit être accompagnée d'un identifiant.

Le premier changement perceptible par les utilisateurs ordinaires vient de quelques applications bien connues. WeChat, Video Accounts, Douyin, Bilibili, Weibo et Xiaohongshu ont mis à jour leurs conditions d'utilisation avant et après l'entrée en vigueur des mesures, exigeant des diffuseurs qu'ils identifient activement, de manière bien visible, les contenus générés par IA. Les conséquences en cas d'absence de label sont écrites noir sur blanc : limitation de la portée, retrait, et dans les cas graves, fermeture du compte. Une plateforme de vidéos courtes ajoute une ligne en petits caractères au bas de l'image lorsque l'utilisateur tombe sur des contenus du type « enfant mignon qui lave des légumes et fait le feu », indiquant que le contenu est réalisé avec la technologie IA et que, s'agissant de contenu fictif, il convient de vérifier avec prudence. Quelqu'un a partagé une capture d'écran de cette phrase, disant que les aînés de sa famille avaient enfin compris que ces enfants étaient faux.

Deux marquages, l'un pour les humains, l'autre pour les machines

Les mesures répartissent l'identification en deux catégories : explicite et implicite. Le marquage explicite est celui que l'utilisateur perçoit clairement, comme un coin d'image, un message d'avertissement avant la lecture ou une déclaration vocale au début d'un fichier audio. Le marquage implicite est intégré dans les métadonnées du fichier : invisible à l'œil nu, il peut être lu par les plateformes et les autorités de régulation à l'aide d'outils, afin de répondre à des questions du type « qui a généré ce contenu, et à partir de quel service ».

La responsabilité est répartie par maillon. Les fournisseurs de services doivent garantir l'intégrité du marquage aux étapes de la génération, de la diffusion et du téléchargement du contenu ; les plateformes de distribution d'applications doivent vérifier que les applications mises en ligne disposent bien d'une fonction permettant d'ajouter le marquage ; les utilisateurs individuels doivent déclarer activement les contenus générés qu'ils publient. Cette chaîne déplace la modération des contenus, qui ne pouvait auparavant intervenir qu'après coup, vers la conception du produit et la mise en ligne.

Pour les comptes marketing qui vivent de la reprise et du recopiage de contenus, le marquage implicite constitue une contrainte forte. Auparavant, il suffisait de changer la couverture et les couleurs d'une vidéo d'autrui pour la publier comme sa propre création ; désormais, les métadonnées peuvent encore contenir des informations sur la source, et la plateforme peut remonter jusqu'au fournisseur de services initial pour vérifier s'il a rempli son obligation de marquage.

Pourquoi légiférer spécifiquement sur cette question

Le marquage semble anodin, mais il résout la partie la plus délicate des contenus IA : l'identification à grande échelle. Xiao Youdan, chercheur à l'Institut de conseil stratégique en science et technologie de l'Académie chinoise des sciences, a souligné dans une analyse que l'objectif principal du système de marquage est de parvenir à une supervision à grande échelle, hautement fiable et à faible coût. La modération de contenu ne peut pas être assurée par des yeux humains, et le jugement par modèle risque facilement de faire des faux positifs ; l'étiquette, elle, est un signal automatiquement vérifiable et peu coûteux.

Elle vise aussi un autre scénario : la fraude. L'application du Centre national anti-fraude a lancé une fonction « Identification de contenu IA » : téléversez un texte, une image ou une vidéo et obtenez en quelques secondes une première évaluation. L'application « National Anti-Fraud AI », développée par le bureau de la sécurité publique de Shanghai sous la direction du bureau d'enquête criminelle du ministère de la Sécurité publique, est également en ligne : saisissez une situation suspecte et elle décompose les procédés de fraude courants. Le trucage de visage et la synthèse vocale se multiplient depuis deux ans dans la fraude téléphonique et en ligne ; ajouter un marquage aux contenus IA, c'est dresser un obstacle supplémentaire sur cette chaîne.

Les mesures de marquage ne sont pas un acte isolé. La Cour suprême populaire a publié des « Avis sur le jugement des litiges liés à l'intelligence artificielle », intégrant à la réflexion juridique des questions comme le trucage de visage et la synthèse vocale par IA, la responsabilité pour hallucinations de l'IA ou la divulgation d'informations personnelles en ligne ; l'Administration du cyberespace de Chine a lancé une campagne spéciale « Qinglang · Lutte contre les dérives des applications d'IA », énumérant sept catégories de cibles, dont le non-respect de l'enregistrement des grands modèles, l'empoisonnement des données d'IA et l'application insuffisante du marquage des contenus générés ou synthétisés ; le « Cadre de gouvernance de la sécurité de l'intelligence artificielle 3.0 », publié le 14 septembre, étend le périmètre de la gouvernance d'un seul maillon technique à l'ensemble du processus : données, algorithmes, modèles, applications, chaîne d'approvisionnement. Le 8 octobre, la première norme sectorielle de classification de la sécurité des services d'IA générative est entrée en vigueur, et les normes relatives aux agents ont recensé 13 grandes catégories et 97 risques. Ces documents se succèdent à des dates très rapprochées ; mis bout à bout, ils dessinent un chemin de gouvernance qui va du contenu au comportement, et d'un modèle isolé à toute la chaîne.

D'autres pays font la même chose

Si l'on prend un peu de recul, la législation sur les systèmes de marquage fait consensus à l'échelle mondiale depuis quelques années. Les États-Unis, Singapour, l'Union européenne et le Royaume-Uni avancent chacun leurs propres règles d'identification de l'IA générative. Les dispositions de transparence de la loi européenne sur l'intelligence artificielle entreront en vigueur le 2 août 2026 : elles exigent de divulguer les interactions avec l'IA, de marquer les contenus synthétiques et d'étiqueter les hypertrucages, avec des amendes pouvant atteindre 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial, le montant le plus élevé étant retenu. Pour se mettre en conformité, OpenAI a annoncé l'ajout d'un filigrane invisible aux textes générés par ChatGPT et Codex dans l'Union européenne.

La différence réside dans le point d'application. L'Union européenne mise sur une classification par risque assortie d'amendes élevées, faisant peser la pression sur les fournisseurs de services ; le dispositif chinois insiste davantage sur la traçabilité de toute la chaîne et la coordination des plateformes, en répartissant l'obligation de marquage entre le fournisseur, le distributeur et l'utilisateur. Le postulat commun aux deux voies est le même : d'abord faire porter aux contenus une information de provenance, ensuite seulement on pourra parler de responsabilité et de gouvernance.

Ce que cela change concrètement pour les créateurs

Pour les créateurs ordinaires, le changement n'est pas technique mais comportemental. Avant, publier une illustration dessinée par IA pouvait se faire comme une œuvre ordinaire ; il faut désormais le déclarer, et beaucoup se demandent si l'algorithme ne va pas réduire la portée des contenus déclarés. Aucune donnée publique ne permet pour l'instant de répondre. Le message implicite des plateformes : les contenus explicitement identifiés ne seront pas pénalisés davantage ; ce qui est réellement sanctionné, ce sont ceux qui ne le déclarent pas tout en prétendant être des prises de vue réelles.

Ce qu'il faut vraiment observer, c'est la capacité du marquage implicite à résister au retraitement. Une vidéo filigranée insérée dans l'œuvre d'un autre, réencodée plusieurs fois, capturée en image puis republiée : le taux de survie du filigrane chute. C'est une faiblesse qu'OpenAI reconnaît elle-même : son filigrane textuel passe d'un taux de détection d'environ 92 % à 66 % après le remplacement de 10 % des mots, et à 17 % seulement après 25 %. Le marquage augmente le coût de la falsification, mais ne peut pas condamner cette voie.

La question plus concrète est celle des frontières. Une photo réelle dont la peau a été retouchée par IA, dont l'arrière-plan a été remplacé, dont les passants ont été supprimés : est-elle un contenu généré par IA ? Les mesures donnent une orientation, mais le jugement concret dépendra des règles d'exécution des plateformes. Un label trop large, où tout le monde étiquette tout, fait perdre au label sa valeur informative ; un label trop étroit laisse échapper une masse de contenus en zone grise.

Ce que les mesures changent, c'est la valeur par défaut. Avant, déterminer si un contenu était généré par IA était l'affaire de la plateforme, l'affaire du public, mais en aucun cas celle du diffuseur. Désormais, c'est d'abord l'affaire du diffuseur. Ce pas ne résout pas tous les problèmes, mais il fait de « généré par IA » une option que l'on pouvait dissimuler une question à laquelle il faut répondre.