← Retour au blog
AiEnviron 8 min de lecture

Après 47 000 contenus et 3961 comptes, l'usurpation par IA doit être bloquée au moment de la publication

Publié le 8 nov. 2026
Après 47 000 contenus et 3961 comptes, l'usurpation par IA doit être bloquée au moment de la publication

Le 6 novembre, l'administration du cyberespace a publié le résultat d'une campagne de redressement : plus de 47 000 contenus illégaux retirés, 3961 comptes traités. La cible est décrite avec précision : « l'usage de l'IA pour usurper l'identité de personnalités connues, vendre de faux produits, capter des abonnés et induire les internautes en erreur ».

Le communiqué distingue quatre cas de figure. Les noms de comptes sont masqués, mais la répartition par plateforme est limpide. Sur WeChat, « 花\*\*记 », « 时\*\*叙 » et « 秀\*\*8 » ; sur Douyin, « 微\*\*天 » et « S\*\*物 » ; sur Xiaohongshu, « 小\*\*C » et « 瓦\*\*款 ». Leur pratique : imiter sans autorisation le portrait de célébrités, cloner leur voix, ou détourner des photos de proches de personnalités pour promouvoir des produits. Sur WeChat, « 山\*\*话 » et « 旧\*\*故 » ont utilisé des effets spéciaux générés par IA pour inventer la rumeur qu'une personnalité souffrait d'Alzheimer. Sur Douyin, « 才\*\*河 » ; sur Xiaohongshu, « 秋\* » ; sur Bilibili, « 老\*\*迷 » ; sur Kuaishou, « 云\* » se faisaient passer pour la personne elle-même, publiant à la première personne des opinions, des récits de vie et des argumentaires émotionnels pour attirer des abonnés. Sur Kuaishou, « 康\* » générait des danses vulgaires et des scènes d'intimité pour capter un public, puis monétiser.

Les motivations commerciales de ces quatre groupes sont très inégales. Les deuxième et troisième cherchent du trafic, les premier et quatrième finissent en transaction. Et dans le premier groupe, une phrase mérite d'être isolée : le détournement de photos de portrait et de variantes d'image de proches de personnalités. Cette voie contourne la difficulté à obtenir des images de la célébrité elle-même. Une photo de famille et un échange de visage suffisent à assembler une vidéo de vente crédible.

La sanction tombe sur le compte, le problème se situe avant la publication

Le communiqué parle de « comptes traités », pas de « vidéo supprimée ». La nuance n'est pas mince. Un contenu retiré peut être republié ; seul un compte fermé coupe la chaîne de paiement et le réservoir d'abonnés. En termes d'efficacité, c'est la coupure la plus douloureuse.

Mais le traitement des comptes est une action a posteriori. Le commentaire qui accompagne le journal télévisé de CCTV, Xinwen Lianbo, énumère dans l'ordre ce que les plateformes doivent faire : identifier tôt, alerter tôt, bloquer tôt, nettoyer tôt. Trois de ces quatre « tôt » se situent avant la publication.

Le problème, c'est que générer un échange de visage par IA coûte désormais assez peu pour permettre l'essai à grande échelle, tandis que la détection reste chère. Une fausse vidéo de 15 secondes se produit en quelques minutes avec des outils du commerce ; un humain a besoin de dizaines de secondes avant d'oser trancher ; la machine doit encore composer avec la compression, le recadrage, le réenregistrement. Les courbes de coût de la génération et de la détection vont aujourd'hui en sens inverse.

Les Mesures sur l'étiquetage des contenus générés par l'IA (《人工智能生成合成内容标识办法》) sont entrées en vigueur le 1er septembre 2025. Publiées par quatre administrations, elles imposent à la fois un marquage explicite et un marquage implicite. L'explicite est l'avertissement visible par l'utilisateur, l'implicite une marque dans les métadonnées du fichier. Ce dispositif fonctionne dans un flux de publication normal. Le hic, c'est qu'un compte malveillant ne suit justement pas le flux normal : les métadonnées s'effacent, le marquage explicite se recadre, l'image se refilme.

Ce que les plateformes peuvent réellement tenir n'est donc pas le filigrane, mais la comparaison des personnes et des objets. Les visages et les voix des personnalités forment un petit ensemble énumérable. Comparer à une liste connue est techniquement bien plus réaliste que de décider si une vidéo donnée est générée par IA. C'est aussi là que la « prévention en amont » devient concrète : un blocage au moment de la publication coûte moins que de remonter mille contenus après coup.

Un écran de téléphone faisant défiler un fil de vidéos courtes, avec un nom de compte masqué.

Le judiciaire a déjà déplacé la charge de la preuve

L'affaire du comédien de doublage jugée le 2 novembre par le tribunal intermédiaire n° 1 de Shanghai envoie un signal très concret. Sur 28 indicateurs acoustiques de formants, l'audio contrefait s'écarte de la voix de l'intéressé de moins de 10 % pour 24 d'entre eux, dont 16 sous 5.36 %, et les catégories « assez similaire » et « très similaire » totalisent 90 %. Le tribunal a condamné l'exploitant de la plateforme à 50 000 yuans.

Plus important encore, la répartition de la charge de la preuve. Le titulaire des droits n'a que deux choses à démontrer : qu'il existait un canal raisonnable d'accès à sa voix, et que la voix synthétique lui ressemble fortement. La preuve initiale est alors constituée. C'est ensuite à la plateforme de prouver que ses données d'entraînement ont une source licite, ou que la voix synthétique n'a rien à voir avec le titulaire. Le jugement dit très crûment l'intention de cette règle : répondre au problème structurel de la preuve concentrée d'un seul côté dans les litiges liés à l'IA, et empêcher les plateformes d'écarter leur responsabilité avec des motifs du type « boîte noire technique » ou « l'employé est parti, impossible de vérifier ».

Ce raisonnement correspond à l'article 4 des Opinions de la Cour populaire suprême sur le jugement des litiges impliquant l'intelligence artificielle (《最高人民法院关于依法审理涉人工智能纠纷案件的意见》) du 7 septembre 2026. Appliqué à la campagne actuelle, le principe est identique : celui qui détient les données doit pouvoir montrer d'où elles viennent.

Concrètement, pour une plateforme : les registres de provenance des corpus d'entraînement, les justificatifs d'autorisation des contenus, les journaux du processus de validation. Au quotidien, cela ressemble à de la paperasse de conformité. Le jour où un incident éclate, c'est la seule matière capable de démontrer l'absence de responsabilité. La valeur de la trace ne réside pas dans le quotidien, mais dans le jour où l'on est mis en cause.

Pour les marchands et les créateurs, la conformité se résume à trois points

Le premier est la chaîne d'autorisation. Utiliser l'image ou la voix d'une personne réelle, qu'on l'ait filmée soi-même ou qu'un partenaire l'ait fournie, exige un périmètre d'autorisation consigné par écrit. Dans l'affaire de Shanghai, la plateforme plaidait qu'elle « ignorait que l'autre partie était comédienne de doublage ». Le tribunal n'a pas retenu l'argument : ignorer ne vaut pas droit d'usage.

Le deuxième est l'étiquetage. Le marquage explicite va dans l'image, l'implicite reste dans le fichier. C'est désormais une obligation, pas une option. Beaucoup d'équipes réduisent la mention à presque rien parce qu'elle gâche le rendu, ce qui, en pratique, a de bonnes chances d'être jugé non conforme.

Le troisième est la traçabilité de la provenance des contenus. C'est le point le plus souvent sauté, et le plus susceptible d'être fatal en cas de litige. D'où vient la matière, qui l'a fournie, quels usages l'autorisation couvre : mieux vaut archiver tout cela avec la vidéo finale plutôt que de le laisser dispersé dans les historiques de discussion de quelques personnes.

Cette campagne n'est pas ponctuelle

La dernière phrase du communiqué annonce que « l'étape suivante verra l'intensité du redressement continuer d'augmenter » et que « la responsabilité principale des sites et des plateformes sera davantage ancrée ». Ce type de formulation est apparu de nombreuses fois dans les documents de gouvernance de l'IA des deux dernières années. Il désigne une logique permanente, pas une opération coup de poing.

Pour ceux qui font du business de contenus IA, le critère est en fait devenu plus simple : peut-on dire qui est la personne à l'image, d'où vient l'autorisation, et si ce contenu porte une mention. Si les trois réponses tiennent, pas de crainte de voir un compte disparaître du jour au lendemain. Si elles manquent, plus l'échelle grandit, plus le risque s'accumule vite.

Pour les plateformes, la concurrence va se déplacer de « sait-on générer » vers « sait-on bloquer à la seconde de la publication ». Les 3961 comptes sont le bulletin de cette campagne. Le prochain regardera sans doute moins le nombre de comptes traités que le nombre de contenus bloqués.

Articles associés