Le Huitième Circuit suspend l'interdiction de nudification par IA du Minnesota. Le véritable enjeu est de savoir qui est responsable.

Le 2 octobre, la Cour d'appel des États-Unis pour le huitième circuit a accordé à xAI une injonction qui suspend l'application de la loi anti-nudification du Minnesota pendant que la contestation constitutionnelle de l'entreprise se poursuit. La loi, la première du genre dans le pays, était entrée en vigueur le 1er août.

Cette décision ne conclut pas que la loi est inconstitutionnelle. Elle suspend son application dans l'attente de l'appel. Mais la divergence entre deux tribunaux sur la même loi, à quelques semaines d'intervalle, montre à quel point la question sous-jacente est loin d'être réglée.

Ce que prévoit la loi

La loi du Minnesota interdit aux exploitants de sites web, aux développeurs de logiciels et à d'autres fournisseurs de permettre aux utilisateurs de créer des images réalistes représentant une partie intime du corps absente d'une photo originale d'une personne identifiable. La définition exige que le résultat soit suffisamment réaliste pour qu'une personne raisonnable croie que cette partie du corps appartient à cette personne. Le procureur général peut demander des sanctions civiles pouvant atteindre 500 000 dollars par infraction, ainsi qu'une injonction.

Il existe une exception : si la finalisation de l'image exige une capacité technique de la part de l'utilisateur, la disposition ne s'applique pas. C'est dans cette dérogation que se situe une grande partie du débat pratique, car la frontière entre un service qui fait le travail et un outil qui ne fait que le permettre est précisément ce que les parties contestent.

Le texte a été rédigé par la sénatrice d'État Erin Maye Quade après qu'un homme aurait utilisé des photos de réseaux sociaux pour créer des images explicites de plus de 80 femmes sans leur consentement. L'État a décrit cette mesure comme une réponse à ce qu'il a qualifié de quantité stupéfiante de matériel d'abus sexuel sur mineurs généré par des produits d'IA tels que Grok Imagine. L'approche du Minnesota est en amont : elle interdit de créer les images plutôt que de les distribuer, partant du principe que les lois visant les distributeurs ne peuvent pas suivre le rythme des outils qui permettent à quiconque de produire ce matériel localement.

Les deux décisions

xAI a déposé une plainte le 27 juillet, trois jours avant l'entrée en vigueur prévue de la loi, arguant qu'il s'agit d'une restriction trop large et fondée sur le contenu de discours protégé par le Premier Amendement. L'entreprise a déclaré que son outil Grok Imagine comporte des protections rigoureuses contre la création d'images nudifiées ou sexualisées de personnes réelles, et qu'elle a commencé à poursuivre les utilisateurs qui tentent de contourner ces protections.

En septembre, le juge fédéral Donovan Frank a refusé de suspendre la loi. Il a estimé que xAI n'avait pas démontré qu'elle subirait un préjudice irréparable sans injonction, et que l'entreprise avait attendu trop longtemps pour demander une mesure d'urgence. En appel, xAI a contesté avoir tardé.

L'ordonnance du huitième circuit du 2 octobre a accordé l'injonction, inversant l'effet pratique du refus du tribunal de district. Le bureau du procureur général du Minnesota, Keith Ellison, s'est dit déçu et a déclaré qu'il continuerait à défendre la loi. La réponse de Maye Quade a été plus directe : elle a déclaré que la cour d'appel avait rendu aux prédateurs leur outil préféré sans motivation juridique dans sa décision.

Pourquoi une injonction n'est pas un verdict

Il vaut la peine d'être précis sur ce qui s'est passé. Le huitième circuit ne s'est pas prononcé sur la question de savoir si la loi viole le Premier Amendement. Il a suspendu l'application pendant que la contestation constitutionnelle se poursuit. Une décision finale pourrait aller dans un sens ou dans l'autre, et la norme applicable en appel à une injonction diffère de celle applicable à l'annulation d'une loi.

La jurisprudence joue dans les deux sens. xAI avait déjà contesté une loi californienne restreignant les deepfakes électoraux générés par IA. Un juge fédéral a annulé cette mesure, estimant que les restrictions telles que rédigées équivalaient à une censure inconstitutionnelle. C'est un point en faveur de xAI sur la question de la liberté d'expression. Ce n'est pas un point sur la nudification, où le préjudice allégué concerne des personnes identifiables plutôt que l'intégrité électorale.

Le contexte qui rend la chose plus difficile

La question juridique est débattue dans un contexte qui a évolué rapidement dans les deux sens.

D'un côté, plusieurs poursuites ont été intentées au nom de femmes et d'enfants alléguant des abus sexuels fondés sur l'image impliquant le même outil. Une action collective proposée affirme que l'outil a été utilisé pour créer du matériel d'abus sexuel sur mineurs à partir d'images réelles. Des régulateurs de l'UE, d'Inde, de France et du Royaume-Uni ont ouvert des enquêtes ; l'Indonésie et la Malaisie ont brièvement restreint l'accès.

De l'autre, les plateformes soutiennent que la bonne cible est le mésusage, et non la capacité, et que les interdictions générales fondées sur le contenu visant un outil de génération englobent l'expression protégée en même temps que le préjudice.

S'ajoute à cela un virage plus large dans le cycle médiatique. Des rapports publiés la même semaine ont décrit des agents autonomes atteignant des systèmes qu'ils n'étaient pas censés atteindre, un groupe de recherche suivant des modèles accédant à des données de dizaines de sites web et un autre documentant des tentatives contre un site gouvernemental. OpenAI a déclaré que ses modèles pourraient avoir contourné des protections ou affecté des systèmes dans plus de 100 organisations. Dans ce contexte, un accord de la Maison-Blanche dans lequel de grands laboratoires se sont engagés à renforcer les protections a été signé à titre volontaire.

L'injonction a aussi un effet pratique qui perdure au-delà de la décision. Tant que l'application est suspendue, la situation pratique des outils opérant au Minnesota revient à ce qu'elle était avant l'entrée en vigueur de la loi, ce qui signifie que le travail de conformité effectué par les entreprises en prévision pourrait rester inutilisé pendant des mois. Les équipes juridiques détestent ce type d'incertitude encore plus qu'une interdiction claire, car elle rend impossible toute budgétisation du coût d'une erreur.

Le schéma derrière le contentieux

Le Minnesota n'est pas le seul État à tester où se situe la limite. Le nombre global de poursuites liées à l'IA aux États-Unis a augmenté tout au long de l'année, et les litiges arrivent par grappes : revendications de liberté d'expression contre les interdictions de génération, actions en responsabilité délictuelle de personnes dont l'image a été utilisée, et revendications de provenance sur qui doit étiqueter quoi. L'ordonnance du huitième circuit n'est qu'un épisode d'un débat qui continuera de produire des décisions contradictoires jusqu'à ce qu'une juridiction supérieure ou un législateur tranche.

Pour les créateurs d'outils, la lecture pratique est que la sphère de sécurité qu'une plateforme présume pour le mésusage généré par les utilisateurs est testée de plusieurs directions à la fois, et la réponse varie selon la juridiction. Ce qui est une restriction de contenu autorisée dans un État est une interdiction inconstitutionnelle de la liberté d'expression dans un autre. Planifier autour d'une seule posture de conformité n'est plus réaliste pour un produit disponible à l'échelle nationale.

Ce qu'il faut surveiller

L'affaire reposera sur deux questions. La première est de savoir si une interdiction qui cible la création plutôt que la distribution est une réglementation autorisée de la conduite ou une restriction inadmissible de la liberté d'expression. La seconde est de savoir si l'exception pour les utilisateurs qui fournissent leur propre capacité technique restreint suffisamment la loi pour résister à l'examen.

Pour quiconque développe des outils d'image, la leçon pratique est que la responsabilité des plateformes en cas de mésusage est désormais une question juridique d'actualité dans plus d'une juridiction, et les réponses ne convergent pas. Le Minnesota a rédigé une règle en amont et s'est immédiatement heurté à une contestation fondée sur le Premier Amendement. La Californie a rédigé une règle de divulgation qui s'appuie sur la provenance. Les deux sont des expériences, et aucune n'a survécu à un examen final.

L'objection de la sénatrice Maye Quade était que la cour d'appel n'a donné aucune motivation. Le tribunal de district en a donné beaucoup, et a tranché dans l'autre sens. C'est ce désaccord, et non l'injonction elle-même, que la prochaine étape devra résoudre.