Nanosaur 2 et le dilemme des poids ouverts que personne n’a résolu

Un post intitulé « New uncensored image model! Nanosaur 2 full release! » est devenu la soumission la plus votée de la semaine sur r/StableDiffusion, récoltant 336 votes positifs et 98 commentaires en peu de temps. La sortie elle-même n’est qu’une entrée dans une longue série : des modèles d’image ouverts qui suppriment les filtres de sécurité imposés par les services hébergés. Ce qui rend le moment digne d’un article, ce n’est pas le modèle. C’est l’argument qui éclate à chaque nouvelle sortie, parce que la communauté ne l’a jamais résolu et ne le pourra probablement pas.

La fracture au sein de la communauté locale

Passez du temps sur r/StableDiffusion et vous trouverez deux cultures qui partagent un même subreddit. L’une considère les poids non censurés comme un principe : le modèle tourne sur mon matériel, entraîné sur des données que je peux inspecter ou au moins auditer, et ce que je génère relève de ma responsabilité, comme n’importe quel autre outil de mon atelier. L’autre considère cette même sortie comme un risque : ces modèles existent pour produire le contenu que les plateformes hébergées interdisent, les résultats atteignent de vraies personnes, et chaque sortie non censurée dégrade l’environnement juridique pour tous ceux qui font tourner des modèles en local.

Les deux camps étaient actifs dans le fil consacré à Nanosaur 2. Les votes positifs suggèrent que la sortie a attiré un large public. Les commentaires, selon le schéma habituel, se répartissaient entre discussion technique et argument familier sur les conséquences. Aucun des deux camps n’a convaincu l’autre, comme toujours dans ce genre de fil.

L’argument de la responsabilité, pris au sérieux

La position de principe a une réelle consistance. La génération locale signifie pas de journaux d’API, pas de modifications intempestives des conditions d’utilisation, pas de dépréciations surprises de modèles comme celle qui a retiré le produit autonome de DALL·E en août, en l’intégrant à ChatGPT Images. Les utilisateurs de services hébergés ont vu des capacités disparaître en cours d’abonnement. Les poids ouverts sont la seule réponse durable à cette volatilité, et la même communauté qui célèbre Qwen Image 2.1 tournant sur un ordinateur portable célèbre le mécanisme de publication, pas un résultat particulier.

L’argument contraire a lui aussi du poids. Un modèle dont les filtres ont été retirés fait chuter à presque zéro le coût de production de ressemblances non consenties et d’autres catégories de préjudices, et le fil r/StableDiffusion demandant comment générer des ressemblances photoréalistes d’un acteur précis, publié quelques jours avant la sortie de Nanosaur, montrait à quel point cela est devenu courant. Le préjudice n’est pas hypothétique ; les questions que les gens posent en public sont la version la plus anodine de ce qui se passe en privé.

Ce schéma a des précédents

Rien de cette dynamique n’est nouveau, ce qui explique en partie pourquoi les débats communautaires sonnent si répétés. Le chiffrement a connu un cycle identique : une capacité que les gouvernements voulaient contrôler, distribuée malgré tout par des projets open source, suivie de décennies de disputes sur la responsabilité qui se sont terminées là où se dirige l’argument des poids ouverts, la technologie étant traitée comme un fait et les différends déplacés vers les conduites. Le partage de fichiers, les armes à feu imprimées en 3D et les téléphones débloqués en ont tous joué des variations. La leçon de chacun est constante : les contrôles d’accès sur les artefacts numériques fuient complètement, et les luttes politiques durables se déroulent aux marges, canaux de distribution et préjudices démontrables, plutôt qu’au niveau de l’artefact.

La version génération d’images avance plus vite que ses prédécesseurs parce que les artefacts sont petits. Un modèle d’image quantifié 7B représente quelques gigaoctets, un torrent, une clé USB. L’expérience sur microcontrôleur a rendu littéral le plafond de miniaturisation : si la chaîne de compression finit par mettre une génération utilisable sur une puce à deux dollars, le confinement n’a jamais été au menu.

Ce que le bilan de la modération montre et ne montre pas

Les services hébergés présentent leur modération comme l’alternative, et le bilan est vraiment contrasté. Les plateformes interceptent beaucoup, les filtres par mots-clés et les classificateurs de prompts arrêtent les tentatives évidentes, et les affaires Ultraman jugées devant des tribunaux chinois ont montré que des plateformes étaient tenues responsables de résultats que leurs filtres n’avaient pas bloqués, la responsabilité dépendant de la question de savoir si le fournisseur disposait de mécanismes de plainte et d’avertissements adéquats. Ces affaires jouent dans les deux sens pour le débat : elles montrent que la modération hébergée a une portée juridique, et elles montrent qu’elle est poreuse.

Le camp des poids ouverts n’a pas de bilan comparable à présenter, et c’est la lacune honnête. Les communautés bénévoles modèrent les discussions et l’étiquette, pas les résultats, car les résultats sont inobservables par conception. La section commentaires du fil Nanosaur était ce qui ressemble le plus à une gouvernance dans cet écosystème : des gens qui débattent en public de ce que la communauté bénira ou non. C’est mince, mais une gouvernance mince qui s’adapte chaque semaine possède certaines propriétés que les processus institutionnels lents n’ont pas.

Ce que les chiffres de la sortie disent de la demande

Le schéma d’engagement autour de Nanosaur 2 mérite une lecture plus attentive que le titre. Trois cent trente-six votes positifs sur un subreddit qui a une longue mémoire des effets de mode signifient un large intérêt passif, mais c’est dans les quatre-vingt-dix-huit commentaires que la communauté a réellement travaillé. Les sorties non censurées passées ont suivi le même arc : une salve de discussions techniques sur l’architecture et l’empreinte mémoire, une salve d’inquiétudes, et une longue traîne d’utilisateurs posant des questions pratiques sur les prérequis matériels. La demande mesurée ne porte pas sur un contenu spécifique. Elle porte sur le contrôle, la capacité de faire tourner un modèle dont le comportement n’est pas défini par l’équipe politique d’une plateforme hébergée.

Cette lecture est cohérente avec le reste des preuves du mois. L’AI Horde, le réseau d’inférence bénévole qui fonctionne depuis 2022, a livré une nouvelle interface et un nouveau backend ce mois-ci et a encore trouvé un public. EasyAI a empaqueté ComfyUI pour les débutants. Les ports de Qwen Image 2.1 se sont multipliés. Chacun de ces projets grandit parce que les gens veulent une génération qui leur répond, et chacun d’eux hérite du même vide de gouvernance que la sortie de Nanosaur expose.

Pourquoi le débat ne se résout jamais

L’impasse persiste parce que les deux camps ont raison à propos de couches différentes. À la couche des outils, les poids ouverts sont là pour rester ; les modèles quantifiés tournent désormais sur des microcontrôleurs, donc ils tournent certainement sur des ordinateurs portables, et aucune politique n’inverse un torrent. À la couche des normes, la communauté fait le vrai travail : les utilisateurs de r/StableDiffusion surveillent le photoréalisme non divulgué plus durement que les outsiders, les créateurs débattent de la manière de divulguer, et l’étiquette autour de la ressemblance et du style se forme fil après fil. À la couche du droit, les tribunaux commencent seulement à démêler tout cela, et les résultats jusqu’ici récompensent ceux qui ont conservé des traces de leur processus, une norme qui traverse entièrement le débat sur la censure.

Il existe aussi une couche économique que la communauté nomme rarement. Les plateformes hébergées peuvent se permettre des budgets de modération ; un mainteneur bénévole qui publie des poids ne le peut pas, ce qui signifie que l’écosystème ouvert externalise son travail de sécurité vers les utilisateurs finaux et la culture des forums. Cela fonctionne jusqu’à ce que cela ne fonctionne plus. Ce qui ressemble le plus à une réponse institutionnelle jusqu’ici se situe au niveau de la distribution : les hubs de modèles attachent des licences et des politiques d’usage aux poids, ce qui façonne les incitations sans prétendre empêcher quoi que ce soit.

La distinction qui aide

Un cadre utile sépare la capacité, l’accès et l’usage. Les poids ouverts modifient l’accès ; ils ne modifient pas ce qu’est la capacité sous-jacente, puisque le même contenu est générable sur des services hébergés avec suffisamment d’efforts, simplement journalisé et facturé. Présenter le débat comme « cela devrait-il exister » s’attaque à la couche de la capacité, celle que personne ne contrôle. Les arguments qui font bouger les choses se situent au niveau de l’accès et de l’usage : comment les modèles sont distribués, quelle divulgation est attendue, ce qui arrive aux personnes qui produisent des préjudices. C’est aussi là que l’énergie de la communauté se porte déjà, qu’elle nomme ce cadre ou non.

Ce qu’un lecteur devrait retenir du cycle de sortie

Si vous utilisez des modèles locaux, les conseils pratiques tirés des fils de ce mois-ci sont constants. Conservez la provenance de votre travail, car ce sont les traces de processus qui vous protègent si la propriété des résultats est un jour contestée ; les affaires judiciaires jusqu’ici, en Chine et ailleurs, ont reposé sur la documentation plus que sur les images elles-mêmes. Divulguez le contenu synthétique là où le public pourrait raisonnablement supposer le contraire ; les créateurs qui gèrent le mieux le retour de bâton anti-IA sont ceux qui n’ont jamais eu à se faire prendre. Et partez du principe que chaque image que vous générez peut être régénérée par quiconque dispose des mêmes poids, ce qui est le sens réel de « ouvert ».

Nanosaur 2 sera remplacé par la prochaine sortie dans quelques semaines. Le dilemme qu’il représente ne le sera pas, parce que ce n’a jamais été une question technique. C’est une question de ce qu’une communauté fait d’une capacité que tout le monde peut détenir, et la communauté écrit sa réponse dans des fils comme celui-là, argument après argument.