L'application de lecture où tout le monde soupçonne désormais les avis d'être écrits par une IA

WeChat Reading est la plus grande application de livres en Chine, et sa fonction la plus singulière ne se trouve pas dans les livres mais à côté. C'est cette couche de surlignages et de commentaires qui défile le long du texte, une bande étroite en marge où s'entassent les écritures de parfaits inconnus. On lit un roman avec quelques milliers de personnes penchées par-dessus son épaule, qui s'arrêtent sur une phrase pour y coller leur réaction.
Pendant des années, cette couche a été le meilleur de l'application. Quelqu'un avait surligné à votre place la phrase que vous n'arriviez pas à formuler, quelqu'un avait ajouté sous une plaisanterie une remarque plus méchante encore. Ce mois-ci, elle est devenue le lieu de la dispute.
Le déclencheur est minuscule. Une lectrice recommande un roman d'Agatha Christie à une amie, et l'amie revient avec ce retour : l'application avait montré la fin avant le premier chapitre, parce que la couche de commentaires faisait remonter les discussions sur l'intrigue dès l'entrée dans le texte. Cette plainte, publiée le 11 novembre, a beaucoup circulé, et c'est la moins intéressante de toutes celles qui tournent en ce moment. Le spoiler est un problème qu'un produit peut corriger. Ce qui vient après, non.
L'accusation circule dans les deux sens
La veille, un autre message défendait la thèse inverse : la couche de commentaires s'était remplie d'avis qui semblaient écrits par un modèle. Ouvertures passe-partout, structure en trois temps bien propre, d'abord le ressenti, puis le contexte, enfin la synthèse, et un virage émotionnel dans le dernier paragraphe qui ne résout rien. Et puis la partie qui pique : les lecteurs qui écrivent avec soin se font accuser d'être une IA. Être cité par un inconnu parce que ses phrases sont fluides, sa ponctuation correcte et ses paragraphes structurés.
Voilà la nouvelle dynamique sociale. Dès qu'un espace contient assez de texte généré, la charge de la preuve se déplace vers les humains. Le style devient une preuve. Un paragraphe bien organisé est suspect. Un résumé net est un indice. On en est à un demi-pas d'une époque où il faudra laisser deux fautes de frappe pour avoir l'air d'avoir été écrit par quelqu'un.
Dans un espace bâti sur l'idée qu'un commentaire est une personne qui pense tout haut, ce basculement fait mal d'une manière précise. La valeur de la couche venait de ce que quelqu'un avait pris la peine. Si cette peine peut être contrefaite à grande échelle, le seul signal restant est ce que l'écriture coûte à celui qui écrit, et ce coût ne se voit pas sur une capture d'écran. Rien dans une belle phrase ne dit si elle a demandé trois minutes ou trois heures.

Les métriques ont aggravé les choses
WeChat Reading ne se contente pas d'afficher des commentaires. L'application calcule un score de recommandation et tient un classement des livres les mieux notés. Un avis au score élevé peut pousser un livre dans ce classement, et le classement renvoie les gens vers le livre. En août, un avis de 973 caractères aurait atteint une valeur de recommandation supérieure à 92 %, ce qui a placé le livre devant beaucoup plus de lecteurs. Le chiffre est beau, le mécanisme est limpide.
Une métrique de ce genre fabrique une motivation qui n'a rien à voir avec la lecture. Si un avis bien structuré, émotionnellement satisfaisant et légèrement vague obtient une bonne note, alors produire des avis bien structurés, émotionnellement satisfaisants et légèrement vagues devient une stratégie rationnelle, que l'exécutant soit un humain ou un script. Le résultat de cette stratégie est indistinguable de ce que les lecteurs appellent aujourd'hui le goût d'IA, pour la bonne raison que les deux poussent sous les mêmes contraintes.
L'application a aussi lancé une fonction d'IA en mai, présentée par l'entreprise comme un assistant pour les lecteurs, capable de résumer, de répondre à des questions et de discuter. L'existence de cette fonction est le contexte du problème, pas sa cause : elle donne à chaque accusation un mécanisme plausible. Il n'est plus nécessaire de démontrer qu'un avis a été généré, il suffit de faire remarquer qu'il aurait pu l'être.
Cette asymétrie rend le débat interminable. Celui qui soupçonne un avis peut désigner l'assistant de l'application. Celui qu'on soupçonne d'être une machine n'a rien à désigner, parce qu'une zone de texte ne contient aucune preuve de paternité. D'un côté un outil, de l'autre un simple ton. La dispute ne peut qu'enlaidir.
Et il y a l'auteur
En octobre, une lectrice a donné à un livre une note moyenne et reçu un message privé de l'auteur lui demandant de la modifier. La capture a récolté plus de 1 700 mentions J'aime et plusieurs centaines de commentaires, et la réaction portait surtout sur la demande, pas sur la note. Le fait que des auteurs se mettent à surveiller la couche de commentaires mérite d'être noté plus que le message lui-même.
Mettez les trois histoires côte à côte et un motif apparaît. La couche de commentaires a été conçue comme un espace social, mesurée comme une métrique produit, et elle est désormais surveillée comme un forum public. Chacun de ces cadrages implique une correction différente, et l'application choisit le troisième tout en fonctionnant selon le deuxième. Un lieu qui doit être à la fois salon, rayon et place publique finit par n'être correctement aucun des trois.
Ce que les lecteurs demandent vraiment
Lisez les plaintes de près : la demande est bien plus étroite que supprimer l'IA. En gros, la voici. Ne me montrez pas les réactions des autres avant que j'aie eu la mienne, et si vous classez ces réactions, dites-moi à quoi sert le classement. Aucun des deux points ne concerne la détection. Tous deux concernent ce qu'on met à l'écran, et à quel moment.
Le problème du spoiler a une solution propre : un filtre de progression de lecture qui masque les commentaires au-delà de la page où l'on se trouve. Certaines applications le font déjà, et la chose est presque trop simple pour être mentionnée. Le coût, c'est un interrupteur et un modèle de données, et le modèle de données est la partie difficile. L'application doit savoir où en est chaque lecteur dans chaque livre, puis décider ce qu'un commentaire ancré page 240 a le droit de révéler à quelqu'un qui est page 30. La même phrase, deux niveaux d'accès.
WeChat Reading suit déjà cette position, puisqu'elle synchronise la progression entre appareils. L'information existe. Ce qui manque, c'est une règle sur qui peut voir quoi, et ce genre de règle est politique à l'intérieur d'une équipe produit, parce qu'elle réduit l'engagement précisément sur les écrans où l'engagement se mesure. Masquer la moitié d'une page de commentaires fait forcément baisser les chiffres.
Le problème de l'IA, lui, n'a pas de solution propre. La détection n'est pas fiable, l'accusation est bon marché, et le coût d'un faux positif retombe entièrement sur l'accusé. Une plateforme qui se met à étiqueter des avis comme générés passera l'année suivante à discuter de ses étiquettes, et chaque discussion en retire un peu de crédibilité.
L'option plus intéressante consiste à cesser de classer les avis. Un score de recommandation transforme une conversation en classement, et les classements récompensent exactement les qualités qui font ressembler un texte à une génération. Un espace trié seulement par date, ou par le nombre de personnes ayant surligné la même phrase, serait moins doué pour faire émerger le meilleur avis, et beaucoup plus difficile à manipuler. Il ne pousserait pas non plus chaque personne qui écrit à imiter le même ton.
La version qui dérange
Il existe une version de cette histoire où rien n'a été généré et où toute la panique porte sur un style. L'écriture de critiques de livres en chinois a ses conventions, héritées de la presse papier, et ces conventions recoupent justement ce que l'on reconnaît aujourd'hui comme une prose de modèle : la structure symétrique, la conclusion nette, la pulsation émotionnelle placée à la fin, la dernière phrase qui tombe bien.
Si c'est ce qui s'est passé, la leçon est pire que celle de l'IA. Cela voudrait dire que le style maison de la critique en ligne avait déjà une forme de machine, et que les modèles l'ont appris de nous, pas l'inverse. Les lecteurs détectent un genre, et ce genre devient plus mécanique depuis dix ans, même sans grands modèles de langage.
Dans un cas comme dans l'autre, la couche de commentaires est devenue un endroit où les lecteurs guettent les tics les uns des autres. C'est une chose étrange à avoir construite à côté d'une bibliothèque. Les livres n'ont pas changé. La marge, si.
Articles associés
La règle ne vise pas les puces, elle vise l'accès à distance
Washington ne contrôle plus seulement la puce qui traverse une frontière, mais le calcul qui la traverse. Cinq pays, une licence, et un flou qui coûte cher aux néoclouds.
Trois documents en neuf jours, et un comité qui compte
En neuf jours, le conseil de Nvidia a publié une enquête, créé une présidence et monté un comité export. Ce dernier est le seul qui change vraiment la machine.
AMD a pris 18,93 % pour une raison qui ne parle pas d'AMD
AMD a gagné 18,93 % pendant que Nvidia perdait 12,75 %. Le marché n'a pas choisi un gagnant : il a fui un nom. La différence compte pour les deux prochaines années.
Ce que Colette Kress doit dire en trois phrases
Nvidia publie son premier trimestre sans Huang. Derrière des chiffres attendus, une seule question : la nouvelle patronne peut-elle encore vendre la visibilité du groupe ?