Die Lese-App, in der jetzt alle die Rezensionen für KI halten

WeChat Reading ist die größte Lese-App Chinas, und ihre eigenwilligste Funktion sitzt außerhalb der Bücher, gleich daneben. Es ist die Ebene aus Markierungen und Kommentaren, die am Text entlangläuft, ein schmaler Streifen am Rand, in dem sich die Handschriften wildfremder Leute drängen. Man liest einen Roman, und ein paar tausend Menschen lesen über die eigene Schulter mit, halten an einem Satz an und kleben ihren Gedanken daneben.
Jahrelang war diese Ebene das Beste an der App. Jemand hatte für einen den Satz markiert, den man selbst nicht formulieren konnte, jemand hatte unter einen Witz eine noch gemeinere Bemerkung gesetzt. In diesem Monat ist daraus der Ort des Streits geworden.
Der Auslöser war winzig. Eine Leserin empfahl einer Freundin einen Krimi von Agatha Christie, und die Freundin kam mit der Rückmeldung zurück, die App habe das Ende vor dem ersten Kapitel verraten, weil die Kommentarebene schon auf dem Weg in den Text die Diskussion über die Handlung nach oben spülte. Diese Beschwerde vom 11. November wurde viel geteilt, und sie ist die uninteressanteste von allen, die gerade kursieren. Ein Spoiler ist ein Problem, das ein Produkt beheben kann. Was danach kommt, nicht.
Der Vorwurf läuft in beide Richtungen
Am Tag davor hatte ein anderer Beitrag den umgekehrten Fall beschrieben: Die Kommentarebene habe sich mit Rezensionen gefüllt, die klingen, als hätte ein Modell sie geschrieben. Formelhafte Einstiege, sauber gebaute Dreiteilung, erst das Gefühl, dann der Hintergrund, dann die Zusammenfassung, und im letzten Absatz eine emotionale Wendung, die nichts auflöst. Und dann der Teil, der weh tut: Leser, die sorgfältig schreiben, werden beschuldigt, eine KI zu sein. Namentlich genannt von Fremden, weil die Sätze flüssig sind, die Zeichensetzung stimmt und die Absätze eine Ordnung haben.
Das ist die neue soziale Dynamik. Sobald in einem Raum genug generierter Text steht, wandert die Beweislast zu den Menschen. Stil wird zum Beweisstück. Ein gut gegliederter Absatz ist verdächtig. Eine saubere Zusammenfassung ist ein Indiz. Man steht einen halben Schritt in einer Zeit, in der man zwei Tippfehler stehen lassen muss, um menschlich zu wirken.
In einem Raum, der auf der Annahme gebaut ist, ein Kommentar sei ein Mensch, der laut denkt, schadet dieser Wandel auf sehr konkrete Weise. Der Wert der Kommentarebene kam daher, dass sich jemand die Mühe gemacht hatte. Lässt sich diese Mühe in großem Maßstab fälschen, bleibt als einziges Signal, was das Schreiben den Schreibenden kostet, und diese Kosten sieht man auf einem Screenshot nicht. Keinem schönen Satz sieht man an, ob er drei Minuten oder drei Stunden gebraucht hat.

Die Kennzahlen haben es schlimmer gemacht
WeChat Reading zeigt nicht nur Kommentare an. Die App berechnet einen Empfehlungswert und führt eine Rangliste der besten Bücher. Eine Rezension mit hohem Wert kann ein Buch in diese Liste schieben, und die Liste schickt die Leute wieder ins Buch. Im August soll eine Rezension mit 973 Zeichen einen Empfehlungswert von über 92 Prozent erreicht haben, was das Buch vor sehr viel mehr Leser brachte. Die Zahl ist hübsch, der Mechanismus klar.
So eine Kennzahl erzeugt einen Anreiz, der mit Lesen nichts zu tun hat. Wenn eine gut gebaute, emotional befriedigende, leicht schwammige Rezension gut abschneidet, dann ist das Produzieren gut gebauter, emotional befriedigender, leicht schwammiger Rezensionen eine rationale Strategie, egal ob ein Mensch oder ein Skript dahintersteht. Das Ergebnis dieser Strategie ist von dem, was Leser heute KI-Geschmack nennen, nicht zu unterscheiden, weil beides unter denselben Bedingungen gewachsen ist.
Die App hat im Mai außerdem eine KI-Funktion eingeführt, vom Unternehmen als Assistent für Leser gerahmt, der zusammenfassen, Fragen beantworten und plaudern kann. Die Existenz dieser Funktion ist der Kontext des Problems, nicht seine Ursache: Sie gibt jedem Vorwurf einen plausiblen Mechanismus. Man muss nicht beweisen, dass eine Rezension generiert wurde. Es genügt der Hinweis, dass sie es hätte sein können.
Diese Asymmetrie macht den Streit unlösbar. Wer eine Rezension verdächtigt, kann auf den Assistenten der App zeigen. Wer beschuldigt wird, eine Maschine zu sein, hat nichts, worauf er zeigen könnte, denn in einem Textfeld steckt kein Nachweis der Urheberschaft. Auf der einen Seite ein Werkzeug, auf der anderen nur ein Tonfall. Der Streit kann nur hässlicher werden.
Und dann ist da der Autor
Im Oktober gab eine Leserin einem Buch eine mittlere Bewertung und bekam eine Direktnachricht des Autors, er bat um eine Änderung. Der Screenshot sammelte über 1.700 Likes und mehrere hundert Kommentare, und die Reaktion galt vor allem der Bitte, nicht der Bewertung. Dass Autoren anfangen, die Kommentarebene zu beobachten, ist die bemerkenswertere Tatsache.
Legt man die drei Geschichten nebeneinander, zeigt sich ein Muster. Die Kommentarebene wurde als sozialer Raum entworfen, als Produktkennzahl gemessen und wird nun wie ein öffentliches Forum beaufsichtigt. Jede dieser Rahmungen verlangt eine andere Lösung, und die App wählt die dritte, während sie nach der zweiten läuft. Ein Ort, der Wohnzimmer, Regal und Marktplatz gleichzeitig sein soll, wird am Ende keinem davon gerecht.
Was die Leser tatsächlich verlangen
Liest man die Beschwerden genau, ist die Forderung viel enger als KI rauswerfen. Ungefähr so: Zeig mir die Reaktionen anderer nicht, bevor ich meine eigene hatte. Und wenn du diese Reaktionen sortierst, sag mir, wofür die Sortierung da ist. Beides hat nichts mit Erkennung zu tun. Beides betrifft die Frage, was wann auf dem Bildschirm steht.
Das Spoilerproblem hat eine saubere Lösung: ein Lesefortschritt-Filter, der Kommentare jenseits der aktuellen Seite ausblendet. Manche Apps machen das bereits, und es ist fast zu einfach, um es zu erwähnen. Der Aufwand besteht aus einem Schalter und einem Datenmodell, und das Datenmodell ist der schwierige Teil. Die App muss wissen, wo jeder Leser in jedem Buch steht, und dann entscheiden, was ein Kommentar, der an Seite 240 hängt, jemandem auf Seite 30 verraten darf. Derselbe Satz, zwei Berechtigungen.
WeChat Reading verfolgt diese Position ohnehin, weil sie den Fortschritt zwischen Geräten abgleicht. Die Information ist da. Es fehlt eine Regel darüber, wer was sehen darf, und solche Regeln sind innerhalb eines Produktteams politisch, weil sie die Interaktion genau auf den Bildschirmen senken, auf denen Interaktion gemessen wird. Blendet man die Hälfte einer Kommentarseite aus, fallen die Zahlen.
Das KI-Problem hat keine saubere Lösung. Erkennung ist unzuverlässig, ein Vorwurf ist billig, und die Kosten eines Fehlalarms trägt vollständig die beschuldigte Person. Eine Plattform, die anfängt, Rezensionen als generiert zu kennzeichnen, wird das nächste Jahr damit verbringen, über diese Kennzeichnung zu streiten, und jeder Streit nimmt ihr etwas Glaubwürdigkeit.
Die interessantere Möglichkeit ist, Rezensionen gar nicht mehr zu sortieren. Ein Empfehlungswert verwandelt ein Gespräch in eine Bestenliste, und Bestenlisten belohnen genau die Eigenschaften, die einen Text generiert aussehen lassen. Ein Raum, der nur nach Aktualität sortiert oder danach, wie viele Leute denselben Satz markiert haben, wäre schlechter darin, die beste Rezension nach oben zu bringen, und deutlich schwerer zu manipulieren. Er würde auch niemanden dazu drängen, denselben Tonfall nachzuahmen.
Die unangenehme Version
Es gibt eine Version dieser Geschichte, in der nichts generiert wurde und die ganze Panik sich um einen Stil dreht. Das Schreiben von Buchrezensionen auf Chinesisch hat eigene Konventionen, gewachsen in der Zeit der Printmedien, und diese Konventionen überschneiden sich ausgerechnet mit dem, was heute als Modellprosa erkannt wird: die symmetrische Struktur, der glatte Schluss, der emotionale Höhepunkt am Ende, der letzte Satz, der sitzt.
Wenn es so war, ist die Lehre schlimmer als die mit der KI. Dann hätte der Hausstil der Online-Rezension schon immer eine Maschinenform gehabt, und die Modelle hätten ihn von uns gelernt, nicht umgekehrt. Leser erkennen ein Genre, und dieses Genre ist seit einem Jahrzehnt mechanischer geworden, auch ohne große Sprachmodelle.
So oder so ist die Kommentarebene jetzt ein Ort, an dem Leser einander auf Verräterisches absuchen. Etwas Merkwürdiges, das man neben eine Bibliothek gebaut hat. Die Bücher haben sich nicht verändert. Der Rand schon.
Verwandte Artikel
Der Verwaltungsrat baute nebenbei einen Exportausschuss
Nur eines der beiden Ereignisse vom 17. November wurde zur Schlagzeile. Das andere verändert das Unternehmen wahrscheinlicher: ein ständiger Ausschuss für Exportkontrolle.
Nvidia hat nie eine zweite Reihe gebaut
Nvidia hat dreiunddreißig Jahre auf die Autorität eines Gründers gebaut. Die Suche nach seinem Nachfolger zeigt, was dabei nie mitgebaut wurde: eine zweite Reihe.
Zehn Abstufungen, keine einzige neue Zahl
Niemand hat neue Daten zum Auftragsbestand geliefert. Geändert hat sich nicht die Mitte der Prognose, sondern die Breite der Spanne – und das reicht für zehn Abstufungen.
Ein Konzern, vier Billionen Dollar und eine einzige Person
In neun Tagen wechselt Nvidia den Chef, baut den Verwaltungsrat um und legt trotzdem Zahlen vor. Der Markt hat in dieser Zeit vor allem eines getan: einen Preis für einen einzigen Menschen gefunden.