Nach 47.000 Beiträgen und 3961 Konten: Was der KI-Fälschung fehlt, ist die Sperre beim Veröffentlichen

Am 6. November hat die chinesische Cyberspace-Behörde die Bilanz einer konzertierten Aktion vorgelegt: mehr als 47.000 rechtswidrige Beiträge entfernt, 3961 Konten gesperrt. Der Gegenstand der Meldung ist ausdrücklich benannt: Accounts, die mit KI-Technik bekannte Persönlichkeiten nachahmen, um Waren zu verkaufen, Follower zu sammeln und Nutzer in die Irre zu führen.
Die Meldung führt vier Fallgruppen auf. Die Kontonamen sind mit Sternchen maskiert, die Verteilung über die Plattformen ist trotzdem klar. Bei WeChat "花\*\*记", "时\*\*叙", "秀\*\*8", bei Douyin "微\*\*天", "S\*\*物", bei Xiaohongshu "小\*\*C", "瓦\*\*款": unerlaubte Nachbildungen von Prominentengesichtern, synthetisierte Prominentenstimmen, oder Fotos von Angehörigen, die für Produktwerbung herhalten mussten. WeChat "山\*\*话" und "旧\*\*故" nutzten KI-Effekte, um das Gerücht zu streuen, eine bestimmte Person des öffentlichen Lebens leide an Alzheimer. Douyin "才\*\*河", Xiaohongshu "秋\*", Bilibili "老\*\*迷" und Kuaishou "云\*" gaben sich als die Person selbst aus, sprachen in der Ich-Form, erzählten Lebensgeschichten, setzten emotionale Formeln ein und zogen Leute auf den Folgen-Knopf. Kuaishou "康\*" erzeugte vulgäre Tanzeinlagen und intime Interaktionen, sammelte damit Follower und kassierte ab.
Die vier Gruppen unterscheiden sich stark darin, wie direkt das Geld winkt. Gruppe zwei und drei wollen Reichweite, Gruppe eins und vier laufen am Ende auf ein Geschäft hinaus. In Gruppe eins steht ein Detail, das man getrennt betrachten sollte: gestohlene Porträtfotos und Bildvarianten von Angehörigen. Dieser Weg umgeht das Problem, dass Material der Person selbst schwer zu bekommen ist. Ein Familienfoto plus Face-Swap, und ein glaubwürdig wirkendes Verkaufsvideo ist fertig.
Die Strafe trifft das Konto, das Problem liegt davor
In der Meldung heißt es "Konten gesperrt", nicht "ein Video gelöscht". Der Unterschied ist nicht klein. Ein einzelner Beitrag lässt sich neu hochladen, ein gesperrtes Konto kappt die Zahlungsströme und den Follower-Pool. Gemessen an der Wirkung ist das der schmerzhaftere Schnitt.
Nur: Kontosperren kommen hinterher. Der begleitende Kommentar zur CCTV-Nachrichtensendung Xinwen Lianbo hat vier Aufgaben der Plattformen in eine Reihenfolge gebracht: früh erkennen, früh warnen, früh abfangen, früh aufräumen. Drei der vier "früh" liegen vor der Veröffentlichung.
Das Problem: Face-Swap mit KI ist so billig geworden, dass man im Batch ausprobieren kann, während die Erkennung teuer bleibt. Ein 15-Sekunden-Fälschvideo ist mit fertigen Tools in Minuten produziert, ein menschlicher Prüfer braucht Dutzende Sekunden, bis er sich ein Urteil traut, und die maschinelle Prüfung muss mit Kompression, Beschnitt und Abfilmung vom Bildschirm umgehen. Die Kostenkurven von Erzeugen und Erkennen laufen derzeit gegeneinander.
Die Maßnahmen zur Kennzeichnung von mit KI erzeugten und synthetischen Inhalten gelten seit dem 1. September 2025. Vier Behörden haben sie gemeinsam erlassen, verlangt werden sowohl sichtbare als auch unsichtbare Kennzeichnungen. Sichtbar ist der Hinweis, den Nutzer sehen, unsichtbar die Signatur in den Metadaten. In einem normalen Veröffentlichungsprozess funktioniert das. Nur halten sich bösartige Konten nicht an normale Prozesse: Metadaten lassen sich löschen, sichtbare Hinweise wegschneiden, Bilder neu abfilmen.
Was Plattformen wirklich zu fassen bekommen, ist deshalb nicht das Wasserzeichen, sondern der Abgleich von Person und Material. Gesichter und Stimmen von Prominenten sind eine kleine, aufzählbare Menge. Ein Abgleich gegen eine bekannte Liste ist technisch realistischer als die Frage, ob ein Video KI-generiert ist. Genau dort lässt sich Prävention umsetzen: einmal beim Veröffentlichen abfangen ist billiger, als hinterher tausend Beiträge nachzuverfolgen.

Die Gerichte haben die Beweislast schon verschoben
Der Fall der Synchronsprecherin am Mittleren Volksgericht 1 in Shanghai am 2. November war ein sehr konkretes Signal. Bei 28 akustischen Formant-Merkmalen lagen 24 unter 10 Prozent Abweichung von der echten Stimme, 16 davon unter 5,36 Prozent, "recht ähnlich" und "hoch ähnlich" machten zusammen 90 Prozent aus. Das Gericht verurteilte den Plattformbetreiber zu 50.000 Yuan Schadenersatz.
Wichtiger ist die Verteilung der Beweislast. Der Rechteinhaber muss nur zwei Dinge belegen: dass es einen plausiblen Weg gab, an seine Stimme zu kommen, und dass die synthetische Stimme ihm stark ähnelt. Damit ist der erste Anscheinsbeweis erbracht. Danach muss die Plattform belegen, dass die Trainingsdaten rechtmäßig beschafft wurden oder dass die Stimme nichts mit der Klägerin zu tun hat. Im Urteil wird der Sinn dieser Regel offen benannt: die strukturelle Beweisnähe bei KI-Verletzungen ausgleichen und verhindern, dass Plattformen sich mit "technischer Blackbox" oder "der Mitarbeiter ist ausgeschieden, das lässt sich nicht klären" aus der Verantwortung ziehen.
Diese Linie entspricht Artikel 4 der Stellungnahme des Obersten Volksgerichts zur rechtlichen Behandlung von Streitigkeiten mit Bezug zu künstlicher Intelligenz vom 7. September 2026. Auf diese Runde der Aufsicht übertragen heißt das dasselbe: Wer die Daten hat, muss auch deren Herkunft belegen können.
Praktisch bedeutet das für Plattformen: Herkunftsnachweise für Trainingsdaten, Belege über die Lizenzierung von Material, Protokolle der Prüfschritte. Im Alltag sehen die aus wie Compliance-Papier. Wenn es knallt, sind sie das einzige Material, mit dem sich nachweisen lässt, dass man keine Schuld trägt. Der Wert einer Spur zeigt sich nicht im Normalbetrieb, sondern am Tag der Klage.
Für Händler und Creator gibt es nur drei Pflichten
Erstens die Lizenzkette. Wer echte Gesichter und echte Stimmen verwendet, egal ob selbst gedreht oder vom Partner geliefert, braucht einen schriftlich fixierten Lizenzumfang. Im Shanghai-Fall argumentierte die Plattform, man habe nicht gewusst, dass es sich um eine Synchronsprecherin handele. Das Gericht ließ das nicht gelten. Nicht zu wissen heißt nicht, dass man es benutzen darf.
Zweitens die Kennzeichnung. Sichtbar im Bild, unsichtbar in der Datei. Das ist inzwischen Pflicht, keine Option. Viele Teams finden, Kennzeichnungen stören das Bild, und machen sie winzig. In der Aufsichtspraxis dürfte das als Verstoß gewertet werden.
Drittens die Dokumentation der Materialherkunft. Dieser Punkt wird am häufigsten übersprungen und ist im Streit am tödlichsten. Woher das Material kommt, wer es geliefert hat, welche Nutzungen die Lizenz abdeckt: das gehört zum fertigen Clip ins Archiv und nicht verteilt in den Chats von drei Leuten.
Diese Runde ist nicht einmalig
Der letzte Satz der Meldung lautet, man werde die Aufsicht weiter verstärken und die Hauptverantwortung der Websites und Plattformen weiter festschreiben. Solche Formeln tauchen in den KI-Dokumenten der letzten zwei Jahre oft auf. Sie zielen auf Dauerbetrieb, nicht auf eine Kampagne.
Für Leute, die mit KI-Inhalten Geld verdienen, ist der Maßstab einfacher geworden: Kann ich sagen, wer auf dem Bild ist, woher die Lizenz kommt und ob der Beitrag gekennzeichnet ist? Wer alle drei Fragen beantwortet, muss nicht fürchten, dass das Konto eines Tages verschwindet. Wer sie nicht beantwortet, sammelt mit jedem Wachstum schneller Risiko an.
Für die Plattformen verschiebt sich der Wettbewerb von "können wir das erzeugen" zu "können wir in der Sekunde des Veröffentlichens abfangen". 3961 Konten sind die Bilanz dieser Runde. Die nächste Bilanz misst vermutlich nicht, wie viel gesperrt wurde, sondern wie viel abgefangen.
Verwandte Artikel
Der Verwaltungsrat baute nebenbei einen Exportausschuss
Nur eines der beiden Ereignisse vom 17. November wurde zur Schlagzeile. Das andere verändert das Unternehmen wahrscheinlicher: ein ständiger Ausschuss für Exportkontrolle.
Nvidia hat nie eine zweite Reihe gebaut
Nvidia hat dreiunddreißig Jahre auf die Autorität eines Gründers gebaut. Die Suche nach seinem Nachfolger zeigt, was dabei nie mitgebaut wurde: eine zweite Reihe.
Zehn Abstufungen, keine einzige neue Zahl
Niemand hat neue Daten zum Auftragsbestand geliefert. Geändert hat sich nicht die Mitte der Prognose, sondern die Breite der Spanne – und das reicht für zehn Abstufungen.
Ein Konzern, vier Billionen Dollar und eine einzige Person
In neun Tagen wechselt Nvidia den Chef, baut den Verwaltungsrat um und legt trotzdem Zahlen vor. Der Markt hat in dieser Zeit vor allem eines getan: einen Preis für einen einzigen Menschen gefunden.