KI-generierte Inhalte müssen jetzt ihre Identität offenlegen

Ab dem 1. Oktober müssen KI-generierte Inhalte bei der Verbreitung in China ein Kennzeichen tragen. Die von vier Behörden – der chinesischen Cyberspace-Behörde, dem Ministerium für Industrie und Informationstechnik, dem Ministerium für öffentliche Sicherheit und der Staatlichen Verwaltung für Radio und Fernsehen – gemeinsam veröffentlichten „Maßnahmen zur Kennzeichnung von durch künstliche Intelligenz generierten und synthetisierten Inhalten“ treten an diesem Tag offiziell in Kraft. Texte, Bilder, Audio- und Videoinhalte sowie virtuelle Szenen – alle Informationen, die mit KI-Technologie erzeugt oder synthetisiert werden – müssen eine Kennzeichnung tragen.

Die ersten Veränderungen, die normale Nutzer bemerken, kommen von bekannten Apps. WeChat, Video Channels, Douyin, Bilibili, Weibo und Xiaohongshu haben rund um das Inkrafttreten der Maßnahmen nach und nach ihre Nutzungsbedingungen aktualisiert und verlangen von Nutzern, die Inhalte veröffentlichen, KI-generierte Inhalte deutlich sichtbar und proaktiv zu kennzeichnen. Die Folgen einer fehlenden Kennzeichnung werden unmissverständlich genannt: Reichweitenbegrenzung, Entfernung und im schweren Fall Kontosperrung. Auf einer Kurzvideo-Plattform wird unter dem Bild eine kleine Zeile eingeblendet, wenn Nutzer Inhalte wie „Kleinkind wäscht Gemüse und macht Feuer“ zu sehen bekommen, mit dem Hinweis, dass der Inhalt mit KI-Technologie hergestellt wurde und fiktive Inhalte mit Vorsicht zu prüfen sind. Jemand veröffentlichte einen Screenshot dieses Satzes und sagte, die älteren Menschen in der Familie hätten endlich geglaubt, dass diese Kinder nicht echt seien.

Zwei Kennzeichnungen – eine für Menschen, eine für Maschinen

Die Maßnahmen unterteilen die Kennzeichnung in eine explizite und eine implizite Form. Eine explizite Kennzeichnung ist eine, die Nutzer deutlich wahrnehmen können, etwa ein Ecklogo im Bild, ein Hinweis vor der Wiedergabe oder eine Sprachansage am Anfang einer Audiodatei. Die implizite Kennzeichnung ist in den Metadaten der Datei eingebettet, für das menschliche Auge unsichtbar, kann aber von Plattformen und Aufsichtsbehörden mit Werkzeugen ausgelesen werden, um Fragen wie „Wer hat diesen Inhalt erzeugt und von welchem Dienst stammt er?“ zu beantworten.

Die Verantwortung wird nach Prozessabschnitten aufgeteilt. Dienstanbieter müssen bei der Inhaltserzeugung, der Verbreitung und dem Herunterladen sicherstellen, dass die Kennzeichnung vollständig ist; App-Vertriebsplattformen müssen prüfen, ob die zum Download angebotenen Apps über eine Funktion zum Hinzufügen von Kennzeichnungen verfügen; private Nutzer müssen beim Veröffentlichen generierter Inhalte proaktiv eine Erklärung abgeben. Diese Kette verlagert die Inhaltsprüfung, die früher erst im Nachhinein möglich war, vor auf die Produktgestaltung und die Freigabe von Apps.

Für Marketing-Accounts, die vom Reposten und Umschreiben leben, ist die implizite Kennzeichnung eine harte Einschränkung. Früher konnte man ein fremdes Video mit neuem Titelbild und anderer Farbgebung als eigenes Original veröffentlichen; heute können in den Metadaten noch Herkunftsinformationen stecken, und die Plattform kann bis zum ursprünglichen Dienstanbieter zurückverfolgen und prüfen, ob dieser seine Kennzeichnungspflicht erfüllt hat.

Warum für eine einzelne Sache eigens ein Regelwerk erlassen wurde

Die Kennzeichnung wirkt vielleicht unscheinbar, doch sie löst den schwierigsten Teil von KI-Inhalten: die Erkennung im großen Maßstab. Xiao Youdan, Forscher am Institut für Wissenschafts- und Technologiestrategie der Chinesischen Akademie der Wissenschaften, erwähnte in einer Interpretation, das Hauptziel des Kennzeichnungssystems sei eine Regulierung, die großflächig, hoch zuverlässig und kostengünstig ist. Inhaltsprüfung per Hand ist nicht zu bewältigen, Urteile per Modell führen leicht zu Fehlalarmen, doch ein Label ist ein Signal, das automatisiert überprüft werden kann und wenig kostet.

Ein weiteres Szenario, auf das sie abzielt, ist Betrug. Die App des Nationalen Zentrums für Betrugsprävention hat bereits eine Funktion zur „KI-Inhaltsprüfung“ eingeführt: Text, Bilder oder Videos hochladen, und in wenigen Sekunden gibt es eine erste Einschätzung. Die unter Anleitung des Kriminaluntersuchungsbüros des Ministeriums für öffentliche Sicherheit und von der Shanghaier Stadtpolizei entwickelte App „Nationale Betrugsbekämpfung KI“ ist ebenfalls zeitgleich online gegangen; gibt man verdächtige Szenarien ein, zerlegt sie gängige Betrugsmethoden. Gesichtstausch und Stimmimitation sind in den vergangenen zwei Jahren immer häufiger bei Telekommunikations- und Internetbetrug aufgetreten. KI-Inhalte zu kennzeichnen setzt dieser Kette einen weiteren Widerstand entgegen.

Die Kennzeichnungsmaßnahmen sind keine isolierte Aktion. Der Oberste Volksgerichtshof veröffentlichte „Stellungnahmen zur Behandlung von Streitfällen mit Bezug zu künstlicher Intelligenz nach dem Gesetz“ und nahm darin Fragen wie KI-Gesichtstausch und Stimmimitation, KI-Halluzinations-Verletzungen und das „Doxxing“ im Netz in die Entscheidungslinie auf; die Zentrale Internetinformationsbehörde startete die Sonderaktion „Qinglang – Bekämpfung von Missständen bei KI-Anwendungen“ und listete sieben Kategorien von Zielobjekten auf, darunter die Nichterfüllung der Registrierung großer Modelle, KI-Datenvergiftung und unzureichende Umsetzung der Kennzeichnung generierter und synthetisierter Inhalte; der am 14. September veröffentlichte „Rahmen für KI-Sicherheitsgovernance 3.0“ weitete den Governance-Umfang von einzelnen technischen Gliedern auf den gesamten Prozess von Daten, Algorithmen, Modellen, Anwendungen und Lieferkette aus. Am 8. Oktober trat die erste branchenweite Sicherheitsklassifizierungsnorm für generative KI-Dienste in Kraft; die Normen zu Agenten erfassen 13 Hauptkategorien und 97 Risiken. Die Zeitpunkte dieser Dokumente liegen dicht beieinander; zusammengenommen ergeben sie einen Governance-Pfad von Inhalten zu Verhaltensweisen und von einem einzelnen Modell zur gesamten Kette.

Andere Länder tun dasselbe

Zoomt man etwas heraus, ist die Gesetzgebung zur Kennzeichnungspflicht in den vergangenen Jahren zu einem globalen Konsens geworden. Die USA, Singapur, die EU und Großbritannien treiben jeweils eigene Kennzeichnungsregeln für generative KI voran. Die Transparenzvorschriften des EU-Gesetzes über künstliche Intelligenz treten am 2. August 2026 in Kraft und verlangen, dass KI-Interaktionen offengelegt, synthetische Inhalte gekennzeichnet und Deepfakes markiert werden; bei Verstößen drohen Bußgelder von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. OpenAI kündigte zur Compliance an, im EU-Raum von ChatGPT und Codex generierte Texte mit unsichtbaren Wasserzeichen zu versehen.

Der Unterschied liegt beim Ansatzpunkt. Die EU setzt auf Risikoklassifizierung plus hohe Geldstrafen und legt den Druck auf die Dienstanbieter; das chinesische Regelwerk betont stärker die Nachverfolgbarkeit über die gesamte Kette und die Zusammenarbeit der Plattformen und verteilt die Kennzeichnungspflicht auf drei Seiten: Diensteanbieter, Vertriebsplattformen und Nutzer. Die gemeinsame Voraussetzung beider Wege ist dieselbe: Zuerst müssen Inhalte Herkunftsinformationen tragen, erst danach kann es um Verantwortlichkeit und Governance gehen.

Was das für Kreative konkret bedeutet

Für gewöhnliche Kreative liegt die Veränderung nicht in der Technik, sondern in der Gewohnheit. Früher konnte man eine von KI gemalte Illustration als normales Werk veröffentlichen; heute muss man proaktiv erklären, und ob die Reichweite danach vom Algorithmus gedrosselt wird, ist für viele eine offene Frage. Öffentliche Daten, die das beantworten könnten, gibt es derzeit noch nicht. Die Plattformen deuten an, dass proaktiv gekennzeichnete Inhalte nicht zusätzlich bestraft werden; tatsächlich geahndet werden diejenigen, die nicht kennzeichnen und trotzdem echte Aufnahmen vortäuschen wollen.

Wirklich beobachten sollte man, ob implizite Kennzeichnungen eine Weiterverarbeitung überstehen. Wird ein Video mit Wasserzeichen in das Werk eines anderen geschnitten, mehrfach neu kodiert und erneut als Screenshot gepostet, sinkt die Überlebensrate des Wasserzeichens. Das ist auch eine Schwäche, die OpenAI selbst einräumt: Bei seinem Textwasserzeichen fällt die Erkennungsrate nach dem Ersetzen von 10 % der Wörter von etwa 92 % auf 66 %, nach dem Ersetzen von 25 % bleiben nur 17 %. Kennzeichnungen können die Kosten für Fälschungen erhöhen, aber sie können den Weg der Fälschung nicht vollständig versperren.

Die praktischere Frage ist die Grenze. Wenn ein echtes Foto per KI geglättet, der Hintergrund ausgetauscht und Passanten entfernt wurden – zählt es dann als KI-generiert? Die Maßnahmen geben die Richtung vor, die konkrete Beurteilung hängt aber von den Durchführungsbestimmungen der Plattformen ab. Ist das Label zu weit gefasst, kennzeichnen alle alles, und das Label verliert seinen Informationsgehalt; ist es zu eng gefasst, entgehen ihm massenhaft Inhalte in der Grauzone.

Die Kennzeichnungsmaßnahmen ändern den Standardwert. Zuvor war die Frage, ob ein Inhalt KI-generiert ist, Sache der Plattform und Sache des Publikums – nur nicht Sache der veröffentlichenden Person. Jetzt ist sie zuerst Sache der veröffentlichenden Person. Dieser Schritt löst nicht alle Probleme, aber er macht „KI-generiert“ von einer Option, die man verbergen konnte, zu einer Frage, die beantwortet werden muss.