Oberstes Volksgericht zieht rote Linie für KI: Wie die 24 Artikel die Grenzen KI-generierter Inhalte definieren

Am 7. September veröffentlichte das Oberste Volksgericht die „Stellungnahme zur gesetzeskonformen Behandlung von Streitigkeiten mit Bezug zu künstlicher Intelligenz“ (Aktenzeichen Fa Fa [2026] Nr. 10). Das Dokument gliedert sich in fünf Teile und umfasst insgesamt 24 Artikel; es ist Chinas erstes systematisches justizielles Entscheidungsdokument speziell für KI-Streitigkeiten. In den vergangenen Jahren haben sich vor Gerichten im ganzen Land Fälle mit KI-Bezug angestaut: KI-Gesichtstausch, kommerzielle Nutzung von KI-Stimmen, Datenscraping für das Modelltraining, durch Halluzinationen von großen Modellen verbreitete Falschbehauptungen, Urheberrechtszuordnung KI-generierter Inhalte und Unfälle mit intelligenten Fahrassistenzsystemen. Für jede Kategorie gibt es Präzedenzfälle, doch die Maßstäbe sind uneinheitlich; Richter wenden zumeist das traditionelle Zivilrecht auf neue Konstellationen an.

Diese Stellungnahme leistet nichts anderes, als diesen verstreuten Präzedenzfällen einen einheitlichen Bezugsrahmen zu geben.

KI ist kein Rechtssubjekt – das ist der Ausgangspunkt der gesamten Logik

Artikel 2 der Stellungnahme sagt es unmissverständlich: Künstliche Intelligenz selbst besitzt keine zivilrechtliche Rechtssubjektivität; die entsprechende rechtliche Verantwortung tragen zivilrechtliche Subjekte wie Entwickler, Diensteanbieter und Nutzer.

Diese Haltung ist nicht neu. Im vom Internetgericht Hangzhou verhandelten landesweit ersten Fall einer durch KI-Halluzination verursachten Rechtsverletzung urteilte das Gericht, dass ein automatisch von einer KI generiertes „Versprechen einer Entschädigung“ keine rechtliche Bindungswirkung entfaltet, weil dahinter kein verantwortliches Subjekt mit zivilrechtlicher Handlungsfähigkeit steht. Die Stellungnahme erhebt diesen Einzelfall zu einer landesweit anwendbaren Entscheidungslogik.

Sobald die Frage des Rechtssubjekts geklärt ist, ist der Rest einfach: Das Modell ist ein Werkzeug; wenn etwas schiefgeht, muss man sich an Menschen wenden, nicht an das Modell.

Drei Säulen: Menschenzentrierung, Innovationsförderung, Sicherheitsleitplanken

Die Stellungnahme legt drei Grundsätze fest: die Menschenzentrierung beizubehalten, die innovative Entwicklung zu unterstützen und die Sicherheitsleitplanken zu stärken. Betrachtet man alle drei zusammen, lässt sich die regulatorische Ausrichtung erkennen: Man beabsichtigt nicht, KI mit einem einzigen Maßstab einzuengen, erlaubt aber auch nicht, dass die Technologie den Regeln davonläuft.

Bei der Konkretisierung der Menschenzentrierung in einzelnen Artikeln liegt der Schwerpunkt auf Persönlichkeitsrechten und personenbezogenen Daten. Häufige Streitfälle wie KI-Gesichtstausch, KI-Stimmenklonen und das Nachahmen von Prominenten für Verkaufsauftritte werden ausdrücklich benannt. Die Stellungnahme betont, bestehende Gesetze vollständig und wirksam auszuschöpfen, algorithmische Diskriminierung zu verhindern und das Recht auf Information sowie das Wahlrecht des Einzelnen bei automatisierten Entscheidungen zu gewährleisten.

Der Grundsatz der Innovationsförderung zeigt sich vor allem bei der Bestimmung des „angemessenen Rahmens“ von Trainingsdaten. Zuvor waren die Gerichte uneins darüber, wie die Nutzung öffentlich zugänglicher personenbezogener Daten zum Training großer Modelle zu beurteilen ist – einige legten einen großzügigen, andere einen strengen Maßstab an. Die Stellungnahme zieht keine pauschale Grenze, sondern gibt eine differenziertere Beurteilungsrichtung vor.

Die Sicherheitsleitplanken betreffen hingegen stärker die Pflichten der Plattformen und die Verteilung der Haftung für Rechtsverletzungen.

Die Artikel, die Kreative am meisten interessieren sollten

Für Menschen, die Inhalte erstellen, sind in dieser Stellungnahme zwei Bereiche am praktischsten.

Ein Bereich ist das Urheberrecht an KI-generierten Inhalten. Die Stellungnahme führt den Beurteilungsansatz „Was hat der Mensch getan“ fort: Wenn hinter den KI-generierten Inhalten ein substanzieller menschlicher Beitrag und kreative Auswahl stehen, ist die Frage der Werkqualität diskutabel. Diese Denkweise steht auf derselben Linie wie zwei lokale Urteile aus dem September. Im ersten KI-Stimmen-Rechtsverletzungsfall Shanghais wurden 50.000 Yuan Schadenersatz zugesprochen, im Urheberrechtsfall um eine KI-Kurzserie in Wuhan 20.000 Yuan; bei der Berechnung des Schadenersatzes berücksichtigten die Gerichte jeweils auch Produktionskosten wie den Token-Verbrauch. Ob Werkzeugkosten als Teil des schöpferischen Aufwands gelten können, war zuvor nicht eindeutig geklärt.

Der andere Bereich ist die Grenze von Trainingsdaten. Die Stellungnahme verlangt, die Verantwortung großer Modelle in jeder Phase – Datensammlung, Feintuning und Inhaltsverteilung – zu klären; betroffen sind mehrere Dimensionen wie Vervielfältigungsrecht, Rechte an personenbezogenen Daten, Persönlichkeitsrechte an der Stimme, Ehrenschutz sowie das Recht der öffentlichen Zugänglichmachung über Informationsnetzwerke. Mit anderen Worten: Im Leben eines Modells können Datenerhebung, Parameteranpassung, Beantwortung von Fragen und Distribution jeweils rechtliche Risiken bergen – nicht nur „der Moment der Generierung“.

Das Verhältnis zum bestehenden Recht

Die Stellungnahme betont wiederholt, dass sie keine neuen zivilrechtlichen Rechte schafft, sondern innerhalb des bestehenden Rahmens – darunter das Zivilgesetzbuch, das Urheberrechtsgesetz, das Gesetz zum Schutz personenbezogener Daten, das Datensicherheitsgesetz, das Gesetz gegen unlauteren Wettbewerb und das Verbraucherschutzgesetz – die Anwendungskriterien für KI-Konstellationen klarstellt.

Auch die Arbeitsteilung mit den „Vorläufigen Maßnahmen zur Verwaltung generativer KI-Dienste“ ist klar: Die Maßnahmen betreffen die Ebene der Verwaltungsaufsicht und begründen Pflichten für Diensteanbieter; die Stellungnahme betrifft die Feststellung zivilrechtlicher Rechtsverletzungen und dient Gerichten als Grundlage ihrer Entscheidungen. Verwaltungsvorschriften können nicht unmittelbar als Grundlage zivilrechtlicher Entscheidungen dienen; diese Lücke bestand bisher, und die Stellungnahme schließt sie.

Die Stellungnahme benennt zugleich weitere Problemfelder wie Big-Data-Diskriminierung von Stammkunden, die Haftung bei Unfällen mit autonomem Fahren und durch KI-Halluzinationen verursachte Ehrverletzungen und gibt Hinweise zu Beweisregeln. Wie KI-generierte Inhalte bewiesen und auf ihre Herkunft zurückverfolgt werden können, war in der Praxis schon immer schwierig.

Was das für Unternehmen und Kreative bedeutet

Aus Compliance-Sicht verwandelt diese Stellungnahme „Nachbesserung im Nachhinein“ in eine „Checkliste im Voraus“. Teams, die Inhaltsprodukte entwickeln, sollten zumindest einige Punkte durchgehen: Woher stammen die Trainingsdaten, und liegen Genehmigungen vor? Betreffen KI-generierte Inhalte das Bild oder die Stimme realer Personen? Gibt es für nutzergerichtete Funktionen eine Information über automatisierte Entscheidungen? Und existiert in der Inhaltsverteilung ein Kanal für die Bearbeitung von Rechtsverletzungsbeschwerden?

Auch im Ausland wurde zur selben Zeit eine eigene Antwort gegeben. Das US-Berufungsgericht für den Dritten Gerichtsbezirk entschied im September im Fall Thomson Reuters gegen Ross Intelligence, dass die Nutzung urheberrechtlich geschützten Materials zum Training eines konkurrierenden kommerziellen KI-Werkzeugs keinen Fair Use darstellt; dies ist die erste Äußerung eines US-Bundesberufungsgerichts zum Verhältnis von KI-Training und Fair Use. China setzt auf eine einheitliche justizielle Stellungnahme, die USA auf Einzelfallurteile – die Wege unterscheiden sich, doch die angesprochenen Fragen überschneiden sich stark: Wo verlaufen die Grenzen von Trainingsdaten, und wem gehören die Rechte an generierten Inhalten?

Regeln aufzuschreiben ist nur der erste Schritt. Viele der 24 Artikel sind grundsätzliche Formulierungen; wie sie im Einzelfall anzuwenden sind, müssen spätere Urteile erst ausfüllen. Für Praktiker bleibt derzeit nur, zunächst die Punkte selbst zu prüfen, die sich selbst prüfen lassen – und nicht erst dann nachzubessern, wenn das Urteil vor der Tür liegt.