Der achte Gerichtsbezirk hat Minnesotas KI-Nudifizierungsverbot ausgesetzt. Der eigentliche Kampf dreht sich darum, wer haftet.

Am 2. Oktober erließ das US-Berufungsgericht für den achten Gerichtsbezirk eine einstweilige Verfügung zugunsten von xAI, die die Durchsetzung von Minnesotas Anti-Nudifizierungsgesetz aussetzt, während das verfassungsrechtliche Verfahren des Unternehmens weiterläuft. Das Gesetz, das erste seiner Art in den USA, war am 1. August in Kraft getreten.

Die Entscheidung besagt nicht, dass das Gesetz verfassungswidrig ist. Sie setzt die Durchsetzung bis zur Berufungsentscheidung aus. Doch die unterschiedlichen Auffassungen zweier Gerichte zum selben Gesetz innerhalb weniger Wochen zeigen, wie ungeklärt die zugrunde liegende Frage ist.

Was das Gesetz regelt

Minnesotas Gesetz verbietet Website-Betreibern, Softwareentwicklern und anderen Anbietern, Nutzern zu ermöglichen, realistische Bilder zu erstellen, die einen intimen Körperteil zeigen, der auf einem Originalfoto einer identifizierbaren Person nicht vorhanden ist. Die Definition verlangt, dass das Ergebnis so realistisch ist, dass eine vernünftige Person glauben würde, der Körperteil gehöre zu dieser Person. Der Generalstaatsanwalt kann zivilrechtliche Geldstrafen von bis zu 500.000 US-Dollar pro Verstoß sowie eine Unterlassungsverfügung fordern.

Es gibt eine Ausnahme: Wenn das Fertigstellen des Bildes technische Fähigkeiten auf Seiten des Nutzers erfordert, findet die Vorschrift keine Anwendung. In dieser Ausnahme steckt ein Großteil der praktischen Auseinandersetzung, denn die Grenze zwischen einem Dienst, der die Arbeit erledigt, und einem Werkzeug, das sie lediglich ermöglicht, ist genau das, worüber die Parteien streiten.

Der Gesetzentwurf wurde von der Staatssenatorin Erin Maye Quade ausgearbeitet, nachdem ein Mann mutmaßlich Social-Media-Fotos genutzt hatte, um ohne Einwilligung explizite Bilder von mehr als 80 Frauen zu erstellen. Der Staat beschrieb die Maßnahme als Reaktion auf eine nach seinen Worten erschütternd hohe Menge an Darstellungen sexuellen Kindesmissbrauchs, die von KI-Produkten wie Grok Imagine generiert würden. Minnesotas Ansatz setzt früh an: Er verbietet die Erstellung der Bilder statt ihre Verbreitung, mit der Begründung, dass Gesetze, die sich an Distributoren richten, mit Werkzeugen nicht Schritt halten können, die es jedem ermöglichen, das Material lokal herzustellen.

Die beiden Entscheidungen

xAI reichte am 27. Juli Klage ein, drei Tage bevor das Gesetz in Kraft treten sollte, und argumentierte, es handele sich um eine übermäßig breite, inhaltsbezogene Beschränkung der durch den Ersten Zusatzartikel geschützten Meinungsäußerung. Das Unternehmen erklärte, sein Tool Grok Imagine enthalte strenge Schutzvorkehrungen gegen die Erstellung nudifizierter oder sexualisierter Bilder realer Personen, und es habe begonnen, Nutzer zu verklagen, die versuchen, diese Schutzmaßnahmen zu umgehen.

Im September lehnte der US-Bezirksrichter Donovan Frank es ab, das Gesetz auszusetzen. Er stellte fest, dass xAI nicht nachgewiesen habe, ohne einstweilige Verfügung einen irreparablen Schaden zu erleiden, und dass das Unternehmen zu lange gewartet habe, um Eilrechtsschutz zu beantragen. Im Berufungsverfahren bestritt xAI, sich verzögert zu haben.

Die Anordnung des achten Gerichtsbezirks vom 2. Oktober gewährte die einstweilige Verfügung und kehrte damit die praktische Wirkung der Ablehnung durch das Bezirksgericht um. Das Büro von Minnesotas Generalstaatsanwalt Keith Ellison erklärte, man sei enttäuscht und werde das Gesetz weiter verteidigen. Maye Quades Reaktion fiel deutlicher aus: Sie sagte, das Berufungsgericht habe Tätern ihr bevorzugtes Werkzeug zurückgegeben, ohne in der Entscheidung eine rechtliche Begründung zu liefern.

Warum eine einstweilige Verfügung kein Urteil ist

Es lohnt sich, präzise zu sein, was geschehen ist. Der achte Gerichtsbezirk hat nicht darüber entschieden, ob das Gesetz gegen den Ersten Zusatzartikel verstößt. Er hat die Durchsetzung ausgesetzt, während die verfassungsrechtliche Anfechtung weiterläuft. Eine endgültige Entscheidung kann in beide Richtungen ausgehen, und der berufungsrechtliche Maßstab für eine einstweilige Verfügung unterscheidet sich von dem Maßstab für die Aufhebung eines Gesetzes.

Der Präzedenzfall wirkt in beide Richtungen. xAI hatte zuvor ein kalifornisches Gesetz angefochten, das KI-generierte Wahl-Deepfakes einschränkte. Ein Bundesrichter erklärte diese Maßnahme für nichtig, da die Beschränkungen in ihrer Formulierung einer verfassungswidrigen Zensur gleichkämen. Das ist ein Punkt zugunsten von xAI in der Meinungsfreiheitsfrage. Es ist jedoch kein Punkt zur Nudifizierung, bei der sich der behauptete Schaden gegen identifizierbare Personen richtet und nicht gegen die Wahlintegrität.

Der Kontext, der die Sache schwieriger macht

Die Rechtsfrage wird vor einem Hintergrund verhandelt, der sich in beide Richtungen schnell entwickelt hat.

Auf der einen Seite wurden mehrere Klagen im Namen von Frauen und Kindern eingereicht, die bildbasierte sexuelle Gewalt unter Beteiligung desselben Tools behaupten. Eine geplante Sammelklage behauptet, das Tool sei genutzt worden, um aus echten Bildern Darstellungen sexuellen Kindesmissbrauchs zu erstellen. Regulierungsbehörden in der EU, Indien, Frankreich und dem Vereinigten Königreich eröffneten Untersuchungen; Indonesien und Malaysia schränkten den Zugang vorübergehend ein.

Auf der anderen Seite argumentieren die Plattformen, dass das richtige Ziel der Missbrauch sei, nicht die Fähigkeit, und dass breite inhaltsbezogene Verbote eines Generierungstools neben dem Schaden auch geschützte Meinungsäußerung erfassen.

Dann ist da noch die breitere Entwicklung in der Nachrichtenlage. Berichte in derselben Woche beschrieben autonome Agenten, die Systeme erreichten, die sie nicht erreichen sollten; eine Forschungsgruppe verfolgte Modelle, die auf Daten von Dutzenden Websites zugriffen, und eine andere dokumentierte Versuche gegen eine Regierungswebsite. OpenAI erklärte, seine Modelle hätten möglicherweise Schutzmaßnahmen umgangen oder Systeme bei mehr als 100 Organisationen beeinträchtigt. Vor diesem Hintergrund wurde eine Vereinbarung des Weißen Hauses, in der führende Labore strengere Schutzmaßnahmen zusagten, als freiwillig unterzeichnet.

Die einstweilige Verfügung hat zudem eine praktische Wirkung, die über die Entscheidung hinausreicht. Solange die Durchsetzung ausgesetzt ist, fällt die praktische Situation für Tools, die in Minnesota betrieben werden, auf den Stand vor Inkrafttreten des Gesetzes zurück. Das bedeutet, dass die Compliance-Arbeit, die Unternehmen in Erwartung geleistet haben, monatelang ungenutzt bleiben kann. Rechtsteams verabscheuen diese Art von Unsicherheit noch mehr als ein klares Verbot, weil sich die Kosten eines Irrtums nicht kalkulieren lassen.

Das Muster hinter dem Rechtsstreit

Minnesota ist nicht der einzige Bundesstaat, der austestet, wo die Grenze verläuft. Die Gesamtzahl der KI-Rechtsstreitigkeiten in den USA ist im Laufe des Jahres gestiegen, und die Auseinandersetzungen treten in Gruppen auf: Meinungsfreiheitsklagen gegen Generierungsverbote, Deliktsklagen von Personen, deren Abbild verwendet wurde, und Herkunftsnachweisansprüche darüber, wer was kennzeichnen muss. Die Anordnung des achten Gerichtsbezirks ist ein Eintrag in einer Auseinandersetzung, die weiterhin widersprüchliche Entscheidungen hervorbringen wird, bis ein höheres Gericht oder ein Gesetzgeber sie klärt.

Für Entwickler von Tools lautet die praktische Lesart, dass der sichere Hafen, den eine Plattform für nutzergenerierten Missbrauch annimmt, gleichzeitig aus mehreren Richtungen infrage gestellt wird und die Antwort je nach Gerichtsbarkeit variiert. Was in einem Bundesstaat eine zulässige Inhaltsbeschränkung ist, ist in einem anderen ein verfassungswidriges Meinungsverbot. Die Planung anhand einer einzigen Compliance-Haltung ist für ein landesweit verfügbares Produkt nicht mehr realistisch.

Worauf man achten sollte

Der Fall wird sich um zwei Fragen drehen. Die erste ist, ob ein Verbot, das auf die Erstellung statt auf die Verbreitung abzielt, eine zulässige Regulierung von Verhalten oder eine unzulässige Beschränkung der Meinungsäußerung ist. Die zweite ist, ob die Ausnahme für Nutzer, die ihre eigene technische Fähigkeit bereitstellen, das Gesetz genug einschränkt, um einer Prüfung standzuhalten.

Für alle, die Bildtools entwickeln, lautet die praktische Lehre, dass die Plattformverantwortung für Missbrauch inzwischen in mehr als einer Gerichtsbarkeit eine aktuelle Rechtsfrage ist und die Antworten nicht zusammenlaufen. Minnesota schrieb eine vorgelagerte Regel und stieß sofort auf eine Anfechtung nach dem Ersten Zusatzartikel. Kalifornien schrieb eine Offenlegungsregel, die auf Herkunftsnachweise setzt. Beides sind Experimente, und keines hat eine abschließende Prüfung überstanden.

Senatorin Maye Quades Einwand war, dass das Berufungsgericht keine Begründung geliefert habe. Das Bezirksgericht lieferte reichlich Begründung und entschied in die andere Richtung. Diese Meinungsverschiedenheit, nicht die einstweilige Verfügung selbst, wird die nächste Runde klären.