Der Deepfake-Backlash wird global, und es geht nicht mehr um ein einziges Unternehmen

Eine Zeit lang sah das Deepfake-Problem wie eine Reihe isolierter Vorfälle aus. Ein Politiker hier, ein Schauspieler dort, ein Tool, das mit lockeren Schutzmaßnahmen ausgeliefert und dann gepatcht wurde. Was sich im letzten Monat geändert hat, ist, dass Regulierer und Gerichte auf der ganzen Welt aufgehört haben, diese Fälle als Einzelfälle zu behandeln, und begonnen haben, eine gemeinsame rechtliche Maschinerie rund um Ähnlichkeit, Einwilligung und Haftung aufzubauen.

Die Europäische Union war die Erste. Ab dem 2. August verlangt die EU-KI-Verordnung (AI Act), dass alle KI-generierten Bilder, Audios oder Texte, die authentisch aussehen, sichtbar gekennzeichnet werden müssen, mit einem Wasserzeichen, das den synthetischen Ursprung offenlegt. Unternehmen drohen Geldstrafen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Umsatzes. Bestehende Systeme haben vier Monate Zeit, dies umzusetzen. Es ist die erste große Jurisdiktion, die Kennzeichnung zu einer harten Anforderung statt zu einem freiwilligen Versprechen macht, und sie gilt auch für Text im öffentlichen Interesse, der keine menschliche redaktionelle Prüfung durchlaufen hat.

Das Ausmaß des Durchsetzungsapparats der EU ist es wert, unterstrichen zu werden. Googles SynthID hat bereits unsichtbare Wasserzeichen auf mehr als 100 Milliarden Bilder und das Äquivalent von 60.000 Jahren Audio gesetzt. Über 180 Organisationen haben den freiwilligen Verhaltenskodex der Kommission unterzeichnet. Die Kennzeichnungsregeln sind der rechtliche Rückhalt für diesen freiwilligen Vorstoß, und sie geben Regulierern einen konkreten Hebel, den sie vorher nicht hatten.

Indien bewegt sich auf einer anderen Achse. Der Oberste Gerichtshof hat das Verfahren am Gujarat High Court ausgesetzt und prüft, ob Deepfake-Rechtsstreitigkeiten landesweit zusammengeführt werden sollen; eine Anordnung muss bis zum 5. Oktober beantwortet werden. Der Drang zur Zentralisierung entspringt einer Sorge, die bürokratisch wirkt, aber tatsächlich praktisch ist: Wenn jedes High Court „Deepfake“ anders definiert, erfüllt eine Plattform am Ende Gujarats Regeln, während sie Bombays verletzt. Unterdessen hat das Bombay High Court diese Woche die unbefugte Nutzung von Name, Bild und Stimme der Schauspielerin Samantha Ruth Prabhu untersagt, die Entfernung KI-generierter und mittels Morphing veränderter Inhalte angeordnet und einen Prima-facie-Verstoß gegen ihre Persönlichkeits- und Publicity-Rechte festgestellt. In der Klage werden 18 Beklagte genannt – Plattformen, KI-Entwickler und Medienunternehmen. Das Gericht stützte die Entscheidung auf Verfassungsrechte und ordnete ihre Publicity- und Persönlichkeitsrechte sowohl unter den Schutz der freien Meinungsäußerung als auch unter das Recht auf Leben, Privatsphäre und Würde.

Die Vereinigten Staaten bewegen sich durch ihre eigenen Kanäle. Der No Fakes Act, der ein bundesweites Publicity-Recht an digitalen Replikaten des Bildes, der Ähnlichkeit und der Stimme einer Person schaffen würde, wurde erneut eingebracht und im Juni vom Justizausschuss des Senats mit positiver Beschlussempfehlung weitergeleitet. SAG-AFTRA hat stark dafür gekämpft, und Hollywood ist der Testfall. Ein Teaser für den kommenden Film As Deep as the Grave zeigte einen KI-generierten Val Kilmer, der 2025 starb, wie er zu einem lebenden Schauspieler eine Zeile spricht. Kilmer war vor seinem Tod besetzt worden und hatte KI-Stimmenarbeit unterstützt, aber die breitere Frage, ob ein Studio die Ähnlichkeit eines verstorbenen Schauspielers ohne rechtliche Reibung wiederauferstehen lassen kann, ist genau das, was der No Fakes Act beantworten soll.

Der rote Faden durch all das ist, dass das Recht sich auf ein Prinzip zubewegt, gegen das die Branche zwei Jahre lang Widerstand geleistet hat: Das Gesicht und die Stimme einer Person sind kein frei verfügbares Rohmaterial. Die EU behandelt Ähnlichkeit als etwas, das gekennzeichnet werden muss. Indische Gerichte behandeln sie als Persönlichkeitsrecht. Die USA debattieren über ein bundesweites Publicity-Recht. Nichts davon ist bereits endgültig geklärt, aber die Richtung ist konsistent und sie ist nicht freundlich gegenüber „schnell ausliefern und später patchen“.

Hier gibt es eine echte Spannung, auf die Bürgerrechtsgruppen hingewiesen haben. Die ACLU, die EFF und das Center for Democracy and Technology warnten in einem Brief vom Juni, dass ein weitreichendes Publicity-Recht ein „Heckler‘s Veto“ schaffen könnte, das mächtigen Personen, denen es missfällt, verspottet zu werden, erlaubt, die Entfernung von Satire und Kommentaren zu verlangen. Diese Sorge ist berechtigt. Die Grenze zwischen dem Schutz eines Opfers und der Bewaffnung eines Zensors ist wirklich dünn, und die jetzt entworfenen Gesetze werden bestimmen, auf welche Seite sie fällt. Ein zu enges Recht lässt die Opfer im Stich. Ein zu weites Recht gibt den Mächtigen eine Waffe gegen Kritik in die Hand.

Es gibt außerdem eine technische Dimension, um die die rechtliche Debatte immer wieder kreist. Die Unterscheidung zwischen Modellen, die Sicherheit während des Trainings einbauen, und Modellen, die nach der Generierung einen Filter anflanschen, ist rechtlich relevant geworden. Sobald ein Bild existiert, kann ein Filter versagen, die Datei kann sich verbreiten, und der Schaden ist bereits eingetreten. Regulierer haben diese Unterscheidung bemerkt, und sie beginnt sich darin niederzuschlagen, wie Haftung zugewiesen wird. Das Unternehmen, das zuerst generiert und später moderiert hat, trägt jetzt mehr Risiko als dasjenige, das die Beschränkung in das Modell selbst eingebettet hat.

Für alle, die diesen Bereich beobachten, ist das Signal, dem man folgen sollte, nicht die nächste Modellveröffentlichung. Es ist die nächste Gerichtsentscheidung, die nächste Leitlinie eines Regulierers, die nächste Takedown-Anordnung. Das sind die Inputs, die bestimmen werden, was die Tools tun dürfen, und sie treffen in einem Tempo ein, an das die Branche nicht gewöhnt ist. Die Technologie ist dem Recht nicht mehr voraus; das Recht holt auf, und die Lücke schließt sich schneller, als die Sicherheitsteams reagieren können.

Was diese Welle von früherer, stillerer Durchsetzung unterscheidet, ist die Art und Weise, wie sich die Fälle gleichzeitig über nicht miteinander verbundene Jurisdiktionen hinweg zu demselben Prinzip stapeln. Es ist nicht mehr ein Regulierer, der auf einen Skandal reagiert. Es ist eine koordinierte Konvergenz von Rechtssystemen, die sich nicht miteinander koordinieren, und das ist ein stärkeres Signal, als es eine einzelne Gerichtsentscheidung sein könnte. Wenn die EU, Indien und die USA innerhalb weniger Wochen alle bei „die Ähnlichkeit einer Person ist geschützt“ ankommen, muss die Branche dies als neue Grundlage behandeln, nicht als eine Reihe von Ausnahmen.

Auch im technischen Argument gibt es einen roten Faden. Ein wiederkehrendes Detail in diesen Fällen ist, ob der Schaden durch Design statt durch Moderation im Nachhinein hätte verhindert werden können. Die Modelle, die in Schwierigkeiten geraten sind, sind diejenigen, die zuerst generiert und später gefiltert haben. Diejenigen, die als verantwortungsvoll hingestellt werden, sind diejenigen, die Beschränkungen während des Trainings eingebettet haben und standardmäßig Herkunftsmetadaten mitliefern. Diese Unterscheidung zwischen integrierter Sicherheit und nachträglich angeschraubter Sicherheit wird zur rechtlichen Trennlinie, und sie gibt jedem Labor eine konkrete Checkliste dafür, was „es richtig machen“ jetzt bedeutet.

Für Kreative und Tool-Entwickler ist der praktische Wandel bereits da. Die Fragen, die früher optional waren – verarbeitet dieses Modell Anfragen, die auf eine reale Person abzielen, bettet es Herkunftsmetadaten ein, gibt es einen echten Meldeweg –, sind jetzt der Unterschied zwischen einem verteidigungsfähigen Produkt und einer rechtlichen Haftung. Deepfakes sind kein Nischenproblem mehr, das vom Trust-and-Safety-Team behandelt wird. Sie sind ein Compliance-Problem mit Geldstrafen, in mehreren Jurisdiktionen, und zwar jetzt.

Das wahrscheinlichste Ergebnis ist nicht, dass generative Medien abgeschafft werden. Es ist, dass die Kosten für die Nutzung des Gesichts einer Person ohne Einwilligung eingepreist werden, und die Tools, die überleben, sind diejenigen, die Einwilligung und Herkunft von Anfang an eingebaut haben, statt sie nach dem Skandal anzuschrauben. Das ist eine echte Veränderung, und sie geschieht schneller, als die meisten in der Branche erwartet haben. Das Fenster, ein Bild- oder Video-Tool auszuliefern, ohne Missbrauch durchzudenken, schließt sich – und es schließt sich nach einem globalen Zeitplan.