Der Affe hat den Hund nicht gerettet. Die Tränen waren echt

Am 7. Oktober kletterte ein Video auf Platz zwanzig der Technik-Charts von Weibo. Zu sehen war ein Affe, der in einem Hochwasser einen Hund in Sicherheit zieht. Es hatte alles, was ein Hit braucht: eine Katastrophe, eine Fürsorge über Artgrenzen hinweg, einen Instinkt, der das moralisch Richtige tut, ohne dass jemand ihn dazu auffordert. Die Leute teilten es und weinten. Dann wurde bestätigt, dass es generiert war.

Das Interessante daran ist nicht, dass es falsch war. Es ist die Reihenfolge, in der die Öffentlichkeit es verarbeitet hat: erst bewegt, dann misstrauisch, dann überprüft. Diese Abfolge ist inzwischen so verlässlich, dass man fast die Uhr danach stellen kann.

Warum sich die Reihenfolge nie ändert

Weil an keiner Stelle der Kette ein Nachweis im Moment der Veröffentlichung verlangt wird.

Eine Redaktion hat redaktionelle Standards, eine Autorenzeile und eine Rechtsabteilung. Wer ein Video auf eine Kurzvideo-Plattform stellt, hat nichts davon. Die Voreinstellung der Plattform ist großzügig: Inhalte gelten als authentisch, bis jemand sie meldet. Der einzige Test, den das Publikum hat, lautet »sieht das echt aus«, und echt auszusehen ist genau das, worin generative Videomodelle inzwischen hervorragend sind.

Nasses Fell. Die besondere Form einer Gischtfontäne. Die Art, wie sich der Körper eines verängstigten Hundes windet. Das sind keine Nebensächlichkeiten. Es sind genau die Merkmale, die menschliche Empathie als Beweis liest. Ein Modell, das darauf trainiert ist, überzeugendes Filmmaterial zu erzeugen, ist funktional ein Modell, das darauf trainiert ist, die Hinweise zu erzeugen, die Menschen Filmmaterial glauben lassen.

Das ist die Asymmetrie. Überprüfung ist langsam, konfliktreich und langweilig. Emotion ist schnell, sozial und belohnend. Es gewinnt das Format, das auf Letzteres optimiert und nichts dafür berechnet, Ersteres zu überspringen.

Die Stichprobe dieses Monats ist ungewöhnlich reich

Der Affe war kein Einzelfall. In denselben Wochen:

Ein Video, das zeigt, wie ein Passagierflugzeug bei starkem Regen außer Kontrolle gerät und sich dreht, kursierte auf ausländischen Plattformen. Lead Stories verfolgte es zurück, KI-Erkennungswerkzeuge stufen es als generiert ein. Ein Clip von Touristen, die in Kanas in Xinjiang einen Bären füttern, wurde als synthetisch bestätigt. Ein Screenshot einer internen »Berichtigungsmitteilung« des Auto-Vergleichsportals Dongchedi erwies sich als gefälscht.

Und in einer ganz anderen Kategorie: Der Kundenservice-Bot der Ticketplattform Taopiaopiao beleidigte einen Nutzer. Die Antwort des Unternehmens: Man wisse nicht, welches große Sprachmodell verwendet worden sei.

Setzt man das nebeneinander, entsteht ein Muster. Ein Fall ist böswillige Fälschung, einer nachlässiger Einsatz, einer ein Screenshot, den jeder mit einem Bildeditor hinbekommt. Gemeinsam ist ihnen ein Defekt: Wenn etwas schiefgeht, gibt es keine identifizierbare Instanz, die den Inhalt erzeugt hat. Nicht der Modellanbieter, nicht die Plattform, nicht das Konto.

Die Kosten treffen das nächste echte Video

Hier ist, was in diesen Debatten meiner Meinung nach zu wenig gewichtet wird.

Der Schaden eines gefälschten Rettungsvideos besteht nicht darin, dass jemand einmal traurig war über einen Affen, den es nicht gab. Er besteht darin, dass das nächste echte Rettungsvideo — und es wird eines geben, in der nächsten Hochwassersaison, gefilmt von jemandem mit einem Telefon und ohne journalistische Ausbildung — bereits diskreditiert ankommt. Die erste Reaktion des Publikums ist darauf dressiert, »vermutlich KI« zu lauten.

Das ist eine Steuer auf Authentizität, und sie ist regressiv. Große Häuser können sich Verifikationsteams leisten. Jemand, der zufällig ein echtes Ereignis filmt, kann das nicht. Jede Fälschung, die viral geht, macht den ehrlichen Zeugen unglaubwürdiger, und der ehrliche Zeuge ist derjenige mit den geringsten Mitteln, irgendetwas zu beweisen.

Dieses Experiment haben wir mit Fotografien bereits gemacht. Die Verifikationsteams von Reuters und AFP, die Routinen der Rückwärtssuche, die Bauernweisheit »schau auf die Hände« — all das ist aus einem Jahrzehnt der Bildmanipulation gewachsen. Es hat Jahre gedauert, und es funktioniert bis heute nicht zuverlässig. Video ist schwieriger, weil Video eine implizite Behauptung von Kontinuität trägt: Das ist passiert, in dieser Reihenfolge, über diese Zeitspanne. Diese Behauptung zu erzeugen ist billig geworden. Sie zu prüfen ist es nicht.

Ein Signaturfeld ist unspektakulär und wahrscheinlich nötig

Der Vorschlag, der in chinesischen Tech-Kommentaren immer wieder auftaucht, ist unkompliziert: drei Signaturfelder.

Erzeugerseite: Welches Modell hat das produziert, angegeben beim Export. Veröffentlichungsseite: Wer bürgt dafür, und auf welcher Grundlage. Plattformseite: Was wurde erkannt, und was wurde dagegen getan. Fehlt eines der drei, bekommt der Beitrag standardmäßig ein sichtbares Etikett »mutmaßlich synthetisch«.

Nichts davon ist technisch schwierig. C2PA-Manifeste und Wasserzeichenverfahren wie SynthID gibt es bereits; schwierig ist die Akzeptanz, denn die Parteien, die am meisten von der Unklarheit profitieren, sind genau die, die unterschreiben müssten.

Und es gibt einen berechtigten Einwand: verpflichtende Herkunftsmetadaten sind auch eine Überwachungsfläche. Ein System, das festhält, welches Modell jedes Bild erzeugt hat, verknüpft mit einem Konto, ist ein System, das festhält, was Menschen herstellen. Jeder ernsthafte Vorschlag muss darauf antworten, und die meisten tun es nicht.

Was in der Zwischenzeit tatsächlich hilft

Drei Gewohnheiten, in absteigender Nützlichkeit.

Suche das Original. Fast jedes virale synthetische Video ist ein Re-Upload. Wenn die früheste Fundstelle ein Konto ohne Vorgeschichte ist, ist das eine Information.

Achte auf die langweiligen Fehler. Generiertes Hochwasser interagiert oft auf leicht falsche Weise mit Objekten: Treibgut, das nicht langsamer wird, Wasser, das nicht nass macht. Nicht immer. Nicht verlässlich. Aber billiger als ein Erkennungsmodell.

Frag, wer davon profitiert. Ein Video, das dich innerhalb von vier Sekunden stark fühlen lässt und keine identifizierbare Quelle hat, ist kein Beweis. Es ist eine Stimmung mit Dateiendung.

Warum die Erkennungswerkzeuge die Lücke nicht schließen

Der vernünftige Impuls lautet: Gut, dann bauen wir bessere Detektoren. Es gibt mehrere, und auf roher Modellausgabe funktionieren sie ordentlich.

Das Problem ist die Kette zwischen Erzeugung und Betrachtung. Ein synthetisches Video wird dreimal neu kodiert, bevor du es siehst: beim Upload, im Transcoder der Plattform und noch einmal, wenn jemand es per Bildschirmaufnahme woandershin weiterverbreitet. Jeder Durchlauf entfernt oder beschädigt die statistischen Fingerabdrücke, nach denen Detektoren suchen. Das Video, das dich erreicht, ist ein komprimiertes, beschnittenes, farbverschobenes Derivat dessen, was ein Detektor hätte identifizieren können.

Dazu kommt die Asymmetrie der Fehler. Ein Detektor, der 5 Prozent echten Materials als synthetisch markiert, ist in einer Redaktion untragbar — man kann einem Zeugen nicht sagen, sein Video sei falsch, weil ein Modell das behauptet. Ein Detektor, der 5 Prozent der Fälschungen übersieht, ist ebenso untragbar. Es gibt keine Schwelle, die beides erfüllt, und die Kosten eines falsch positiven Befunds treffen eine Person, nicht eine Plattform.

Also bleiben die Werkzeuge in einer engen Rolle: Triage. Sie sagen einer Verifikationsredaktion, wo sie zuerst hinschauen soll. Die Frage, die eine Zuschauerin hat, beantworten sie nicht: ob sie etwas fühlen sollte.

Der Anreiz der Plattformen, offen gesagt

Es lohnt sich, ohne Sentimentalität zu betrachten, warum die Kennzeichnung nicht gekommen ist.

Eine Plattform, die ein Video als synthetisch kennzeichnet, übernimmt eine Haftung, die sie vorher nicht hatte. Ist das Etikett bei einem echten Video falsch, hat sie einen Zeugen diffamiert. Fehlt es bei einer Fälschung, hat sie ein Publikum in die Irre geführt. So oder so hat die Plattform die Verantwortung für ein Urteil übernommen, das sie derzeit nicht fällen muss. Nicht zu kennzeichnen ist kostenlos.

Das ist die ganze Rechnung, und sie erklärt, warum die Branche jahrelang freiwillige Rahmenwerke produziert hat und fast keine Standardkennzeichnungen. Der Ansatz der EU — maschinenlesbare Kennzeichnungspflichten nach dem AI Act — ist der einzige regulatorische Versuch, die Voreinstellung zu ändern, und seine Wirkung hängt vollständig davon ab, ob die Kennzeichnung die beschriebene Transcoding-Kette übersteht. Die frühen Belege sind nicht ermutigend.

Also der Affe. Ein generiertes Tier, irgendwo ein echtes Hochwasser, eine Zuschauerin mit einem Telefon, und niemand in der Kette, dessen Aufgabe es war, zu sagen, was das eigentlich ist.

Was zurückführt zur billigsten Gewohnheit, der, die niemand hören will, weil die Stimmung ja der Zweck ist: Frag, wer davon profitiert, dass du das in vier Sekunden fühlst. Der Affe hat den Hund nicht gerettet. Die Tränen waren echt. Beides kann gleichzeitig wahr sein, und in der Lücke dazwischen liegt dieses ganze Problem.