Kann man ein KI-Bild noch von einem echten unterscheiden? Die ehrliche Antwort ist nein.

Diesen Monat macht ein Spiel die Runde, das eine ernste Frage in eine Anzeigetafel verwandelt. Es zeigt dir einen Strom von Bildern und fordert dich auf, zu markieren, welche KI-generiert sind. Die Leute spielen es in der Überzeugung, ein gutes Auge zu haben, und sehen dann zu, wie ihre Trefferquote irgendwo in dem Moment einbricht, in dem die KI beginnt, realistische menschliche Hände korrekt darzustellen. Es ist Jahre her, dass das ein verlässliches Erkennungsmerkmal war. Das Spiel sammelte über hundert Punkte auf Hacker News, und die Kommentare lesen sich wie eine Selbsthilfegruppe für Menschen, die ihre eigene Blindheit entdecken.

Die Erkennungszeichen sind weg

Jede Abkürzung, auf die sich die Leute früher verlassen haben, ist verschlossen. Zusätzliche Finger, verstümmelter Text, plastikartige Haut, unmögliche Beleuchtung. Die aktuellen Modelle bewältigen all das gut genug, dass man sich auf keine einzelne davon verlassen kann. Besonders Text hat sich dramatisch verbessert, was einen der letzten einfachen Erfolge für die menschliche Erkennung beseitigt hat. Ein Modell, das ein lesbares Schild in einer Szene darstellte, war früher ein todsicheres Zeichen. Jetzt ist es Grundvoraussetzung.

Das Ergebnis ist eine seltsame Situation. Die Bilder wurden besser, aber die menschliche Fähigkeit, sie zu erkennen, nicht. Die meisten Menschen raten, wenn sie ein gutes KI-Bild und ein echtes Foto nebeneinander sehen. Die Beliebtheit des Spiels ist teilweise ein Beweis dafür: Es macht genau deshalb Spaß, weil man es immer wieder falsch macht, und das Falschmachen ist der Punkt. Das Selbstvertrauen ist groß und die Trefferquote liegt etwa bei einem Münzwurf.

Auch die Detektoren retten uns nicht

Es gibt einen parallelen Markt für KI-Erkennungstools, und der ist genauso wackelig. Neue Tools kommen auf den Markt und behaupten, KI-Bilder zu erkennen, und sie funktionieren im Labor und versagen in freier Wildbahn. Ein Detektor, der auf die Artefakte eines Modells abgestimmt ist, tut sich mit denen des nächsten Modells schwer. Komprimiere ein Bild, ändere seine Größe oder schicke es durch die Neukodierung einer sozialen Plattform, und die subtilen Fingerabdrücke, auf die sich der Detektor stützte, werden weggewischt.

Schlimmer noch: Die Detektoren produzieren falsch positive Ergebnisse. Ein echtes Foto mit bestimmter Beleuchtung oder einem starken Filter kann sie auslösen. Für ein Tool, das das Vertrauen in Bilder wiederherstellen soll, ist ein falsch positives Ergebnis ein ernstes Problem, denn es erlaubt jedem, ein echtes Foto als Fälschung abzutun. Die Erkennungstools können mit anderen Worten in beide Richtungen als Waffe eingesetzt werden. Das ist kein Mangel, den mehr Training behebt. Es ist strukturell.

Das Wettrüsten hat nur einen Gewinner

Es gibt hier eine grundlegende Asymmetrie, die die Leute immer wieder unterschätzen. Die Generatoren versuchen, Bilder zu erzeugen, die echt aussehen, und sie haben ein klares Ziel. Die Detektoren versuchen, sie zu erkennen, und sie jagen ein bewegliches Ziel, das immer besser wird. In einem Wettrüsten gewinnt normalerweise die Seite mit einem klaren Ziel und einer schnellen Iterationsschleife, und das ist die Seite der Generatoren.

Jedes neue Modell zwingt die Detektoren zum Neutraining, und wenn sie aufgeholt haben, ist das nächste Modell bereits veröffentlicht. Die Lücke schließt sich nicht. Sie wird größer, und sie wird mit jedem Release größer. Die Leute, die Erkennungstools verkaufen, haben einen Anreiz, optimistisch zu klingen, aber die tatsächliche Trendlinie steht nicht auf ihrer Seite. Wenn überhaupt, dann ist die ehrliche Position, dass zuverlässige Erkennung ein aussichtsloses Spiel ist, und je eher wir das akzeptieren, desto eher können wir an dem arbeiten, was tatsächlich hilft.

Was das in der Praxis bedeutet

Die ehrliche Antwort auf „Kann man es erkennen?“ lautet: nicht zuverlässig, und zunehmend nein. Die nützlichere Frage ist, wie wir damit leben. Verifikation muss weiter vorgelagert werden, hin zur Herkunft. Wenn ein Bild bei der Erstellung signiert wird oder einen Datensatz darüber trägt, woher es stammt und wie es bearbeitet wurde, dann muss man nicht auf Pixel starren. Man prüft die Metadaten.

Diese Infrastruktur existiert für normale Nutzer kaum. Einige Kamerahersteller und Plattformen experimentieren mit Inhaltsnachweisen, aber das ist nicht Standard, und in dem Moment, in dem ein Bild per Screenshot erfasst wird, bricht die Kette. Bis sich das ändert, ist Skepsis die Standardeinstellung, und Skepsis ist erschöpfend. Sie ist auch zersetzend, und das ist der Teil, den wir gerade erst zu spüren beginnen.

Die sozialen Kosten sind die eigentliche Geschichte

Der Schaden besteht nicht wirklich darin, von einem gefälschten Bild getäuscht zu werden. Es geht um den Zusammenbruch des gemeinsamen Vertrauens. Wenn jedes Foto gefälscht sein könnte und die Erkennungstools unzuverlässig sind, beginnen die Menschen, alles anzuzweifeln, einschließlich echter Beweise. Das ist ein schwerwiegenderes Problem als jedes einzelne Bild, und es ist das, welches die Technik nicht gelöst hat.

Das ist der Teil, den die technische Debatte immer wieder übersieht. Die Menschen, die sich Sorgen um KI-Bilder machen, sorgen sich meist nicht darum, von einem lustigen Filter getäuscht zu werden. Sie sorgen sich um eine Welt, in der ein echtes Foto eines echten Ereignisses als Fälschung abgetan und ein gefälschtes als echt verteidigt werden kann. Wenn die Beweise selbst zweifelhaft sind, funktionieren die Argumente, die auf Beweisen beruhen, nicht mehr. Das ist kein Detektorproblem. Es ist ein Vertrauensproblem, und es ist größer als jedes der Tools auf beiden Seiten.

Die Verantwortung verschiebt sich, und niemand will sie

Eine der stillen Nebenhandlungen ist, dass Verantwortung immer wieder weitergeschoben wird, ohne irgendwo anzukommen. Die Modellhersteller sagen, sie stellten nur ein Werkzeug bereit. Die Plattformen sagen, sie könnten nicht jedes Bild verifizieren. Die Nutzer sagen, sie sollten keine Forensiker sein müssen. Alle haben technisch recht, und das Ergebnis ist, dass niemand für den Schaden zur Rechenschaft gezogen wird, wenn ein gefälschtes Bild Schaden anrichtet.

Diese Diffusion von Verantwortung ist das eigentliche Problem. Wenn sich ein manipuliertes Bild verbreitet und Schaden verursacht, ist der Schaden real, aber es gibt keinen einzelnen Akteur, dessen Aufgabe es war, es zu erkennen. Der Modellhersteller lieferte ein leistungsfähiges Werkzeug, die Plattform hostete es, und der Nutzer glaubte ihm. Jedes Glied in der Kette kann auf das nächste zeigen und behaupten, nichts falsch gemacht zu haben.

Solange die Verantwortung nicht irgendwo konkret landet, wird die Standardantwort sein, das Werkzeug oder den Betrachter zu beschuldigen, und beides funktioniert nicht. Dem Werkzeug die Schuld zu geben ist, als gäbe man einer Kamera die Schuld für ein gestelltes Foto. Dem Betrachter die Schuld zu geben ignoriert, dass kein Mensch mehr zuverlässig erkennen kann. Die ehrliche Lösung ist struktureller Natur: klare Regeln zu Offenlegung und Herkunft, die diejenigen binden, die Bilder veröffentlichen und verbreiten, nicht diejenigen, die sie ansehen.

Was tatsächlich als Nächstes kommt

Die Bildgeneratoren haben das Wettrüsten gewonnen. Sie sind so gut geworden, dass die Frage „Ist das echt?“ keine schnelle Antwort mehr hat. Das nächste zu lösende Problem ist nicht, bessere Detektoren zu bauen. Es ist, ein System aufzubauen, in dem die Wahrheit eines Bildes nicht davon abhängt, ob dein Auge sie zufällig erfasst. Herkunft, signierte Inhalte, überprüfbare Verwahrungsketten. Das ist langweilig, und es ist das Einzige, was tatsächlich funktionieren wird. Das Auge hat verloren, und so zu tun, als wäre es anders, gibt allen nur ein falsches Sicherheitsgefühl.