← Zurück zum Blog
Aica. 6 Min. Lesezeit

350 000 falsche Opfer und die Ethik der institutionalisierten Lüge

Veröffentlicht 11. Nov. 2026
350 000 falsche Opfer und die Ethik der institutionalisierten Lüge

Das Unternehmen heißt Apate.ai, nach der griechischen Göttin der Täuschung. Es betreibt rund 350 000 KI-Agenten, deren einzige Aufgabe darin besteht, hereingelegt zu werden.

Sie nehmen Betrugsanrufe an. Sie antworten auf Phishing-SMS. Sie klicken den schädlichen Link. Sie treten der WhatsApp-Gruppe bei, in der ein angeblicher Anlageberater eine angebliche Trading-Plattform erklärt. Und dann tun sie das, was das ganze System zum Laufen bringt: Sie sind extrem kooperativ und völlig inkompetent.

Ja, sie überweisen das Geld. Oh je, wo ist denn die Bankkarte. Entschuldigung, können Sie das noch einmal sagen, ich bin etwas langsam mit diesen Dingen.

Jede Minute, die ein Betrüger in diesem Anruf verbringt, verbringt er nicht mit einem echten 78-Jährigen.

Die Zahlen, wie das Unternehmen sie nennt

Apate wurde 2024 aus der Forschung an der Macquarie University in Sydney gegründet, wo Gründer Dali Kaafar mit maschinellem Lernen Betrugsanrufe analysierte. Die Ursprungsgeschichte: ein Familienpicknick und ein 44-minütiger Anruf, den er in die Länge zog, um seine Kinder zu amüsieren – danach war ihm klar, dass die Zeit selbst die Verteidigung ist.

Die eigenen Zahlen: rund 350 000 Agenten, mehr als 2,5 Millionen abgeschlossene Gespräche, etwa 17 Jahre Arbeitszeit von Betrügern belegt und über 250 000 verwertbare Erkenntnisse extrahiert. Zu den Kunden gehören die Commonwealth Bank of Australia und TPG Telecom. TPG hat knapp 590 000 verdächtige Anrufe an die Agenten geleitet. Die CBA meldet öffentlich einen Rückgang der gemeldeten Betrugsverluste um 76 %.

Im August schloss das Unternehmen eine Seed-Runde über 8,15 Millionen Dollar unter Führung von Lobby Capital ab, mit OIF Ventures, Investible, Concept Ventures und Baobab Ventures; das Gesamtvolumen liegt damit knapp unter 10 Millionen. Zwanzig Mitarbeiter. Eine Neuregistrierung in Delaware zum 25. August, ein Londoner Büro im nächsten Quartal.

Der Mechanismus ist nicht mysteriös. Betrug ist ein Arbeitsgeschäft. Es braucht einen Menschen am Telefon, der ein Opfer zwanzig Minuten lang durch eine Überweisung führt. Ist der Mensch am anderen Ende ein Bot, der praktisch nichts kostet, kippt die Ökonomie des Betrugs: Der teuerste Input des Angreifers, Aufmerksamkeit, wird von etwas verbraucht, das nie müde wird und nie ausgeht.

Ein leerer Küchentisch mit einem abgehobenen Festnetzhörer, einer Teetasse und einer liegengelassenen Lesebrille

Warum die Erkenntnisse das eigentliche Produkt sind

Zeit zu verschwenden ist befriedigend. Es ist kein Geschäft.

Das Geschäft sind die Daten. Während der Agent verwirrt ist, wo er seine Bankkarte hingelegt hat, sammelt er auch: das Konto, auf das der Betrüger Geld will, die Krypto-Wallet-Adresse, die Phishing-Domain, die anrufende Nummer, die imitierte Marke, das verwendete Skript. Das wird aufbereitet und an Banken, Telekommunikationsanbieter und Regulierer gegeben, die das Konto sperren oder die Domain sinkholen können, bevor das nächste Opfer abnimmt.

Das verschiebt den Zeitpunkt der Betrugsabwehr. Klassische Verteidigung wirkt nach dem Verlust: Das Opfer meldet, die Bank friert ein, das Geld ist meist weg. Erkenntnisgetriebene Verteidigung wirkt vor dem Verlust – der einzige Ort, an dem die Rechnung aufgeht.

Das erklärt auch, warum Telekommunikationsanbieter der natürliche erste Kunde sind. TPG muss nicht wissen, wer die Betrüger sind. Es braucht einen Grund, einen Anruf zu verwerfen, bevor er einen Teilnehmer erreicht. Eine KI, die abnimmt, ein Skript bekommt und ein Urteil zurückgibt, ist ein Anruffilter, der mit jeder Nutzung besser wird.

Die unbequemen Fragen

Hier höre ich auf zu jubeln, denn das ist ein Unternehmen, dessen Produkt institutionalisierte Täuschung ist, und das verdient mehr Prüfung, als eine Wohlfühlgeschichte sonst bekommt.

Wer darf eine lügende KI einsetzen? Die Antwort lautet bislang: ein Unternehmen mit einer Bank als Kunde. Das ist kein Rechtsrahmen, das ist eine Beschaffungsbeziehung. Funktioniert die Technik, wird sie kopiert – von Inkassobüros, von Marketingabteilungen, von Regierungen, von jedem, der die Zeit eines Fremden unter falschen Vorwänden belegen will. Der Präzedenzfall lautet „Täuschung ist in Ordnung, wenn das Ziel ein Krimineller ist“, und das ist eine Regel mit sehr rutschiger Kante.

Wie gut sind Erkenntnisse, die durch Täuschung gewonnen wurden? Ein in der chinesischen Berichterstattung zitierter Kritiker traf den schärfsten Punkt: Sobald Betrüger wissen, dass Köder existieren, können sie ihnen falsche Konten und falsche Domains füttern. Zahlungskonten und Phishing-Links laufen innerhalb von Stunden ab. Die Daten sind gleichzeitig in Echtzeit und wenig verlässlich – eine unangenehme Kombination für das Sperrsystem einer Bank.

Vernünftig ist die Haltung, die dieser Kritiker vorschlug: die Erkenntnisse als Auslöser für verstärkte Prüfung behandeln, nicht als Grund für eine Sperre. Gegenprüfen. Jedem Eintrag ein Ablaufdatum geben. Nicht zulassen, dass die Improvisation eines Bots der Grund ist, warum ein legitimes Konto eingefroren wird.

Was passiert, wenn der Agent derjenige ist, der betrogen wird? Betrugsanrufe sind Social Engineering gegen Menschen. Die Skripte sind darauf gebaut, Informationen zu extrahieren, und ein LLM ist eine Informationsoberfläche mit einer sehr großen eigenen Angriffsfläche. Das Unternehmen sagt, es nutze Frontier-Modelle plus eigene Fine-Tunes auf echten Gesprächen – die richtige Antwort und zugleich das Eingeständnis, dass ein generisches Modell lecken würde.

Wie das aussieht, wenn es funktioniert

Das interessante Szenario ist nicht „Betrug endet“. Es ist, dass die Kosten eines Betrugsanrufs steigen, bis der marginale Betrug unrentabel wird – so wie E-Mail-Spam zu einem ertragsschwachen Geschäft wurde, als die Filter gut wurden.

Das wäre eine echte Verschiebung. Zwanzig Jahre lang war Betrugsabwehr ein Kostenblock, der mit den Verlusten wächst. Apate schlägt ein Produkt vor, das mit dem Angriffsvolumen wächst: mehr Betrugsanrufe bedeuten mehr Erkenntnisse, also bessere Sperren, also weniger Betrugsanrufe. Eine negative Rückkopplung, wo die Branche bisher nur eine positive hatte.

Es gibt eine Variante, die hässlich wird. Wenn jede Bank und jeder Netzbetreiber eigene Köder-Flotten einsetzt, verschwindet das Betrugsökosystem nicht; es wird besser darin, Bots zu erkennen. Sprachanrufe werden kürzer, Textkanäle übernehmen, und das Wettrüsten zieht dorthin, wo die Verteidiger weniger Daten haben. Die 76 % sind eine Momentaufnahme in einem Markt, und sie werden verfallen.

Was es zu stehlen lohnt

Zieht man den Göttinnennamen und die Finanzierungsrunde ab, bleibt eine Idee, die weit über Betrug hinaus trägt.

Wenn die Kostenstruktur eines Gegners von menschlicher Aufmerksamkeit abhängt, besteht die richtige Verteidigung darin, Aufmerksamkeit auf der eigenen Seite kostenlos und auf seiner teuer zu machen. Das ist ein Honeypot, und das hat Apate gebaut: ein Honeypot mit Persönlichkeit, in einem Maßstab, in dem der Angreifer nicht erkennen kann, welche der vierhundert Anrufe heute echt waren.

Ob Institutionen das dürfen sollten, ist eine politische Frage, die niemand beantwortet hat. Ob es funktioniert, ist eine Ingenieursfrage, die derzeit einen Datenpunkt hat und eine 76 % daran.

Verwandte Artikel