350 000 fausses victimes, et l'éthique du mensonge institutionnel

L'entreprise s'appelle Apate.ai, d'après la déesse grecque de la tromperie. Elle fait tourner environ 350 000 agents IA dont le seul travail est de se faire avoir.
Ils répondent aux appels d'arnaque. Ils répondent aux SMS d'hameçonnage. Ils cliquent sur le lien malveillant. Ils rejoignent le groupe WhatsApp où un faux conseiller en investissement explique une fausse plateforme de trading. Et ensuite ils font ce qui fait fonctionner tout le système : ils sont extrêmement coopératifs et complètement incompétents.
Oui, ils vont faire le virement. Oh, mon Dieu, où ai-je mis ma carte bancaire. Pardon, vous pouvez répéter, je suis un peu lent avec ces choses-là.
Chaque minute qu'un escroc passe sur cet appel est une minute qu'il ne passe pas sur une vraie personne de 78 ans.
Les chiffres, tels que l'entreprise les donne
Apate a été fondée en 2024 à partir de recherches à l'université Macquarie de Sydney, où le fondateur Dali Kaafar travaillait sur l'analyse du contenu des appels frauduleux par apprentissage automatique. L'histoire d'origine : un pique-nique familial et un appel de 44 minutes qu'il a fait durer pour amuser ses enfants, après quoi il a compris que le temps lui-même était la défense.
Les chiffres de l'entreprise : environ 350 000 agents, plus de 2,5 millions de conversations menées à terme, près de 17 années de temps de travail d'escrocs occupées, et plus de 250 000 éléments de renseignement exploitables extraits. Parmi les clients, Commonwealth Bank of Australia et TPG Telecom. TPG a routé près de 590 000 appels suspects vers les agents. CBA a publiquement annoncé une baisse de 76 % des pertes d'arnaque déclarées.
En août, l'entreprise a bouclé un tour d'amorçage de 8,15 millions de dollars mené par Lobby Capital, avec la participation d'OIF Ventures, Investible, Concept Ventures et Baobab Ventures, portant le financement total à un peu moins de 10 millions. Vingt salariés. Une réimmatriculation dans le Delaware effective au 25 août, un bureau à Londres prévu pour le trimestre suivant.
Le mécanisme n'a rien de mystérieux. Les opérations d'arnaque sont des activités de main-d'œuvre. Il faut un humain au téléphone pendant vingt minutes pour guider une victime dans un virement. Si l'humain d'en face est un bot qui ne coûte presque rien, l'économie de l'arnaque s'inverse : l'entrée la plus chère pour l'attaquant, l'attention, est consommée par quelque chose qui ne se fatigue jamais et ne s'épuise jamais.

Pourquoi le renseignement est le vrai produit
Faire perdre du temps est satisfaisant. Ce n'est pas un métier.
Le métier, c'est la donnée. Pendant que l'agent s'embrouille sur l'endroit où il a rangé sa carte bancaire, il collecte aussi : le compte bancaire où l'escroc veut l'argent, l'adresse du portefeuille crypto, le domaine d'hameçonnage, le numéro qui a appelé, la marque usurpée, le script utilisé. Le tout est conditionné et remis aux banques, aux opérateurs et aux régulateurs, qui peuvent bloquer le compte ou sinkholer le domaine avant que la victime suivante décroche.
Cela déplace le moment de l'antifraude. Les défenses classiques interviennent après la perte : la victime signale, la banque gèle, l'argent est en général déjà parti. La défense guidée par le renseignement intervient avant la perte, seul endroit où le calcul fonctionne.
Cela explique aussi pourquoi les opérateurs télécoms sont le premier client naturel. TPG n'a pas besoin de savoir qui sont les escrocs. Il a besoin d'une raison de couper un appel avant qu'il atteigne un abonné. Une IA qui décroche, obtient un script et renvoie un verdict est un produit de filtrage d'appels qui s'améliore à chaque usage.
Les questions gênantes
C'est ici que j'arrête de supporter l'équipe, parce que c'est une entreprise dont le produit est la tromperie institutionnalisée, et cela mérite plus d'examen qu'une belle histoire.
Qui a le droit de déployer une IA qui ment ? La réponse actuelle est « une entreprise qui a une banque comme client ». Ce n'est pas un cadre juridique, c'est une relation d'achat. Si la technique marche, elle sera copiée — par des agents de recouvrement, des marketeurs, des gouvernements, par quiconque veut occuper le temps d'un inconnu sous de faux prétextes. Le précédent créé est « la tromperie est acceptable quand la cible est un criminel », et c'est une règle à la pente très glissante.
Quelle est la qualité d'un renseignement obtenu par tromperie ? Un critique cité dans la couverture chinoise de l'opération a fait le point le plus acéré : une fois que les escrocs savent que des leurres existent, ils peuvent leur fournir de faux comptes et de faux domaines. Les comptes de paiement et les liens d'hameçonnage expirent en quelques heures. La donnée est à la fois temps réel et de faible confiance, combinaison délicate pour le système de blocage d'une banque.
La posture raisonnable est celle que ce critique suggérait : traiter le renseignement comme un déclencheur de vérification renforcée, pas comme un motif de blocage. Recouper. Donner une date d'expiration à chaque élément. Ne pas laisser l'improvisation d'un bot devenir la raison du gel d'un compte légitime.
Que se passe-t-il quand l'agent est celui qui se fait arnaquer ? Les appels frauduleux sont de l'ingénierie sociale contre des humains. Les scripts sont faits pour extraire de l'information, et un LLM est une surface d'extraction d'information avec une très grande surface d'attaque propre. L'entreprise dit utiliser des modèles de pointe plus des fine-tunes propriétaires entraînés sur de vraies conversations, ce qui est la bonne réponse, et aussi l'aveu qu'un modèle générique fuiterait.
À quoi cela ressemble si ça marche
Le scénario intéressant n'est pas « les arnaques s'arrêtent ». C'est que le coût d'un appel frauduleux monte jusqu'à ce que l'arnaque marginale cesse d'être rentable, comme le spam e-mail est devenu une activité à faible rendement quand les filtres se sont améliorés.
Ce serait un vrai basculement. Depuis vingt ans, l'antifraude est un centre de coût qui augmente avec les pertes. Apate propose un produit antifraude qui augmente avec le volume d'attaquants : plus d'appels frauduleux signifie plus de renseignement, donc de meilleurs blocages, donc moins d'appels frauduleux. Une boucle de rétroaction négative là où le secteur n'en a jamais eu qu'une positive.
Il existe une version de cela qui tourne mal. Si chaque banque et chaque opérateur déploie sa propre flotte d'agents leurres, l'écosystème de l'arnaque ne disparaît pas : il devient meilleur pour détecter les bots. Les appels vocaux raccourcissent, les canaux texte prennent le relais, et la course aux armements se déplace là où les défenseurs ont moins de données. Le chiffre de 76 % est une mesure instantanée sur un marché, et il se dégradera.
Ce qu'il faut voler
Retirez le nom de la déesse et le tour de table, il reste une idée qui se généralise bien au-delà de la fraude.
Quand la structure de coûts d'un adversaire dépend de l'attention humaine, la bonne défense consiste à rendre l'attention gratuite chez soi et chère chez lui. C'est ce qu'est un honeypot, et c'est ce qu'Apate a construit : un honeypot doté d'une personnalité, déployé à une échelle où l'attaquant ne peut pas distinguer lesquels des quatre cents appels du jour étaient réels.
Savoir si les institutions devraient avoir le droit de faire tourner cela est une question politique que personne n'a tranchée. Savoir si ça marche est une question d'ingénierie qui, pour l'instant, dispose d'un point de données et d'un 76 % accroché dessus.
Articles associés
Un modèle dense de 65B dépasse des rivaux huit fois plus gros, pour 32 millions de dollars
Un modèle dense de 65B devance des rivaux de 500B et plus sur Terminal-Bench 2.1. Le chiffre qui compte n'est pas le score mais les 32 millions de dollars dépensés.
Les agents IA se trompent encore sur une lecture de gel sur trois, et OpenAI montre où
Le nouveau benchmark de biologie d'OpenAI montre que le meilleur modèle se trompe encore sur une interprétation de laboratoire sur trois. Les échecs documentés révèlent où la perception n'atteint pas la conclusion.
Antigravity déplace ses agents dans le cloud, sans votre outillage local
La version 2.29 d'Antigravity place l'agent dans une VM cloud qui survit à votre portable et utilise la voix pour approuver les permissions. L'outillage local ne suit pas.
NVIDIA ouvre quatre modèles de monde de 16B, et n'a pas mesuré l'apprentissage de politique
Quatre modèles de monde ouverts de 16B et un décodeur qui émet la géométrie d'un seul coup. NVIDIA livre les deux moitiés, mais admet qu'il reste à mesurer l'apprentissage de politique.