← Retour au blog
AiEnviron 9 min de lecture

La rétention zéro était vraie. La brèche a frappé les trois exceptions.

Publié le 15 nov. 2026
La rétention zéro était vraie. La brèche a frappé les trois exceptions.

Le 9 novembre, Notion a publié un avis de sécurité. Une brèche chez son fournisseur d'IA, Fireworks AI, avait exposé des transcriptions de conversations Notion AI appartenant à moins de 1 % des espaces de travail Notion. Les systèmes de Notion n'ont pas été compromis. L'entreprise a coupé la connexion à Fireworks le 3 novembre, supprimé les données hébergées là-bas et cessé de lui envoyer du trafic.

Ce qui sort cette histoire du simple communiqué, c'est la politique de rétention. La documentation de Fireworks indique en substance que les prompts et les données de génération n'existent qu'en mémoire volatile, le temps de la requête. C'est de la rétention zéro, et c'était vrai des points d'accès auxquels la plupart des clients pensent.

La même documentation ajoute que quelques fonctions stockent bel et bien du contenu client : les stored responses, les batchs et l'entraînement. La brèche a atteint le côté qui stocke.

La chronologie, telle qu'elle a été communiquée

Deux intrusions distinctes, et c'est la seconde qui a compté.

Le 6 octobre, Fireworks a détecté un usage non autorisé d'identifiants internes. L'entreprise a ensuite indiqué que des variables d'environnement, dont des clés d'API et des jetons stockés comme secrets, avaient été récupérées sur certains comptes touchés.

Puis un tiers s'en est mêlé. Un fournisseur cloud qui hébergeait les machines de recherche et développement de Fireworks a connu un incident de sécurité le 23 octobre. Le 24 octobre, un tiers non autorisé a utilisé cet accès pour atteindre les machines de développement de Fireworks et y exécuter une charge de travail non autorisée, ce qui a conduit à un impact supplémentaire sur les données clients.

Ce qui a été emporté au total : des métadonnées de ressources, des registres de facturation et de paiement, une partie des jeux de données de certains clients, et des poids de modèles incomplets. Fireworks affirme ne pas stocker les numéros de carte des clients, et que Inference, le SDK Training et Nexus ne sont pas touchés car ils sont en rétention zéro par défaut. La formulation du dirigeant ajoute une parenthèse absente de la mise à jour sécurité : Inference, à l'exclusion de l'inférence par lots.

Fireworks décrit l'acteur comme motivé par l'argent, avec pour objectif de revendre l'accès à des grands modèles de langage via des passerelles de routage illicites. Cette pratique a un nom, le LLMjacking, et Palo Alto Networks Unit 42 a été sollicité pour aider.

Les quatre jours de Notion

Le côté Notion est une étude de cas sur la propagation d'un incident fournisseur.

Le soir du 2 novembre, Fireworks a prévenu Notion qu'un petit jeu de données avait été consulté. Ce premier jeu ne contenait que des données de test synthétiques.

Des baies de serveurs alignées dans une salle sombre, ponctuées de voyants bleus

Le matin du 3 novembre, Notion avait coupé la connexion à Fireworks, supprimé les données hébergées là-bas et arrêté de lui envoyer du trafic. La réaction est rapide, et elle n'a pas empêché l'exposition ultérieure, parce que les données étaient déjà écrites chez Fireworks avant la coupure. Couper la connexion bloque le trafic à venir, pas ce qui est déjà posé sur le disque.

Le 6 novembre, Fireworks a indiqué que les attaquants avaient peut-être aussi atteint des données clients. Le 8 novembre, c'était confirmé. Le jeu de données contenait des transcriptions Notion AI utilisées par la fonction Insights, qui montre aux clients comment leurs équipes se servent de Notion AI. Notion a publié le 9 novembre, commencé à contacter les clients touchés, et le 11 novembre a révoqué les clés d'API Notion retrouvées dans les messages concernés.

Notion passait aussi par Fireworks pour faire tourner des modèles à poids ouverts. Cela s'est arrêté. Insights reste coupé pendant l'enquête.

Le périmètre est plus étroit que les gros titres ne le laissaient croire. Moins de 1 % des espaces de travail. Pour la grande majorité des espaces touchés, les transcriptions ne portaient aucune étiquette identifiant l'auteur ou l'espace, et elles ne contenaient pas les résultats d'appels d'outils.

Étroit ne veut pas dire sûr. Les gens collent des mots de passe, des clés d'API et des coordonnées clients dans les fenêtres de chat IA, et ce texte est sensible qu'il arrive ou non avec un nom accroché dessus. Le conseil de Notion lui-même : traiter ces données comme exposées et faire tourner tout ce qui a été collé dans Notion AI pendant la fenêtre concernée.

Pourquoi l'affirmation de rétention et la brèche peuvent être vraies ensemble

C'est la partie que les équipes sécurité doivent retenir, et c'est une question de périmètre, pas d'honnêteté. Les deux entreprises disent des choses qui tiennent debout.

La rétention zéro est une déclaration sur un chemin de requête. Un prompt entre, des jetons sortent, le contenu vit en mémoire le temps de l'échange. Rien n'est écrit sur disque. C'est une propriété réelle et un bon défaut, sincèrement.

Le stockage est une autre surface produit. L'inférence par lots existe parce que certaines tâches sont trop grosses pour tenir dans une seule requête, ce qui veut dire que les entrées et les sorties doivent être écrites quelque part jusqu'à la fin du traitement. Les stored responses existent parce que des clients ont demandé à pouvoir les récupérer plus tard. L'entraînement existe parce que c'est ce que fait l'entraînement.

Un fournisseur peut donc brandir une revendication ZDR authentique et garder malgré tout vos données, parce qu'elles vivent dans les services qui ne sont pas des requêtes. Les avis de brèche se lisent exactement comme ça : l'impact portait sur des systèmes de stockage, et les fonctions batch, dataset et response sont précisément celles qui écrivent sur disque.

Il y a un second détail. La politique ZDR est disponible sur les comptes Enterprise, et son réglage par défaut est désactivé. Pour beaucoup de clients, la ZDR est donc une chose qu'on peut activer, pas une chose qui est active.

Rien de tout cela ne rend Fireworks atypique. Tous les fournisseurs d'inférence ont cette forme, parce que les batchs et l'entraînement sont là où se trouve l'argent, et que les deux exigent de la persistance. La leçon porte sur le questionnaire. Demander « gardez-vous mes données » donne un oui ou un non sur une requête. Demander « quels points d'accès persistent du contenu, pendant combien de temps, dans quelle région, et qui peut lire ce stockage » donne une réponse sur laquelle on peut agir.

L'économie derrière tout ça

Le mobile explique pourquoi ça recommence.

Le LLMjacking relève de l'arbitrage, pas de l'espionnage. Un accès d'inférence volé est revendu à des passerelles de routage qui veulent servir du trafic de modèles sans payer. L'actif dérobé, c'est votre budget de jetons et vos limites de débit, et le dommage, c'est une facture plus ce que valaient vos données.

Les chiffres autour sont laids. Railway a révélé fin octobre que des attaquants avaient déchiffré les variables d'environnement de jusqu'à 100 000 espaces de travail et généré environ 740 000 dollars d'usage IA frauduleux. Wiz a compté au moins neuf plateformes de développement IA ayant divulgué un incident en octobre, et a relié deux clés d'entreprise volées à un même fournisseur, toutes deux affichant une première activité non autorisée identique, dans les 30 minutes suivant l'accès aux identifiants signalé.

Trente minutes. L'écart entre le moment où un identifiant apparaît dans des journaux et celui où quelqu'un le dépense est désormais plus court qu'une pause déjeuner, ce qui rend purement décoratives les fenêtres de détection mesurées en jours.

Ce qu'il faut faire autrement

Quatre choses, dans l'ordre où je les ferais.

Inventorier la surface de stockage. Listez chaque point d'accès que votre produit appelle et où les données persistent : batchs, stored responses, jeux de données, fine-tuning, tâches d'évaluation. Si vous ne pouvez pas les lister, vous ne pouvez pas évaluer la brèche dont vous allez lire le récit.

Arrêter de traiter les transcriptions de chat comme peu sensibles. C'est le canal de secrets le plus dense de la plupart des organisations, parce qu'un humain colle un fichier de configuration dans une fenêtre de chat pour poser une question à son sujet. Quelle que soit l'histoire de rétention qui s'applique, la transcription est le joyau de la couronne.

Faire tourner sur la divulgation, pas sur la confirmation. Notion a supprimé et coupé le 3 novembre, avant que quiconque sache si de vraies données étaient concernées, et a révoqué les clés d'API le 11 novembre quand le scan les a trouvées. Les deux décisions étaient bonnes.

Présumer le fournisseur du fournisseur. L'intrusion a commencé chez un hébergeur cloud de machines de développement. La posture sécurité de votre fournisseur d'IA inclut des sociétés dont vous n'avez jamais entendu parler, et la seule façon d'intégrer ça au prix, c'est d'exiger la divulgation des sous-traitants et de préférer les fournisseurs qui acceptent de les nommer.

Le résumé qui dérange

Notion a fait l'essentiel correctement, a bougé en moins de douze heures, et des transcriptions ont quand même été exposées. Fireworks a publié une politique de rétention exacte et pris une brèche qui a atterri dans la partie qu'elle excluait. Les deux entreprises ont dit la vérité et le résultat reste mauvais pour un petit nombre de clients.

C'est la forme du risque de chaîne d'approvisionnement dans l'infrastructure IA, et c'est pourquoi cette histoire parle de périmètre et pas de malhonnêteté. Une politique peut être vraie et insuffisante en même temps. Le travail consiste à demander à quels noms elle s'applique avant de l'apprendre par un avis de sécurité.

Articles associés