Black October : neuf plateformes d'IA ont perdu des clés, pas du code

Neuf plateformes de développement pour l'IA ont divulgué des incidents de sécurité en octobre. Wiz Research a commencé à parler d'un « Black October » dans un billet publié le 30 octobre, et le nom est resté parce que la série était si régulière qu'elle semblait coordonnée, même si personne n'a établi qu'elle l'était.
La liste, dans l'ordre des divulgations : Fireworks AI le 6 octobre, Andromeda le 9, Zeabur le 14, Lightning AI le 15, OpenCode les 16 et 17, Railway le 20, Warp le 23, CommandCode le 28, et Northflank le 30. La Cloud Security Alliance a également fait le lien entre les incidents. Wiz prend soin de préciser qu'aucune faille ni dépendance unique ne les relie, et que les attaquants n'ont pas été publiquement rattachés à un seul acteur.
Ce que les rapports partagent, c'est la cible. Pas le code source. Pas les modèles des clients. Pas les données d'entraînement. Les variables d'environnement — précisément celles qui contiennent les clés des services d'IA payants.
L'économie d'une clé volée
C'est ici que l'histoire cesse d'être un tour d'horizon de sécurité pour devenir un modèle économique. Une clé de modèle volée ne vaut pas grand-chose pour un voleur qui doit l'utiliser lui-même. Elle vaut beaucoup pour un voleur capable de revendre l'accès à prix cassé, parce que l'acheteur obtient des modèles de pointe sous le tarif et que le vendeur ne touche jamais un GPU.
Wiz a suivi deux clés Amazon Bedrock d'entreprise qu'il a pu rattacher aux failles des fournisseurs. La première a montré une activité non autorisée dans les trente minutes suivant l'accès signalé aux identifiants : un appel unique depuis une IP résidentielle, dans le cadre d'un balayage d'une minute testant des clés volées chez plusieurs organisations. Elle a demandé Claude Fable 5.1, a échoué, s'est rabattue sur Opus 5.5, et ça a marché.
Puis la patience. Pendant plusieurs jours, chaque clé n'a vu que 14 à 120 appels par jour, à environ une minute d'intervalle, depuis le même petit client Go. C'est un contrôle de vivacité. Puis le déluge : le cas A a passé environ 800 000 appels Bedrock en trente heures, à peu près 90 % réussis, les modèles Opus représentant environ trois quarts du total. Le cas B a passé environ 1,7 million d'appels en treize heures, dont plus d'un million réussis. Au tarif catalogue, Wiz estime que les deux ensemble ont dépassé 100 000 dollars.

Wiz a aussi trouvé deux opérations faisant la publicité d'un accès à prix réduit aux modèles de pointe, et toutes deux avaient testé les clés volées. Les chercheurs précisent qu'ils ne peuvent pas rattacher formellement ces opérations aux failles d'octobre. Ils précisent aussi que l'usage des mêmes clés par plusieurs acteurs suggère un marché qui fonctionne.
Comment les portes se sont ouvertes
Les points d'entrée étaient différents à chaque fois, et c'est la partie qui devrait inquiéter quiconque construit une plateforme.
Fireworks AI a signalé un usage non autorisé d'identifiants internes, un tiers ayant atteint des variables d'environnement utilisées dans des tâches d'évaluation sur un nombre limité de comptes clients ; la société pense que des clés d'API et des jetons stockés comme secrets ont été capturés. Zeabur, selon BleepingComputer, a déclaré qu'un attaquant avait utilisé des identifiants internes fuités les 14 et 15 octobre et avait fini par lire la base de la plateforme — plus de 3,2 millions d'enregistrements de variables d'environnement et des informations sur 321 810 comptes. Elle a aussi indiqué que ses jetons d'administration n'expiraient pas et n'avaient pas été renouvelés depuis janvier 2024. Railway évoquait une élévation de privilèges dans son infrastructure de build. Warp pointait une dépendance à un fournisseur tiers. OpenCode pointait un système hérité. Lightning AI avait déjà été touché, dans une campagne de chaîne d'approvisionnement antérieure.
Deux des incidents ont été attribués par les fournisseurs à une tentative de distillation — utiliser les sorties d'un autre modèle pour entraîner le sien. Fireworks, OpenCode et Warp ont tous signalé des signes d'attaque par « essaim d'agents ». C'est une phrase étrange à écrire, mais voilà où nous en sommes : des agents automatisés sondent des plateformes automatisées, à la recherche de la variable d'environnement qui débloque le budget d'inférence de quelqu'un.
Le dénouement de Zeabur est celui sur lequel il faut s'asseoir. L'entreprise a annoncé qu'elle ferme. Renouvellements désactivés à partir du 1er décembre, services de cluster partagé suspendus, et tous les serveurs éteints au 31 décembre, la faille étant citée comme facteur contributif. Une plateforme d'hébergement ne meurt pas d'ordinaire d'un seul incident. Elle meurt quand l'incident pousse chaque client restant à se demander si ses secrets sont en sécurité, et que la réponse est un paragraphe sur des jetons sans expiration.
La consigne que les gens comprennent de travers
Northflank a dit à ses clients le 30 octobre de considérer que chaque variable d'environnement conservée sur la plateforme avait été déchiffrée, et de renouveler tous les secrets. Fireworks a fait le même point dans son avis, et c'est la phrase à scotcher sur un écran : supprimer un secret stocké ne révoque pas l'identifiant sous-jacent.
Retirer une variable d'environnement d'une plateforme retire votre copie. Cela ne touche pas la clé chez l'émetteur. La clé est toujours valide, toujours facturable, et — si elle a été revendue — toujours dans le client de quelqu'un d'autre. Le renouvellement doit se faire chez OpenAI, Anthropic, Bedrock ou celui qui l'a émise, et il doit se faire avant d'aller fouiller les journaux, parce que les journaux servent à savoir ce qu'ils ont fait, pas à les arrêter.
Les conseils de détection sont concrets : Bedrock écrit InvokeModel, InvokeModelWithResponseStream, Converse et ConverseStream dans CloudTrail comme événements de gestion, journalisés par défaut. Cherchez à partir du 1er octobre les adresses publiées par Wiz, en sachant qu'une correspondance est une piste, pas une preuve. Cherchez les profils d'inférence globaux demandés par une clé qui reste normalement dans une seule région, l'énumération de quotas depuis des user agents boto3, et les appels échoués suivis quelques secondes plus tard d'un basculement vers un autre modèle.
Une remarque d'architecture qui n'a presque pas été couverte : CloudTrail enregistre l'identité IAM derrière une clé d'API Bedrock, pas la clé elle-même. Si toutes les plateformes externes partagent une identité, vous ne pouvez pas savoir laquelle a fuité. Donnez à chacune la sienne.
Ce que cela signifie si vous êtes client
La plupart des équipes qui utilisent ces plateformes ne font rien d'exotique. Un environnement de préproduction, une tâche d'évaluation, un prototype qui appelle un modèle depuis un service Railway avec la clé en variable d'environnement parce que c'était le moyen le plus rapide de livrer. L'exposition n'est pas un défaut de conception de l'application. C'est le réglage par défaut.
Trois changements coûtent peu. Fixez des plafonds de dépense par clé, pour qu'une opération de revente ne puisse pas faire une facture à six chiffres en un week-end. Émettez des clés par projet, pour que la révocation soit chirurgicale. Alertez sur les usages anormaux — un saut de cent appels par jour à cent mille n'est pas subtil, et la plupart des tableaux de bord de facturation le montreront des heures avant que quiconque lise un blog de sécurité.
Rien de tout cela ne règle le problème de fond : l'industrie a passé deux ans à rendre trivial le fait de mettre un identifiant de grande valeur dans un endroit de faible confiance. Les plateformes sont pratiques précisément parce qu'elles gèrent les secrets à votre place. Cette commodité est la surface d'attaque. Octobre est le mois où elle a été chiffrée.
Articles associés
Une feuille de calcul communautaire de clics pour couper les publicités des Android chinois
Il ne touche pas au système, ne déverrouille rien, ne flashe rien. Il bascule un à un les interrupteurs que les fabricants ont déjà prévus. Le prix à payer, c'est la liste qu'il faut continuer d'écrire.
GPT Image 2.6 a tenu le prix des tokens et fait monter la facture
GPT Image 2.6 reprend chaque tarif au token de 2.5 et coûte malgré tout plus cher par image, parce qu'une part plus grande du travail se paie en tokens de sortie. Onze jours après le lancement, la grille tarifaire dit plus que le classement.
Quelqu'un a reconstruit IDM de l'extérieur et a écrit ce qu'il n'a pas touché
Une réimplémentation en Rust d'Internet Download Manager revendique 5 fois la vitesse et 86 langues. Le document le plus intéressant est le paragraphe qui explique comment elle a été construite sans rien copier.
Rune est un framework UI Rust conçu pour qu'un agent puisse vérifier son propre travail
Rune rend en headless, vide son arbre d'éléments et accepte des entrées scriptées, ce qui donne à un agent de codage un signal différable qu'aucune capture d'écran ne fournit. Le framework est en préversion et n'accepte pas de pull requests.