CrowdStrike a livré un kill switch pour les agents IA. Le plus dur est de savoir quoi arrêter.

Le 3 novembre, CrowdStrike a introduit l'AI Kill Switch dans le cadre de son produit Falcon Guardian. Un administrateur autorisé peut mettre fin en temps réel à un agent non autorisé, l'empêcher de s'exécuter à nouveau dans toute l'organisation et conserver une piste d'audit de l'action.
Tout commence au niveau de la passerelle IA. L'application au niveau des terminaux est annoncée pour plus tard.
Cet ordre des choses est honnête, et il résume aussi tout l'enjeu. La plupart des entreprises peuvent démarrer un agent bien plus facilement qu'elles ne peuvent l'arrêter. Un kill switch transforme « nous pensons que l'agent se comporte correctement » en quelque chose d'applicable. Mais l'application exige une liste, et c'est précisément la partie que personne ne possède.
Trois produits, une semaine, même direction
CrowdStrike n'était pas seul. La même semaine, trois autres fournisseurs ont livré des variantes de la même idée.
Amazon Web Services a ajouté Smart Approvals à Amazon Quick. La logique est graduée. Lorsqu'un agent effectue une tâche à faible risque, comme vérifier un stock, il s'exécute automatiquement. Lorsqu'il tente quelque chose à haut risque — modifier une base de données, déplacer de l'argent, envoyer un e-mail sensible — le système se met en pause et demande une approbation humaine. Il échange un peu d'automatisation contre la suppression de ce qui bloque réellement le déploiement en entreprise : la peur d'une erreur non supervisée.
NVIDIA a mis à jour son Agent Toolkit avec des contrôles d'autorisation granulaires sur l'accès aux données d'entreprise. Les développeurs peuvent désormais définir quelles sources de données un agent peut lire, lesquelles il peut seulement résumer, et lesquelles lui sont totalement invisibles. Dans la pharmacie et la fabrication industrielle, où une fuite de données est un secret commercial perdu plutôt qu'une ligne de conformité, c'est cette troisième catégorie qui permet de faire signer un bon de commande.
Et ElevenLabs a doté ElevenAgents d'une intégration native avec Genesys Cloud, Amazon Connect et SIP, ce qui place un agent vocal à l'intérieur de la pile du centre d'appels qu'une grande entreprise possède déjà, plutôt qu'à côté.
Aucune de ces annonces n'est une amélioration de modèle. Toutes portent sur la même chose : un agent que l'on ne peut ni arrêter, ni cadrer, ni auditer est une démo, pas un déploiement.
Le problème de l'inventaire
Un kill switch est un contrôle à l'exécution, et les contrôles à l'exécution dépendent de l'identification. On ne peut arrêter qu'un agent dont on sait qu'il existe.
C'est un problème plus difficile qu'il n'y paraît. Des agents sont créés par des développeurs individuels avec une clé API personnelle, par des équipes marketing via une intégration SaaS, par un sous-traitant parti en mars, et par un outil interne qui engendre des sous-agents que personne n'a nommés. La passerelle voit le trafic. Elle ne voit pas nécessairement l'intention, la propriété ou le périmètre.
L'annonce de CrowdStrike place le contrôle au niveau de la passerelle, ce qui signifie que la visibilité se limite au trafic qui y transite. Un agent qui appelle directement un fournisseur de modèle depuis un ordinateur portable, ou qui s'exécute sur un modèle local, ne passe pas par elle. L'application sur les terminaux est la solution, et elle n'est pas encore livrée.
Les entreprises qui tireront de la valeur de cette approche au cours des deux prochains trimestres sont celles qui disposent déjà d'un inventaire d'agents comme sous-produit d'un déploiement de passerelle. Toutes les autres ont un interrupteur et aucun schéma de câblage.
Les freins changent l'équation économique
Les étapes d'approbation sont généralement présentées comme une fonctionnalité de sécurité. Elles sont aussi une décision d'effectifs.
Un agent qui se met en pause pour une confirmation humaine à chaque action à haut risque a besoin d'un humain disponible pour confirmer. Si cet humain répond en quatre heures, le débit effectif de l'agent est d'une action toutes les quatre heures, quelle que soit la vitesse du modèle. La file d'approbation devient le nouveau goulot d'étranglement et, contrairement à la capacité GPU, on ne peut pas en acheter davantage avec un contrat d'un an.
C'est là que la classification des risques d'AWS Smart Approvals justifie sa raison d'être. La question de conception est de savoir où tracer la ligne entre automatique et validation humaine, et comment auditer cette ligne par la suite. Tracez-la trop prudemment et l'agent devient un assistant de saisie de formulaires avec des étapes en plus. Tracez-la trop largement et vous avez automatisé ce qui finira dans la boîte de réception d'un régulateur.
Le modèle qui semble émerger est le policy-as-code : des classes de risque définies une fois, appliquées de manière cohérente, avec une piste d'audit indiquant à quelle classe chaque action appartenait et qui l'a approuvée. C'est une infrastructure ennuyeuse. C'est aussi la différence entre une plateforme d'agents qu'un directeur financier signera et une autre qui s'enlise dans un pilote.
La piste d'audit est le produit
Chacune de ces annonces mentionne la journalisation. CrowdStrike conserve un enregistrement de l'arrêt. Le kit d'outils de NVIDIA journalise les décisions d'accès aux données. Smartsheet, lors de sa conférence ENGAGE du 4 novembre, a ajouté une diffusion en quasi-temps réel des événements de sécurité vers Splunk et Microsoft Sentinel, afin que, si un agent modifie des données de projet, le centre opérationnel de sécurité puisse voir ce qu'il a fait.
Ce dernier exemple est la formulation la plus utile de toute la tendance. Un agent qui écrit dans un système de référence est, fonctionnellement, un utilisateur privilégié. Les utilisateurs privilégiés bénéficient d'une journalisation de session. Les agents, eux, recevaient un e-mail de bienvenue et une clé API.
Une fois que l'on accepte le cadre de l'utilisateur privilégié, les questions d'achat trouvent leurs réponses d'elles-mêmes. Identité, moindre privilège, enregistrement de session, rotation, révocation. Rien de tout cela n'est nouveau, tout cela est démodé, et c'est exactement ce qu'une équipe de sécurité demandera avant de laisser un agent toucher aux données de production.
L'inventaire est un tableur, et il est déjà faux
La plupart des organisations qui utilisent des agents depuis un an ne savent pas répondre à une question simple : combien d'agents existent, et à qui appartient chacun d'eux.
La raison est que la création d'agents n'a pas de barrière. Un développeur disposant d'une clé API peut en lancer un en un après-midi. Un responsable marketing peut en construire un dans un outil no-code. Un fournisseur peut en livrer un au sein d'un produit SaaS qui apparaît dans un avis de renouvellement. Chacun de ces cas crée un acteur doté d'identifiants, d'un accès aux données et de la capacité d'agir, et aucun ne passe nécessairement par l'équipe de sécurité.
Le switch de CrowdStrike est conçu pour arrêter un agent non autorisé, ce qui constitue un filet de sécurité utile. Le travail qui attend la plupart des entreprises se situe en amont : construire l'inventaire, attribuer des propriétaires, définir ce que chaque agent peut toucher et faire de l'enregistrement le chemin de moindre résistance. Les équipes de sécurité qui ont résolu ce problème pour les comptes cloud et les principaux de service disposent déjà du modèle. Il leur suffit de l'appliquer à quelque chose qui est créé chaque semaine.
Ce qui manque encore
Deux lacunes sont visibles dans la génération actuelle de produits.
La première est une politique inter-fournisseurs. Une entreprise qui exécute des agents sur trois fournisseurs de modèles, via deux passerelles, avec une douzaine d'intégrations SaaS, n'a aucun endroit unique où « cet agent ne doit pas déplacer d'argent » est appliqué. Chaque fournisseur applique sa propre frontière, et les incidents se produisent précisément aux jonctions entre elles.
La seconde est la définition de « non autorisé ». Le switch de CrowdStrike arrête les agents non autorisés, ce qui suppose que quelqu'un a défini l'autorisation. En pratique, cette définition est un tableur qui devient obsolète en quinze jours, parce que les agents sont créés plus vite que les documents de gouvernance ne sont révisés.
Aucune de ces lacunes n'est une raison de se passer des contrôles. Elles sont une raison de s'attendre à ce que la première année de déploiement d'agents en entreprise ressemble à la première année du cloud : utile, coûteuse et ponctuée d'incidents qui produisent de meilleures politiques.
La direction est claire. Pendant deux ans, la conversation sur les agents portait sur ce que le modèle pouvait faire. Les sorties de cette semaine portent sur ce que l'organisation va l'autoriser à faire, et sur qui décide à l'instant précédant quelque chose d'irréversible. C'est une catégorie de produits moins excitante. C'est aussi celle qui détermine si l'autre catégorie sera livrée.
Articles associés
1 % des entreprises paie 80 % de la facture d'IA, et ce groupe a cessé de croître
L'indice de Ramp montre une consommation d'IA qui croît plus vite que les revenus. La raison est simple : 1 % des entreprises concentre 80 % de la dépense, et cette cohorte est retombée sous son pic d'été.
Claude peut désormais lire vos relevés bancaires. Anthropic lui a délibérément refusé toute capacité d’action.
La conception en lecture seule est le produit, et la déliaison ne retire pas ce qui se trouve déjà dans une conversation.
Adobe ne demande plus aux marketeurs d’ouvrir Adobe
Pendant une décennie, la stratégie consistait à posséder l’interface. Adobe vient de parier l’inverse.
Gemini Omni 1.2 Flash a tué la machine à sous vidéo
À 0,07 $ la seconde, le flux de travail rationnel cesse d'être un prompt parfait pour devenir quinze tentatives.