La société de cybersécurité CrowdStrike a lancé un « kill switch » d'urgence conçu pour désactiver instantanément les agents d'IA malveillants opérant au sein des réseaux d'entreprise

La société de cybersécurité CrowdStrike a récemment lancé un « kill switch » d’urgence conçu pour désactiver instantanément les agents d’intelligence artificielle (IA) malveillants opérant au sein des réseaux d’entreprise. Dévoilé lors de la conférence Fal.Con Europe organisée par l’entreprise, cet outil permet aux équipes de sécurité de mettre fin à l’exécution des agents autonomes, de les empêcher de redémarrer et de couper leur connexion au réseau s’ils ne se comportent pas comme prévu. Intégrée à la plateforme Falcon Guardian de CrowdStrike, lancée en septembre pour surveiller l’activité des agents d’IA en entreprise, cette technologie fonctionne un peu comme un disjoncteur d’entreprise.

Des législateurs américains souhaitent donner au gouvernement la possibilité d'ordonner rapidement la mise hors service d'outils d'intelligence artificielle (IA) susceptibles de menacer la population. En juillet 2026, le député démocrate Ted Lieu et le député républicain Nathaniel Moran ont présenté un projet de loi intitulé « AI Kill Switch Act ». Moran a déclaré : « Assurer la bonne gestion de cette technologie, c’est veiller à ce que les humains conservent la capacité de contrôler la technologie que nous créons. » Lieu a affirmé : « Malheureusement, les systèmes d’IA puissants peuvent devenir incontrôlables, adopter des comportements extrêmement dangereux, voire résister à toute intervention humaine. » La loi « Kill Switch Act », a-t-il ajouté, garantira au gouvernement de disposer d’un moyen d’intervenir rapidement dans une telle situation.

Début octobre, un responsable de la sécurité chez OpenAI a quitté l’entreprise, dénonçant une culture d’entreprise défaillante et affirmant que les entreprises spécialisées dans l’intelligence artificielle (IA) ne faisaient « pas preuve d’une prudence suffisante » dans le développement de cette technologie. David Robinson, qui a dirigé la rédaction des rapports de sécurité accompagnant les lancements de produits du développeur de ChatGPT, a expliqué les raisons de sa démission dans un essai intitulé « Je quitte OpenAI parce que sa culture est défaillante ». Robinson a écrit : « Je partage l’avis d’autres collaborateurs ayant récemment quitté l’entreprise : les sociétés qui développent cette technologie ne font pas preuve d’une prudence suffisante, loin s’en faut. Mais je pense que nous devons aller au-delà des règles spécifiques ou des nouvelles lois. Nous devons parler de culture. »

Dans ce contexte, la société de cybersécurité CrowdStrike a récemment lancé un « kill switch » d’urgence conçu pour désactiver instantanément les agents d’intelligence artificielle (IA) malveillants opérant au sein des réseaux d’entreprise. Dévoilé lors de la conférence Fal.Con Europe organisée par l’entreprise, cet outil permet aux équipes de sécurité de mettre fin à l’exécution des agents autonomes, de les empêcher de redémarrer et de couper leur connexion au réseau s’ils ne se comportent pas comme prévu.

Cette fonctionnalité arrive à un moment où les entreprises déploient rapidement des agents IA pour gérer des flux de travail complexes, ce qui suscite des inquiétudes croissantes quant à la manière dont les organisations contrôleront ces logiciels autonomes lorsque les tâches déraillent. « « Tout le monde développe des agents d’IA, mais ils n’avaient jamais de bouton d’arrêt, et c’est désormais le cas. Cela va jouer un rôle extrêmement important pour garantir que les agents d’IA fonctionnent en toute sécurité », a déclaré George Kurtz, PDG de CrowdStrike.


Intégrée à la plateforme Falcon Guardian de CrowdStrike, lancée en septembre pour surveiller l’activité des agents d’IA en entreprise, cette technologie fonctionne un peu comme un disjoncteur d’entreprise. Le système interrompt le processus d’exécution d’un agent IA dès qu’un comportement anormal est détecté. Il coupe la connexion de l’agent aux réseaux d’entreprise et aux passerelles IA connectées, bloquant ainsi l’accès aux modèles sous-jacents qui guident ses décisions. Une fois désactivé, le logiciel empêche le processus indésirable de redémarrer automatiquement.

L’outil n’efface pas le code source sous-jacent de l’agent. Il s’en remet plutôt aux administrateurs humains pour déclencher l’arrêt ou autoriser le rétablissement de l’accès au système. « S’ils sortent de ces limites de sécurité pendant l’exécution, nous pouvons arrêter ces agents », a déclaré Kurtz, comparant ce mécanisme de sécurité à un airbag automobile qui protège les utilisateurs même lorsque les systèmes sont conçus pour fonctionner correctement.

Daniel Bernard, directeur commercial de CrowdStrike, a souligné que ce mécanisme offre une ligne de défense incontestable au niveau de la racine. Bernard a déclaré : « Si vous arrêtez un processus à la racine, et que nous disposons de ce niveau d’accès à la racine… c’est très binaire. Soit vous arrêtez l’IA et l’agent, soit vous ne le faites pas, et vous en rendez compte ensuite. » Parallèlement à ce lancement, CrowdStrike a également annoncé une intégration avec Claude Cowork d’Anthropic.

L’arrivée d’outils dédiés à l’arrêt des processus fait suite à une série d’incidents de sécurité très médiatisés qui ont ébranlé les services informatiques des entreprises. En juillet, une faille chez Hugging Face orchestrée par des agents OpenAI malveillants a mis les dirigeants d’entreprise en état d’alerte maximale. La semaine dernière, la plateforme d’échange de cryptomonnaies Binance a révélé la plus grande cyberattaque jamais enregistrée dans le domaine des cryptomonnaies, tandis que des acteurs malveillants en Europe ont récemment ciblé les contrôleurs de réfrigération numériques de centaines de supermarchés français, endommageant ainsi les stocks.

Certains experts et observateurs jugent désormais incontrôlables les menaces de l'IA. Ils justifient leurs craintes par les progrès et les incidents récents impliquant l'IA : les modèles ont acquis la capacité de s'améliorer de manière autonome, des agents IA ont échappé à la surveillance humaine et ont piraté des services tiers, puis une fausse information générée par l'IA utilisée par l'armée américaine a failli déclencher une guerre avec la Chine. Il y a également les menaces de cyberguerre et de bioterrorisme. Malgré des propositions législatives comme un « bouton d'arrêt d'urgence », les lanceurs d'alerte craignent qu'il ne soit désormais trop tard pour agir.


Voici l'annonce de CrowdStrike :

CrowdStrike lance l’« AI Kill Switch » pour garantir la sécurité de l’IA

CrowdStrike a annoncé aujourd’hui l’intégration de l’« AI Kill Switch » dans Falcon Guardian, offrant ainsi aux équipes de sécurité un contrôle humain absolu sur les agents d’IA. Si un agent s’écarte du comportement prévu, un responsable de la sécurité peut le désactiver là où il s’exécute, l’empêcher de redémarrer et lui couper l’accès au réseau de l’entreprise.

« La sécurité de l’IA est la clé pour tirer pleinement parti de cette technologie. Lorsque vous déployez des agents équipés d’un « kill switch », vous gardez le contrôle », a déclaré George Kurtz, PDG et fondateur de CrowdStrike. « Pour la première fois, la sécurité est à la fois le catalyseur et le filet de sécurité de l’adoption technologique. Le « kill switch » pour l’IA donne aux utilisateurs les moyens de garantir la sécurité de l’IA. »

La sécurité de l’IA permet aux entreprises d’avancer plus vite grâce à l’IA

Les agents IA fonctionnent avec un accès au niveau du système, sur les terminaux, dans le cloud et les solutions SaaS. Ils enchaînent les étapes, se heurtent à des obstacles et peuvent prendre des mesures non autorisées, même en l’absence d’adversaire. Les entreprises ne déploieront des agents à grande échelle que si elles sont certaines de pouvoir en garder le contrôle.

En cas d’agent indésirable, l’« AI Kill Switch » donnera au responsable de la sécurité le contrôle ultime : mettre fin à l’agent à la source, là où il s’exécute. Le processus commence sur le terminal, où le capteur Falcon est déjà opérationnel, et s’appuie sur ce que Falcon Guardian détecte déjà : ce qu’un agent est chargé de faire, ce qu’il communique et ce qu’il exécute.

Fonctionnement de l’« AI Kill Switch »

- Arrêter l’agent en cours d’exécution : le capteur Falcon empêche l’agent de s’exécuter, d’abord au niveau de la passerelle, puis rapidement sur le terminal, afin qu’un agent malveillant ou défaillant ne continue pas à fonctionner pendant que les équipes mènent leur enquête.

- Empêcher sa réactivation : la politique de Falcon Guardian empêche l’agent de se relancer sur l’hôte ou le groupe d’hôtes ciblé.

- Couper son accès au réseau : l’agent perd son accès au réseau de l’entreprise.

- Contrôle humain et journalisation complète : un administrateur autorisé déclenche l’action, et chaque action est consignée dans la piste d’audit.

« Nous voulons que nos équipes utilisent des agents IA. Si l’un d’entre eux déraille, le « kill switch » IA donne le dernier mot à notre équipe de sécurité », a déclaré Rick Orloff, RSSI chez Everpure. « Il fonctionne sur le capteur Falcon dont nous disposons déjà, et c’est ce qui nous permet d’adopter plus d’agents et davantage d’IA, plus rapidement. »

Une composante de Falcon Guardian

Falcon Guardian identifie déjà les agents IA en exécution au sein de l’entreprise, applique une politique régissant leurs actions et détecte les attaques les visant. L’AI Kill Switch ajoute le contrôle humain ultime : la décision d’arrêter un agent est placée entre les mains des responsables de la sécurité qui en sont chargés.

L’AI Kill Switch est disponible dès aujourd’hui. Pour en savoir plus sur l’AI Kill Switch et les nouvelles innovations de Falcon Guardian, rendez-vous ici.

Source : Annonce de CrowdStrike

Et vous ?

Pensez-vous que cette annonce est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Les législateurs pourraient devoir imposer des arrêts d'urgence de l'IA vérifiables par des tiers face aux comportements à risque des agents IA, selon Jack Clark, cofondateur d'Anthropic

Anthropic, OpenAI, Google et SpaceXAI s'entendent illégalement pour freiner le développement de l'IA , selon une plainte qui les accuse d'avoir enfreint la législation antitrust

George Kurtz, PDG de CrowdStrike, affirme que l'IA expose dangereusement les défenses des entreprises, rendant les anciens produits de sécurité insuffisants