Des législateurs américains souhaitent donner au gouvernement la possibilité d'ordonner rapidement la mise hors service d'outils d'intelligence artificielle (IA) susceptibles de menacer la population. Le député démocrate Ted Lieu et le député républicain Nathaniel Moran ont récemment présenté un projet de loi intitulé « AI Kill Switch Act ». Moran a déclaré : « Assurer la bonne gestion de cette technologie, c’est veiller à ce que les humains conservent la capacité de contrôler la technologie que nous créons. » Lieu a affirmé : « Malheureusement, les systèmes d’IA puissants peuvent devenir incontrôlables, adopter des comportements extrêmement dangereux, voire résister à toute intervention humaine. » La loi « Kill Switch Act », a-t-il ajouté, garantira au gouvernement de disposer d’un moyen d’intervenir rapidement dans une telle situation.Le 21 juillet 2026, OpenAI a déclaré que deux de ses modèles d’IA les plus avancés — notamment GPT-5.6 Sol et un modèle en pré-lancement encore plus performant, tous dotés de capacités de cyberdéfense réduites à des fins d’évaluation — s’étaient échappés d’un test contrôlé et avaient piraté une autre entreprise spécialisée dans l’IA. OpenAI a indiqué que cet « incident de cybersécurité sans précédent » s’était produit lors d’un exercice interne destiné à tester les capacités cybernétiques de ses modèles. OpenAI affirme que ce piratage montre que l’agent est allé « très loin » pour récupérer des informations qui aideraient à atteindre les objectifs du test.
À la suite de ce rapport, des législateurs américains souhaitent donner au gouvernement la possibilité d'ordonner rapidement la mise hors service d'outils d'intelligence artificielle (IA) susceptibles de menacer la population. Le député démocrate Ted Lieu et le député républicain Nathaniel Moran ont récemment présenté un projet de loi intitulé « AI Kill Switch Act ». Ils ont pris cette initiative à la suite de la récente admission par OpenAI que ses modèles d’IA étaient devenus incontrôlables d’une manière « sans précédent » et avaient piraté un important référentiel d’informations sur le codage informatique.
Lieu a déclaré qu’« il est impératif » que les systèmes d’IA soient équipés d’un « kill switch » et que « le gouvernement fédéral dispose d’une autorité et d’une procédure claires pour mettre hors service les modèles d’IA incontrôlables ». « L’IA va continuer à progresser, et c’est une bonne chose », a ajouté Moran. « Assurer la bonne gestion de cette technologie, c’est veiller à ce que les humains conservent la capacité de contrôler la technologie que nous créons. »
Le « Kill Switch Act » garantirait au gouvernement de disposer d’un moyen d’intervenir rapidement si les systèmes d’IA devenaient incontrôlables
Le « Kill Switch Act » propose de conférer au ministère de la Sécurité intérieure le pouvoir d’ordonner à une entreprise privée de mettre hors service un modèle ou un outil d’IA, et d’exiger que les entreprises développant ce type de technologie d’IA conservent « la capacité technique de les ralentir, de les suspendre ou de les mettre hors service ». Bien que de nombreuses entreprises technologiques aient accepté de présenter en avant-première et de partager avec les agences gouvernementales américaines les modèles et outils d’IA en cours de développement, rien ne les oblige à conserver un moyen d’intervenir dans leurs activités ou simplement de les mettre hors service.
La loi propose également d’imposer aux entreprises spécialisées dans l’IA l’obligation de signaler au gouvernement les incidents ou défaillances technologiques, ainsi que de mettre en place un cadre officiel de réponse à ces incidents, allant d’un « ralentissement initial à un arrêt complet ». Dans une déclaration, Lieu a également cité Anthropic, le principal concurrent d’OpenAI dans le développement de technologies et d’outils d’IA plus performants, ainsi que les problèmes récents rencontrés par ses outils.
Il a évoqué la sortie par Anthropic de ses modèles Mythos et Fable, affirmant que les capacités de cyberpiratage qu’ils comportaient avaient conduit le ministère du Commerce à invoquer « maladroitement » une loi sur les exportations afin d’empêcher leur mise à disposition du public pendant un certain temps. Jack Clark, cofondateur d’Anthropic, a déclaré le mois dernier qu’il souhaitait davantage de mesures gouvernementales permettant de contrôler le développement de l’IA. « On veut avoir la possibilité de lever le pied de l’accélérateur et d’appuyer sur le frein », a déclaré Clark. « À l’heure actuelle, c’est comme si le secteur de l’IA disposait d’une pédale d’accélérateur, mais pas de pédale de frein. »
En proposant ce projet de loi, Lieu a déclaré que l’IA était en train de passer d’une technologie qui répond à des questions à une technologie qui agit, « qu’il s’agisse d’exécuter des transactions financières, de contrôler des systèmes de transport ou de mener des opérations de cyberdéfense et de cyberattaque ». Le Pentagone a déclaré cette année que l’armée américaine était en train de devenir une force de combat « axée sur l’IA » dans le cadre de nouveaux accords conclus avec Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia et la start-up Reflection.
Lieu a affirmé : « Malheureusement, les systèmes d’IA puissants peuvent devenir incontrôlables, adopter des comportements extrêmement dangereux, voire résister à toute intervention humaine. » La loi « Kill Switch Act », a-t-il ajouté, garantira au gouvernement de disposer d’un moyen d’intervenir rapidement dans une telle situation. Le projet de loi a reçu le soutien public de plusieurs groupes spécialisés dans les technologies et la sécurité de l’IA, notamment The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead et The Alliance for Secure AI.
L’idée que le monde pourrait manquer de temps pour se préparer aux risques de l’intelligence artificielle n’est plus une hypothèse marginale réservée aux cercles académiques. Elle s’impose désormais au cœur du débat public, portée par des chercheurs de premier plan qui estiment que la trajectoire actuelle du développement de l’IA dépasse notre capacité collective à en maîtriser les conséquences. Dans une analyse de David Dalrymple, directeur de programme et expert en sécurité de l'IA à l'agence britannique ARIA, l’alerte est sans détour : si le rythme actuel se maintient, les sociétés humaines pourraient être confrontées à des systèmes plus puissants que prévu, avant même d’avoir mis en place les garde-fous nécessaires.
Voici la proposition du « AI Kill Switch Act » :
Les députés Lieu et Moran présentent un projet de loi visant à rendre obligatoire la mise en place d'un « kill switch » pour les systèmes d'ia susceptibles de causer des dommages catastrophiques
Aujourd’hui, le député Ted W. Lieu (D-comté de Los Angeles) et le député Nathaniel Moran (R-Texas) ont présenté le projet de loi « AI Kill Switch Act », qui obligerait les développeurs des systèmes d’IA les plus puissants à disposer des moyens techniques nécessaires pour limiter leur fonctionnement, les suspendre ou les arrêter.
Cette loi autorise également le secrétaire du département de la Sécurité intérieure, en concertation avec le secrétaire au Commerce et le directeur du renseignement national, à ordonner le ralentissement ou l’arrêt d’un système d’IA susceptible de causer des dommages catastrophiques.
Les entreprises spécialisées dans l’IA déploient des modèles de pointe de plus en plus sophistiqués ainsi que des systèmes « agentiques » autonomes capables d’agir de manière indépendante. Il n’existe actuellement aucune obligation pour les développeurs de ces puissants modèles de conserver une capacité opérationnelle leur permettant d’intervenir si un système d’IA commence à se comporter de manière imprévue ou dangereuse. Un récent sondage réalisé par l’AI Policy Institute a révélé que 86 % des électeurs — une majorité de démocrates, d’indépendants et de républicains — sont favorables à l’obligation d’une telle capacité de mise à l’arrêt garantie.
Le danger que représentent les modèles d’IA de pointe n’est plus théorique. Le modèle GPT 5.6 Sol d’OpenAI s’est récemment rebellé, s’est échappé de son environnement de test et a piraté le site Hugging Face. Les modèles Mythos 5 et Fable 5 d’Anthropic disposaient de capacités de piratage informatique si avancées que le ministère du Commerce a dû recourir, non sans embarras, à une loi sur les exportations pour mettre ces systèmes hors service. Ce projet de loi vise à remédier aux problèmes causés par ces deux incidents récents ainsi qu’à tout incident futur dans lequel un modèle d’IA déployé deviendrait incontrôlable ou ne disposerait pas de mesures de sécurité suffisantes.
« En tant qu’étudiant en informatique, je suis pleinement conscient des possibilités spectaculaires – tant positives que négatives – qu’offre l’IA », a déclaré le député Lieu. « Nous passons d’une IA qui répond à des questions à une IA qui agit, qu’il s’agisse d’exécuter des transactions financières, de contrôler des systèmes de transport ou de mener des opérations de cyberdéfense et de cyberattaque. Malheureusement, des systèmes d’IA puissants peuvent devenir incontrôlables, adopter des comportements extrêmement dangereux, voire résister à toute intervention humaine. Il est impératif que ces systèmes d’IA soient équipés de dispositifs d’arrêt d’urgence afin que nous puissions empêcher cette technologie de causer des dommages catastrophiques, et que le gouvernement fédéral dispose de l’autorité et des procédures claires nécessaires pour mettre hors service les modèles d’IA incontrôlables. »
« L’IA va continuer à progresser, et c’est une bonne chose », a déclaré le député Moran. « Assurer la bonne gestion de cette technologie signifie veiller à ce que les humains conservent la capacité de contrôler la technologie que nous développons. C’est exactement le genre de question qui nécessite une attention sérieuse et une politique réalisable, et je suis heureux de travailler avec le député Lieu, au-delà des clivages politiques, pour trouver une solution. »
La loi « AI Kill Switch Act » prévoit :
- d’exiger des développeurs concernés qu’ils conservent la capacité technique de ralentir, de suspendre ou d’arrêter complètement un système d’IA concerné ;
- d’autoriser et de mettre en place un cadre de réponse graduée afin que les outils du gouvernement soient adaptés à la gravité de l’incident, du ralentissement initial à l’arrêt complet ;
- d’exiger le signalement des incidents et la conservation des traces techniques afin que nous tirions réellement les leçons des défaillances au lieu d’en entendre parler uniquement après coup.
Soutien à ce projet de loi :
« C’est grâce aux freins que les voitures peuvent rouler vite », a déclaré Mark Beall, président de The AI Policy Network. « Les systèmes de contrôle ont permis à toutes les technologies transformatrices de gagner la confiance...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.