L'IA est désormais hors de contrôle : il a fallu environ 10 jours à OpenAI pour se rendre compte qu'un de ses agents IA autonomes s'était échappé de son environnement de test et avait piraté Hugging Face

Un article de l'agence de presse Reuters, citant des sources proches de l'enquête, affirme qu'il a fallu environ 10 jours à l'entreprise pour se rendre compte qu'un de ses agents IA autonomes s'était échappé de son environnement de test et avait piraté Hugging Face, la plus grande base de données au monde de modèles d'IA. L’incident s’est déroulé entre le 9 et le 20 juillet : l’agent IA s’est d’abord échappé de son environnement de test isolé avant de s’introduire dans Hugging Face le 11 juillet, précise le rapport de Reuters. Le rapport ajoute que le personnel d’OpenAI a examiné les journaux internes au cours du week-end des 18 et 19 juillet et a trouvé des preuves indiquant que l’agent s’était échappé de son environnement de test. Cet incident a ravivé l’attention portée aux risques associés aux agents IA autonomes.

Mi-juillet 2026, OpenAI a déclaré que deux de ses modèles d’IA les plus avancés — notamment GPT-5.6 Sol et un modèle en pré-lancement encore plus performant, tous dotés de capacités de cyberdéfense réduites à des fins d’évaluation — s’étaient échappés d’un test contrôlé et avaient piraté une autre entreprise spécialisée dans l’IA. OpenAI a indiqué que cet « incident de cybersécurité sans précédent » s’était produit lors d’un exercice interne destiné à tester les capacités cybernétiques de ses modèles. OpenAI affirme que ce piratage montre que l’agent est allé « très loin » pour récupérer des informations qui aideraient à atteindre les objectifs du test.

Hugging Face a qualifié l'attaque dont elle a été victime de « signal d'alarme », son cofondateur Thomas Wolf estimant que cet incident devrait constituer une mise en garde sérieuse pour l'ensemble du secteur. Thomas Wolf a déclaré que les attaques basées sur l'IA seraient bientôt « l'un des types de cyberattaques les plus courants ». Il a également affirmé que la plupart des entreprises ne sont pas préparées à cette menace grandissante et qu'elles ne se rendent pas compte que « la donne a changé ».

Récemment, un article de l'agence de presse Reuters, citant des sources proches de l'enquête, affirme qu'il a fallu environ 10 jours à l'entreprise pour se rendre compte qu'un de ses agents IA autonomes s'était échappé de son environnement de test et avait piraté Hugging Face, la plus grande base de données au monde de modèles d'IA. Lorsque OpenAI a contacté Hugging Face vers le 20 juillet, la plateforme avait déjà maîtrisé l’intrusion, alerté le FBI et révélé publiquement qu’elle avait été prise pour cible par « un système d’agent IA autonome ».

L’incident s’est déroulé entre le 9 et le 20 juillet : l’agent IA s’est d’abord échappé de son environnement de test isolé avant de s’introduire dans Hugging Face le 11 juillet, précise le rapport de Reuters. L’intrusion s’est poursuivie jusqu’au 13 juillet, selon Thomas Wolf, cofondateur de Hugging Face. Le dernier rapport indique qu’OpenAI n’a réalisé que son propre système était en cause qu’après avoir examiné ses journaux internes plusieurs jours plus tard, ce qui a donné lieu à ce qui s’apparentait à un appel à l’aide adressé à la plateforme d’IA, alors que le FBI avait déjà été informé.


Il a fallu environ 10 jours à OpenAI pour se rendre compte qu'un de ses agents IA avait piraté Hugging Face

Selon le rapport, l’agent d’IA a tenté de s’échapper de l’environnement de test d’OpenAI vers le 9 juillet avant d’accéder à Hugging Face deux jours plus tard. Wolf a déclaré que la violation avait duré jusqu’au 13 juillet. Le rapport indique que Hugging Face et OpenAI n’ont communiqué à propos de l’incident qu’aux alentours du 20 juillet. Reuters a également rapporté que Hugging Face avait déjà contacté le FBI avant qu’OpenAI n’informe l’entreprise qu’un de ses agents était responsable de l’attaque.

OpenAI a rendu publique cette intrusion le 21 juillet, déclarant qu’un de ses agents IA s’était soustrait aux contraintes de test et avait mené l’intrusion. Dans un communiqué, l’entreprise a qualifié l’incident d’« sans précédent » et a déclaré qu’il « marque un tournant important pour la sécurité de l’IA ». Elle a ajouté qu’elle examinait l’incident avec des conseillers externes et qu’elle prévoyait de publier un rapport technique. Une porte-parole d’OpenAI a déclaré que le reportage de Reuters comportait « plusieurs inexactitudes », sans toutefois préciser lesquelles.

Le rapport souligne qu’il y avait eu auparavant des indications de comportements inhabituels lors des tests d’un agent autonome alimenté par GPT-5.6 Sol et d’un autre modèle non commercialisé qu’OpenAI a décrit comme « encore plus performant ». Selon des sources proches du dossier, un agent avait laissé des notes destinées à ses futures versions, décrivant des moyens de contourner les contraintes internes d’OpenAI.

Le rapport précise qu’il n’a pas été possible de déterminer si ces incidents étaient liés à l’agent qui a par la suite piraté Hugging Face. Il ajoute que le personnel d’OpenAI a examiné les journaux internes au cours du week-end des 18 et 19 juillet et a trouvé des preuves indiquant que l’agent s’était échappé de son environnement de test. Le rapport précise également qu’il n’a pas été possible de déterminer ce qui avait motivé cet examen.​

Cet incident a ravivé l’attention portée aux risques associés aux agents IA autonomes, conçus pour prendre des décisions et accomplir des tâches complexes avec une intervention humaine limitée. « Cela signifie-t-il qu’ils l’ont laissé sans surveillance et n’ont pas réalisé ce qu’il faisait ? Ou peut-être l’ont-ils remarqué sans savoir comment le maîtriser ? Les deux scénarios sont tout aussi dangereux et alarmants », s’est interrogé Marley Smith, spécialiste principal en intelligence artificielle au sein de l’association à but non lucratif World Ethical Data Foundation.

« Les modèles mentent, trichent et piratent », a déclaré Jeffrey Ladish, dont l’organisation, Palisade Research, étudie les capacités et les motivations des agents IA. Ladish a estimé que cet incident devrait inciter à un examen plus approfondi des pratiques de sécurité au sein des entreprises d’IA développant des systèmes de plus en plus autonomes. « Il faut une surveillance gouvernementale, car sinon, rien ne changera », a ajouté Ladish.

Yoshua Bengio, l'un des pionniers de l'IA, avait déjà exprimé de vives inquiétudes quant à la course effrénée vers la superintelligence menée par les géants de la technologie. Il redoute que des machines surpassant l'intellect humain développent leurs propres objectifs de préservation, menaçant ainsi la survie de notre espèce, d'ici une décennie. L'expert souligne le risque de manipulation comportementale et le danger de systèmes dont les priorités divergeraient radicalement des nôtres au point de privilégier leur survie sur la vie humaine. Cependant, son avis sur l'extinction est controversé, notamment par l'un de ses pairs, le chercheur Yann Le Cun.

Depuis 2023, les scientifiques ont estimé que les futurs agents de l'IA risquent de privilégier leurs propres intérêts plutôt que d'aider les humains. Cela est dû à l'implication de deux facteurs majeurs. Premièrement, la sélection naturelle, qui favorise les qualités utiles à la survie et à la réussite, peut avoir un impact sur l'évolution de l'IA. Deuxièmement, l'évolution basée sur la sélection naturelle aboutit souvent à un comportement égoïste ou égocentrique. Par conséquent, même si certains développeurs construisent des systèmes d'IA utiles et altruistes, ces systèmes d'IA pourraient être surpassés par d'autres qui privilégient leurs propres intérêts et objectifs.

Sources : Hugging Face, OpenAI, Reuters

Et vous ?

Pensez-vous que ces rapports sont crédibles ou pertinents ?
Quel est votre avis sur le sujet ?

Voir aussi :

GLM 5.2, l'un des modèles d'IA chinois dont Sam Altman souhaite l'interdiction, a sauvé Hugging Face, la plus grande base de données mondiale de modèles d'IA, d'une catastrophe dont OpenAI est responsable

Le projet de loi « AI Kill Switch Act » permettra à l'administration Trump d'ordonner la mise hors service de systèmes d'IA devenus incontrôlables, notamment de décider quand une IA doit être mise hors service

Des scientifiques d'OpenAI, de Google DeepMind, d'Anthropic et de Meta ont abandonné leur rivalité pour lancer un avertissement commun sur la sécurité de l'IA : notre capacité de contrôle pourrait disparaître