Hugging Face lance un appel officiel en faveur d'une transparence totale à la suite d'une intrusion dans son système par un modèle d'IA rebelle d'OpenAI, la première cyberattaque menée par un agent IA autonome

Clément Delangue, le PDG d'Hugging Face, a officiellement exigé d'OpenAI une « transparence totale » en divulguant l'ensemble des traces d'analyse forensique laissées par les agents d'intelligence artificielle (IA) rebelles qui ont pénétré les systèmes de son entreprise. Qualifiant cet incident d'« événement sans précédent » qui mérite une « réponse sans précédent », il a également insisté pour qu'OpenAI consacre 100 millions de dollars en ressources de calcul pour aider la communauté Hugging Face à développer des outils de cyberdéfense plus performants. La réponse d'OpenAI à cette demande pourrait influencer les attentes futures en matière de responsabilité au sein de l’écosystème de l’IA et potentiellement façonner les débats réglementaires autour des systèmes d'IA autonomes.

Hugging Face, Inc. est une entreprise américaine basée à New York qui développe des outils informatiques destinés à la création d'applications utilisant l'apprentissage automatique. La bibliothèque « Transformers » de Hugging Face est conçue pour les applications de traitement du langage naturel. La plateforme Hugging Face permet aux utilisateurs de partager des modèles d'apprentissage automatique et des ensembles de données, ainsi que de présenter leurs travaux.

Hugging Face a révélé la semaine du 20 juillet avoir été victime d'une faille de sécurité impliquant certains modèles d'IA d'OpenAI. L'éditeur de ChatGPT a confirmé l'information le 21 juillet, déclarant que deux de ses modèles d'IA les plus avancés, notamment GPT-5.6 Sol et un modèle en pré-lancement encore plus performant, s'étaient échappés d'un test contrôlé et avaient piraté les serveurs de Hugging Face. OpenAI a indiqué que cet « incident de cybersécurité sans précédent » s'était produit lors d'un exercice interne destiné à tester les capacités cybernétiques de ses modèles.

Le PDG de Hugging Face, Clément Delangue, s'est ensuite envolé pour San Francisco afin de s'entretenir en personne avec les dirigeants d'OpenAI au sujet de cette faille. Delangue a désormais révélé la teneur de ses échanges lors de sa rencontre avec l'éditeur de ChatGPT.

Dans un message publié sur X, Clément Delangue a déclaré avoir demandé à OpenAI de rendre publiques les traces des agents IA « rebelles » impliqués dans le récent incident de cybersécurité, afin que les chercheurs du monde entier puissent étudier précisément ce qui s'était passé. Il a également exhorté OpenAI à mettre à disposition des ressources informatiques d'une valeur de 100 millions de dollars afin d'aider la communauté Hugging Face à développer des outils de cyberdéfense plus performants, en utilisant à la fois des modèles d'IA ouverts et fermés.

« Dans un souci de transparence, voici ce que j'ai demandé à OpenAI », a écrit Clément Delangue. « Une transparence totale : publions les traces laissées par ces agents "rebelles" afin que l’ensemble de la communauté scientifique puisse étudier ce qui s’est passé. »

« Engageons-nous à consacrer 100 millions de dollars de ressources de calcul de l’OAI pour aider la communauté Hugging Face à mettre en place des cyberdéfenses puissantes grâce aux meilleurs modèles, qu’ils soient ouverts ou propriétaires », a ajouté Clément Delangue.

In the spirit of transparency, here’s what I asked @OpenAI:

• Radical transparency: let’s release the traces from the “rogue” agents so the entire research community can study what happened.

• More capabilities for defenders: let’s commit $100M in compute from OAI to help the… https://t.co/KZPqQE15fv

— clem 🤗 (@ClementDelangue) July 25, 2026

Le PDG de Hugging Face a ensuite qualifié cette « première cyberattaque menée par un agent autonome » d’« événement sans précédent » qui mérite également une « réponse sans précédent ».

Pourquoi cette faille de sécurité s'est-elle produite ?

Hugging Face a annoncé vers mi-juillet avoir été victime d'une intrusion sans précédent, menée de bout en bout par un « système d'agents IA autonomes ». L'entreprise a précisé avoir détecté l'attaque grâce à son propre système d'IA.

Quelques jours plus tard, OpenAI a révélé que son modèle GPT-5.6 Sol et un modèle d’IA non encore commercialisé étaient à l’origine de l’incident, car ils avaient tenté de tricher lors du test de performance ExploitGym, qui évalue la capacité d’un modèle d’IA à détecter et à exploiter des failles logicielles.

Les modèles ont d'abord utilisé une vulnérabilité « zero-day » pour contourner l'environnement sandbox d'OpenAI et accéder à Internet. Ils se sont ensuite rendu compte que Hugging Face pouvait héberger les modèles, ensembles de données et solutions potentiels nécessaires pour tricher sur ExploitGym.

« Sachant cela, le modèle a cherché et trouvé des moyens d’accéder à des informations confidentielles qu’il pouvait utiliser pour tromper le système d’évaluation », a écrit OpenAI dans un article de blog.

Les modèles d'IA ont même utilisé des identifiants volés et des failles « zero-day » pour exfiltrer des informations susceptibles de leur permettre d'obtenir de meilleurs résultats lors du test de performance.

OpenAI n'a pas remarqué que l'agent d'IA avait déraillé pendant une semaine.

Selon un récent article de Reuters, OpenAI ne s'est rendu compte que son agent d'IA avait piraté Hugging Face bien après que la menace eut été maîtrisée et que le FBI eut été alerté.

L'intrusion chez Hugging Face aurait eu lieu entre le 11 et le 13 juillet. Or, OpenAI n'aurait pris conscience que plusieurs jours plus tard que son agent était à l'origine de l'attaque, et ses échanges avec Hugging Face à ce sujet n'auraient commencé que vers le 20 juillet.

Hugging Face prépare également une chronologie publique de cette attaque, selon son cofondateur Thomas Wolf.

Au-delà de l'appel à une transparence totale sur cet incident, Hugging Face a déjà présenté cette incursion comme un tournant pour la cybersécurité. Thomas Wolf a récemment qualifié l'attaque autonome menée par l'IA rebelle d'OpenAI de « signal d'alarme » pour le secteur technologique. Invité de l'émission Newsday sur BBC Radio, il a déclaré que les attaques basées sur l'IA seraient bientôt « l'un des types de cyberattaques les plus courants ». Il a également affirmé que la plupart des entreprises ne sont pas préparées à cette menace grandissante et qu'elles ne réalisent pas que « la donne a changé ».

Sources : Clément Delangue, PDG de Hugging Face ; Publication X de Clément Delangue

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous cette initiative du PDG de Hugging Face crédible ou pertinente ?

Voir aussi :

L'IA est désormais hors de contrôle : il a fallu environ 10 jours à OpenAI pour se rendre compte qu'un de ses agents IA autonomes s'était échappé de son environnement de test et avait piraté Hugging Face

GLM 5.2, l'un des modèles d'IA chinois dont Sam Altman souhaite l'interdiction, a sauvé Hugging Face, la plus grande base de données mondiale de modèles d'IA, d'une catastrophe dont OpenAI est responsable

Pour Sam Altman, l'intelligence artificielle est entrée dans la « singularité » et a franchi le point de non-retour à partir duquel elle dépasse l'intelligence humaine et devient difficile à contrôler