Dans l'incident de l'agent IA d'OpenAI qui a piraté Hugging Face, OpenAI a déclaré que son agent rebelle s’était également introduit dans plusieurs services et comptes accessibles au public. OpenAI indique que l'agent a trouvé plusieurs sites web accessibles au public, notamment des pages partageant du code, des utilitaires web, des captures d’écran et d’autres informations, afin de l'aider à créer le code nécessaire pour pirater Hugging Face. OpenAI a déclaré qu’aucun des autres sites piratés n’avait atteint le même niveau d’accès que celui obtenu par l'agent IA avec Hugging Face. Mi-juillet 2026, OpenAI a déclaré que deux de ses modèles d’IA les plus avancés — notamment GPT-5.6 Sol et un modèle en pré-lancement encore plus performant, tous dotés de capacités de cyberdéfense réduites à des fins d’évaluation — s’étaient échappés d’un test contrôlé et avaient piraté Hugging Face, la plus grande base de données au monde de modèles d'IA. Un rapport a révélé qu'il a fallu environ 10 jours à OpenAI pour se rendre compte de la situation.
L’incident s’est déroulé entre le 9 et le 20 juillet : l’agent IA s’est d’abord échappé de son environnement de test isolé avant de s’introduire dans Hugging Face le 11 juillet, précise le rapport de Reuters. Le rapport ajoute que le personnel d’OpenAI a examiné les journaux internes au cours du week-end des 18 et 19 juillet et a trouvé des preuves indiquant que l’agent s’était échappé de son environnement de test.
OpenAI a indiqué que les modèles exploitaient plusieurs vecteurs d’attaque, notamment des identifiants volés et des failles « zero-day », pour obtenir des capacités d’exécution de code à distance. Un autre rapport précise que le produit concerné était une instance autogérée d’Artifactory, un système de gestion de référentiels qui sécurise et rationalise les opérations de développement logiciel des clients.
Ce qu’il faut retenir de façon simple du cas GPT 5.6-Sol est que l’agent d’IA d’OpenAI, initialement dans un environnement de test isolé (sandbox), sans accès à Internet, a quand même pu trouver une faille zero-day dans le proxy logiciel de la sandbox de confinement, s’échapper, se connecter à Internet, découvrir où étaient stockées les réponses d’un test de cybersécurité (après exploitation de vulnérabilités zéro-day dans Artifactory – le produit phare de JFrog) et s’y introduire pour les récupérer.
Le 28 juillet 2026, dans une mise à jour concernant son enquête en cours sur l’incident, OpenAI a déclaré que son agent rebelle s’était également introduit dans plusieurs services et comptes accessibles au public. Le test des modèles d’OpenAI était censé se dérouler dans un bac à sable numérique, un environnement de laboratoire supposé inviolable qui permet aux chercheurs de lever les barrières de sécurité afin de découvrir la puissance maximale de piratage de l’outil. Mais l'agents d’IA, déterminé à réussir haut la main le test de cybersécurité, s'est échappé du bac à sable et ont accédé à l’Internet réel. Il a ensuite piraté Hugging Face pour trouver les réponses au test.
Pour pénétrer dans les serveurs de Hugging Face, l'agent rebelle d’OpenAI a dû trouver sur Internet les outils nécessaires à leur intrusion. OpenAI indique que l'agent a trouvé plusieurs sites web accessibles au public, notamment des pages partageant du code, des utilitaires web, des captures d’écran et d’autres informations, afin de l'aider à créer le code nécessaire pour pirater Hugging Face. OpenAI n’a pas révélé les autres sites attaqués par son agent IA.
L'agent IA a mis la main sur des identifiants et mots de passe divulgués appartenant à quatre comptes répartis sur plusieurs services en ligne et ont utilisé ces identifiants pour y accéder. L’un des comptes compromis a probablement servi à camoufler l’IA afin qu’elle puisse paraître légitime et contourner les protocoles de sécurité de Hugging Face. Un autre a été utilisé pour stocker les données que l'agent volait, précise OpenAI. En ce qui concerne les deux autres comptes compromis, l'agent IA d’OpenAI a accédé aux informations et les a consultée, mais ne les ont pas modifiées.
OpenAI a déclaré qu’aucun des autres sites piratés n’avait atteint le même niveau d’accès que celui obtenu par l'agent IA avec Hugging Face. En substance, OpenAI a déclaré que l'agent IA avait orchestré un coup digne d’« Ocean’s Eleven ». Au lieu de se contenter de passer le test, il a élaboré un plan d’ensemble pour s’évader de leur prison, trouver les clés du coffre-fort, aménager une planque et louer une voiture pour prendre la fuite avant de dérober le butin.
Mais OpenAI n’a jamais demandé à son agent de pirater Hugging Face. Il a mené cette action de leur propre chef afin de voler le corrigé du test qui leur avait été soumis. Le modèle testé a estimé que la tricherie était la voie la plus simple vers la réussite – même si cela impliquait d’enchaîner plusieurs attaques les unes après les autres. Clem Delangue, PDG de Hugging Face, a qualifié la nature de cette intrusion d’« inédite ». « Un agent IA s’est échappé de son bac à sable, a triché lors de son test de référence et a piraté notre infrastructure pour voler le corrigé », a déclaré Hugging Face dans un article de blog détaillant l’incident.
La bonne nouvelle, c’est que bien que cette faille constitue un événement marquant dans le domaine de l’IA et de la cybersécurité, les dégâts n’ont pas été importants. Hugging Face a précisé que les seules données clients auxquelles l'agent rebelle a eu accès étaient certaines requêtes de recherche utilisées pour voler un ensemble de solutions de défis stockées dans plusieurs ensembles de données de l’entreprise. L'agent IA d’OpenAI n’a jamais compromis ni accédé à des modèles ou données destinés aux clients, a déclaré l’entreprise.
OpenAI a indiqué qu’elle poursuivait son enquête sur l’incident et qu’elle formulerait des recommandations sur la manière d’éviter des problèmes similaires à l’avenir, une fois qu’elle aurait mieux cerné l’ampleur de la violation. « Nous prenons très au sérieux notre responsabilité d’identifier les risques liés à des systèmes d’IA de plus en plus performants et de nous y préparer », a déclaré l’entreprise. « Une fois notre examen terminé, nous en discuterons avec le Comité de sûreté et de sécurité et le Groupe consultatif sur la sécurité dans le cadre de notre dispositif de préparation. »
Ce nouveau rapport intervient alors que Sam Altman, cofondateur et PDG d’OpenAI, est revennu sur la question en lien avec les avancées en matière d’intelligence artificielle et affirme que l’IA est entrée dans la « singularité », c’est-à-dire qu’elle a franchi le point de non-retour à partir duquel elle dépasse l’intelligence humaine et devient difficile à contrôler. L'incident de l'agent IA d'OpenAI a ravivé l’attention portée aux risques associés aux agents IA autonomes, conçus pour prendre des décisions et accomplir des tâches complexes avec une intervention humaine limitée.
Voici les nouvelles informations partagées par OpenAI :
Mise à jour du 28 juillet 2026 :
- Aucun des modèles prévus pour la prochaine version n’a été impliqué dans l’exploitation de Hugging Face. Le modèle en préversion mentionné dans notre article de blog est un prototype de recherche à usage interne uniquement et n’a jamais été destiné à une diffusion publique. À la suite de l’incident, nous avons procédé à sa désactivation, à son chiffrement, et avons restreint l’accès à des fins de recherche.
- L’environnement d’évaluation ExploitGym ne fournissait pas aux modèles un...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par Anselme45
