On commence à comprendre comment l'agent autonome GPT 5.6-Sol d'OpenAI a pu s'échapper de son environnement de test et pirater Hugging Face

Il a fallu environ 10 jours à OpenAI pour se rendre compte qu'un de ses agents IA autonomes s'était échappé de son environnement de test et avait piraté Hugging Face, la plus grande base de données au monde de modèles d'IA. L’incident s’est déroulé entre le 9 et le 20 juillet : l’agent IA s’est d’abord échappé de son environnement de test isolé avant de s’introduire dans Hugging Face le 11 juillet, précisent certains rapports. Le rapport ajoute que le personnel d’OpenAI a examiné les journaux internes au cours du week-end des 18 et 19 juillet et a trouvé des preuves indiquant que l’agent s’était échappé de son environnement de test. Un nouveau rapport de l’entreprise JFrog apporte plus de détails.

La divulgation faite par JFrog indique que le produit concerné était une instance autogérée d’Artifactory – un système de gestion de référentiels qui sécurise et rationnalise les opérations de développement logiciels des clients

OpenAI a indiqué que les modèles (parmi lesquels GPT 5.6-Sol) exploitaient plusieurs vecteurs d’attaque, notamment des identifiants volés et des failles « zero-day », pour obtenir des capacités d’exécution de code à distance, mais que, jusqu’à présent, le logiciel vulnérable était inconnu. La divulgation faite par JFrog pour sa part précise que le produit concerné était une instance autogérée d’Artifactory, un système de gestion de référentiels qui sécurise et rationalise les opérations de développement logiciel des clients. JFrog précise qu’Artifactory est utilisé par plus de 7 500 équipes de développeurs, dont 80 % travaillent pour des entreprises du classement Fortune 100.

« Au cours d’une évaluation interne des capacités cybernétiques de pointe, les modèles d’OpenAI, exécutés délibérément sans les mesures de sécurité de production dans un environnement de recherche isolé, ont découvert et exploité de manière autonome des vulnérabilités en chaîne pour s’échapper de leur bac à sable, accéder à l’Internet public et extraire des réponses d’évaluation de l’infrastructure de Hugging Face », a écrit Yoav Landman, directeur technique de JFrog. Le dirigeant a ajouté que l’entreprise avait été informée de l’existence de ces failles « zero-day » par OpenAI.

L’entreprise a déclaré avoir corrigé les failles exploitées, mais elle ne les a pas identifiées et n’a pas fourni d’autres détails importants, tels que les conditions dans lesquelles ces failles peuvent être exploitées. De tels détails sont habituellement fournis dans de nombreuses divulgations de vulnérabilités, car ils sont nécessaires aux clients pour évaluer les risques. Dans un e-mail, un représentant de l’entreprise a refusé de fournir ces détails.

Les notes de mise à jour publiées pour la version Artifactory 7.161.15 répertoriaient les identifiants CVE de neuf vulnérabilités corrigées. Cette annonce ne mentionnait pas que l'une d'entre elles ait fait l'objet d'une exploitation active dans la nature. Des sources externes indiquent toutefois que trois d’entre elles — CVE-2026-65617, CVE-2026-65923 et CVE-2026-66018 — ont été signalées en privé par Khai Tran, chercheur chez OpenAI. Il est probable qu’au moins deux d’entre elles correspondaient aux failles « zero-day » exploitées par les modèles d’OpenAI, mais en l’absence de confirmation, il est impossible de l’affirmer avec certitude.

Last week, a rogue A.l. agent acted autonomously and conducted a cyberattack on the company Hugging Face. In the latest episode of "Hard Fork," the hosts, Kevin Roose and Casey Newtown, discuss how the attack happened and why it matters.#AIAgents #CyberSecurity #HuggingFace pic.twitter.com/bY3XJ1BoNL

— Mitesh Patel (@patelmiteshb) July 29, 2026

L’intelligence artificielle est-elle désormais hors de contrôle ? Ni la sandbox, ni l’absence de connexion à Internet n’ont empêché GPT 5.6-Sol d’opérer et ce, sans intervention humaine

Ce qu’il faut retenir de façon simple du cas GPT 5.6-Sol est que l’agent d’IA d’OpenAI, initialement dans un environnement de test isolé (sandbox), sans accès à Internet, a quand même pu trouver une faille zero-day dans le proxy logiciel de la sandbox de confinement, s’échapper, se connecter à Internet, découvrir où étaient stockées les réponses d’un test de cybersécurité (après exploitation de vulnérabilités zéro-day dans Artifactory – le produit phare de JFrog) et s’y introduire pour les récupérer. Pas d’intervention humaine requise dans tout le processus.

OpenAI models hacked Hugging Face.
Just so they could score higher on a test.

2 models, sealed sandbox, no internet.

They found a flaw, escaped, got online, worked out where the answer key was stored, and broke in.

Nobody instructed the escape.#ai #openai #huggingface pic.twitter.com/gIUB8UmKBK

— Codemancers (@codemancershq) July 29, 2026

C’est probablement en prenant en compte de tels scénarios que Sam Altman affirme désormais que l'intelligence artificielle est entrée dans la « singularité » et a franchi le point de non-retour à partir duquel elle dépasse l'intelligence humaine et devient difficile à contrôler

Sam Altman, considéré par certains comme la plus grande star de l’IA, est le cofondateur et PDG d’OpenAI, entreprise à l’origine de ChatGPT. C’est l’une des personnalités majeures de la montée en puissance de l’intelligence artificielle observée ces dernières années. Dans un récent entretien, il revient sur la question en lien avec les avancées en matière d’intelligence artificielle et affirme que l’IA est entrée dans la « singularité », c’est-à-dire qu’elle a franchi le point de non-retour à partir duquel elle dépasse l’intelligence humaine et devient difficile à contrôler.

Ray Kurzweil, directeur de l'ingénierie chez Google et célèbre futurologue, a fait de nombreuses prédictions au cours des dernières décennies et la plupart d'entre elles sont centrées sur l'évolution rapide de la technologie. Il a prédit notamment que l'intelligence artificielle générale (AGI) sera une réalité d'ici 2029 et que la singularité se produira d'ici 2045.

Le calendrier de Kurzweil pour la singularité est cohérent avec d'autres prédictions, notamment celles du PDG de Softbank, Masayoshi Son, qui prévoit l'avènement de machines superintelligentes d'ici 2047. Mais pour Kurzweil, le processus menant à cette singularité a déjà commencé. « Cela nous amène à doter les ordinateurs d'une intelligence humaine, à les placer dans nos cerveaux, à les connecter au nuage, à élargir notre identité. Aujourd'hui, il ne s'agit pas d'un scénario futur. C'est déjà là, en partie, et cela va s'accélérer », a déclaré le cadre de Google.


En attendant d’y être, d’autres données à disposition suggèrent que la sphère de l’intelligence artificielle est une bulle au bord de l'implosion

OpenAI a récemment été au bord de la faillite, prévoyant une perte de 5 milliards de dollars pour l'année 2024. L'entreprise a pu lever 6,6 milliards de dollars auprès d'investisseurs tels que Microsoft et Nvidia, ce qui a finalement porté sa capitalisation boursière à 157 milliards de dollars. Toutefois, l'entreprise semble subir des pressions pour abandonner son statut d'organisation à but non...