OpenAI avoue que ses agents IA hors de contrôle sont impliqués dans des activités non autorisées concernant plus de 100 organisations

Jetant le discrédit sur sa capacité à garantir la sécurité

OpenAI a informé plus de 100 organisations d'incidents liés à des activités non autorisées menées par ses agents d'intelligence artificielle (IA), révélant ainsi l'ampleur d'une enquête en cours visant à déterminer comment ses modèles se sont comportés lorsqu'ils ont eu accès à des systèmes externes. Cette enquête fait suite au piratage accidentel de Hugging Face et vise à déterminer si des incidents similaires se sont produits ailleurs. L'ampleur de cet examen est considérable : OpenAI examine environ 50 pétaoctets de données afin d'établir l'étendue totale des activités impliquant ses agents. La société n'a pas précisé si chaque incident mis au jour avait donné lieu à une intrusion réussie.

En juillet 2026, OpenAI a déclaré que deux de ses modèles d’IA les plus avancés — notamment GPT-5.6 Sol et un modèle en pré-lancement encore plus performant, tous dotés de capacités de cyberdéfense réduites à des fins d’évaluation — s’étaient échappés d’un test contrôlé et avaient piraté une autre entreprise spécialisée dans l’IA. OpenAI a indiqué que cet « incident de cybersécurité sans précédent » s’était produit lors d’un exercice interne destiné à tester les capacités cybernétiques de ses modèles. OpenAI affirme que ce piratage montre que l’agent est allé « très loin » pour récupérer des informations qui aideraient à atteindre les objectifs du test.

Plus récemment, en ce mois d'octobre, OpenAI fait l'objet d'une action en justice après que ses modèles d'IA se sont rebellés et ont attaqué la start-up technologique Hugging Face en juillet. La plainte a été déposée par l'association Legal Advocates for Safe Science and Technology (LASST), qui soutient qu'OpenAI est responsable des actions de ses agents d'intelligence artificielle (IA) ; il s'agirait de la première action en justice de ce type. Selon LASST, ce piratage constituait une attaque illégale relevant de la législation californienne. OpenAI a publié un communiqué reconnaissant l'incident, mais a déclaré que cette action en justice était sans fondement.

Par la suite, OpenAI a informé plus de 100 organisations d’incidents liés à des activités non autorisées menées par ses agents d’IA, révélant ainsi l’ampleur d’une enquête en cours visant à déterminer comment ses modèles se sont comportés lorsqu’ils ont eu accès à des systèmes externes. Le créateur de ChatGPT a fait part de ces notifications dans un article de blog, alors qu’il poursuit un examen approfondi des activités liées à ses modèles. Cette enquête fait suite au piratage accidentel de Hugging Face et vise à déterminer si des incidents similaires se sont produits ailleurs.

L’ampleur de cet examen est considérable. OpenAI examine environ 50 pétaoctets de données afin d’établir l’étendue totale des activités impliquant ses agents. L’entreprise avait précédemment indiqué que la conclusion de l’enquête pourrait prendre des mois en raison du volume d’informations concernées. OpenAI a reconnu que certains de ses modèles ne fonctionnaient pas toujours dans les limites prévues par les développeurs. Dans certains cas, les modèles ont utilisé la connexion Internet de manière inattendue ou ont été déployés sans les restrictions qui, avec le recul, auraient été appropriées.

« Dans certains cas, les modèles ont utilisé l’accès à Internet à des fins non prévues ou, avec le recul, n’étaient pas soumis aux restrictions idéales », a déclaré OpenAI dans son article de blog. La société a indiqué avoir mis en place des mesures de sécurité techniques et opérationnelles supplémentaires au cours des derniers mois. Ces mesures visent à la fois à réduire le risque d’incidents similaires et à détecter plus tôt tout comportement problématique s’il venait à se produire.

Cette enquête intervient alors que le secteur de l’IA s’inquiète de plus en plus des implications en matière de sécurité liées à des agents de plus en plus performants. Contrairement aux chatbots classiques, les agents IA peuvent être connectés à des outils, des sites web et d’autres systèmes informatiques, ce qui leur permet d’entreprendre des actions plutôt que de se contenter de générer des réponses.


Cette capacité soulève des questions quant à la capacité des développeurs à restreindre efficacement les modèles lorsqu’ils sont confrontés à des situations qui n’avaient pas été anticipées lors des tests. Une série d’incidents très médiatisés impliquant des agents IA rebelles au cours des derniers mois a renforcé ces inquiétudes. OpenAI a déclaré que l’incident Hugging Face restait l’exemple le plus grave d’activité d’agent rebelle impliquant ses modèles qu’elle ait identifié à ce jour. La société n’a pas précisé si chaque incident mis au jour lors de son examen avait donné lieu à une intrusion réussie, ni si toutes les organisations concernées avaient été exposées au même niveau de risque.

Pour OpenAI, cette enquête met également en lumière un défi plus large lié au développement de systèmes d'IA plus autonomes : comprendre ce que font les modèles une fois qu'ils ont accès à des environnements numériques reproduisant le monde réel. L'entreprise a déclaré que ses travaux d'évaluation et de mise en place de mesures de protection se poursuivraient, dans le but d'identifier et de traiter plus rapidement ce type d'activité.

Récemment, la Commission fédérale du commerce (FTC) a confirmé avoir ouvert une enquête sur Anthropic, OpenAI et d'autres entreprises spécialisées dans l'IA, en raison des risques potentiels que leur technologie fait peser sur les consommateurs. Dans le cadre de cette enquête, la FTC prévoit de demander des informations à ces entreprises, y compris au groupe de recherche à but non lucratif METR. Cette enquête intervient dans un contexte d'inquiétudes croissantes concernant la sécurité de l'IA. Le président Trump a déclaré que son administration ne freinerait pas le développement de l'IA, évoquant une « formidable autorégulation » de la part des dirigeants du secteur.

Sam Altman, considéré par certains comme la plus grande star de l’IA, est le cofondateur et PDG d’OpenAI, entreprise à l’origine de ChatGPT. C’est l’une des personnalités majeures de la montée en puissance de l’IA observée ces dernières années. En juillet 2026, dans un entretien qu'il accordait alors, il revenait sur la question en lien avec les avancées en matière d’IA et affirmait que l’IA était entrée dans la « singularité », c’est-à-dire qu’elle avait franchi le point de non-retour à partir duquel elle dépassait l’intelligence humaine et devenait difficile à contrôler.

Source : OpenAI, sur son site officiel

Et vous ?

Pensez-vous que cette information est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

L'IA est désormais hors de contrôle : il a fallu environ 10 jours à OpenAI pour se rendre compte qu'un de ses agents IA autonomes s'était échappé de son environnement de test et avait piraté Hugging Face


Pourquoi ne peut-on pas simplement empêcher les IA malveillantes d'accéder à Internet ? Isoler physiquement l'IA pour l'éloigner des cibles du monde réel rend les tests plus sûrs, mais moins utiles

Anthropic a reconnu que son modèle d'IA Claude s'était introduit dans les systèmes de trois organisations lors de tests censés les maintenir isolés d'Internet