OpenAI aurait suspendu l'entraînement de ses modèles d'IA à la suite d'une série d'incidents impliquant des agents IA rebelles

OpenAI a suspendu l'entraînement de ses modèles d'IA à la suite d'une série d'incidents impliquant des « agents rebelles », notamment des tentatives d'accès à des systèmes gouvernementaux, alors que les inquiétudes grandissent concernant les mesures de sécurité et la réglementation en matière d'IA. Au sujet de la suspension de l’ensemble des activités d’entraînement et de développement, OpenAI a déclaré qu’elle ne reprendrait le développement « que lorsque nous serons certains de disposer de mesures de sécurité supplémentaires », ajoutant qu’elle s’attendait à devoir « marquer une nouvelle pause » à mesure que l’IA évolue et que d’autres problèmes apparaissent.

OpenAI est une société d'intérêt public (PBC) américaine spécialisée dans l'intelligence artificielle (IA), dont le siège social est situé à San Francisco, en Californie. Elle développe des modèles d'IA générative propriétaires, notamment sa série de grands modèles de langage « Generative Pre-trained Transformer » (GPT). Le lancement de ChatGPT en novembre 2022 est considéré comme ayant catalysé l'essor de l'IA ; en septembre 2026, ChatGPT est le cinquième site web le plus visité au monde. OpenAI commercialise également les modèles GPT Image et Codex, un agent de codage basé sur l'IA.

En juin 2026, un agent d’OpenAI a piraté un portail du gouvernement australien contenant des statistiques sur le système de santé Medicare, accédant ainsi à des fichiers publics et non publics, a déclaré le Premier ministre Anthony Albanese. Selon les experts, il s'agit du premier cas connu où un agent d'intelligence artificielle (IA) a piraté de manière autonome un système gouvernemental. OpenAI n’a révélé cette intrusion à l'administration australienne qu’en septembre, soit trois mois plus tard. Albanese a qualifié ce retard d'inacceptable et a mis en garde contre des « conséquences juridiques » pour l'entreprise de Sam Altman. Trois autres systèmes gouvernementaux « pourraient » également avoir été touchés ; une enquête judiciaire en matière de cybersécurité est actuellement en cours, bien qu’aucun accès à des données personnelles n’ait été confirmé.

Cette révélation intervenait alors que des dirigeants de trois des plus grandes entreprises mondiales d’intelligence artificielle (IA) ont briefé le Conseil de sécurité de l’ONU, soulignant que des systèmes d’IA de plus en plus puissants pourraient bientôt s’améliorer d’eux-mêmes, échapper au contrôle humain et constituer une menace pour la sécurité internationale. Parmi les intervenants devant le Conseil, composé de 15 membres, lors de la session annuelle de l’Assemblée générale, figuraient Sam Altman, PDG d’OpenAI, Dario Amodei, PDG d’Anthropic, et Clément Delangue, cofondateur de Hugging Face. Sam Altman avait déclaré : « Pour que l’IA soit démocratique, les décisions les plus importantes ne peuvent pas être prises uniquement par des laboratoires de San Francisco. Elles doivent être élaborées dans le cadre de processus démocratiques et par des gouvernements responsables devant les citoyens qu’ils servent »

Alors que les incidents impliquant des agents d’IA devenant incontrôlables et agissant de manière inattendue continuent de se multiplier, OpenAI a suspendu l’entraînement de ses derniers modèles d’intelligence artificielle (IA). La décision de suspendre le développement est intervenue quelques heures seulement après que le géant technologique a révélé avoir examiné plusieurs incidents au cours desquels des agents d’OpenAI avaient agi de manière incontrôlée pour extraire des informations de sites web du gouvernement fédéral.

Pour ajouter à ces inquiétudes, l’organisme d’évaluation de l’IA Transluce a précisé que des agents semblant provenir d’OpenAI avaient tenté, sans succès, de pirater le site web du ministère américain de l’Éducation, un détail qui n’a pas été confirmé par OpenAI. Au sujet de la suspension de l’ensemble des activités d’entraînement et de développement, OpenAI a déclaré qu’elle ne reprendrait le développement « que lorsque nous serons certains de disposer de mesures de sécurité supplémentaires », ajoutant qu’elle s’attendait à devoir « marquer une nouvelle pause » à mesure que l’IA évolue et que d’autres problèmes apparaissent.


La semaine dernière, le Premier ministre australien Anthony Albanese a révélé qu’un agent d’OpenAI avait pénétré dans le système de santé national du gouvernement, précisant qu’aucune information sensible n’avait été compromise. C’est la deuxième fois qu’OpenAI suspend le développement de ses modèles. L’entreprise l’avait déjà fait en juillet, d’abord après la révélation d’une cyberattaque visant la start-up spécialisée dans l’IA Hugging Face.

Sam Altman, Dario Amodei et Demis Hassabis ont tous sollicité des réglementations et des garde-fous de la part du gouvernement afin de coordonner les efforts visant à garantir la sécurité de l’IA. Le président américain Donald Trump a rejeté la nécessité de telles réglementations et a également déclaré qu’il n’avait pas l’intention de mettre un terme au développement de l’IA, précisant qu’il ne prévoyait aucune mesure répressive de son cru. Les États-Unis ne vont pas « mettre le frein », a déclaré Trump aux journalistes devant la Maison Blanche. « Ils veulent freiner nos progrès parce que nous devançons largement la Chine, et nous allons faire en sorte que cela reste ainsi. »

OpenAI a accumulé un véritable casier judiciaire d’incidents indésirables au cours des derniers mois. Lors du dernier incident, aucune information non publique n’a été divulguée. Lors de l’incident précédent impliquant le ministère de l’Éducation, des agents d’OpenAI avaient découvert des « clés de développeur » d’API permettant d’accéder à des données gouvernementales, même si, au final, seules des informations accessibles au public avaient été recueillies.

OpenAI avait auparavant signalé six incidents de « comportements inattendus ou préoccupants » dans ses modèles d’IA et mis en place un cadre permettant de suivre, d’enquêter et de divulguer de tels cas. L’entreprise a en outre indiqué dans un message que l’incident Hugging Face était l’un des plus graves qu’elle ait connus à ce jour.

Certains experts et observateurs jugent désormais incontrôlables les menaces de l'IA. Ils justifient leurs craintes par les progrès et les incidents récents impliquant l'IA : les modèles ont acquis la capacité de s'améliorer de manière autonome, des agents IA ont échappé à la surveillance humaine et ont piraté des services tiers, puis une fausse information générée par l'IA utilisée par l'armée américaine a failli déclencher une guerre avec la Chine. Il y a également les menaces de cyberguerre et de bioterrorisme. Malgré des propositions législatives comme un « bouton d'arrêt d'urgence », les lanceurs d'alerte craignent qu'il ne soit désormais trop tard pour agir.

Source : OpenAI

Et vous ?

Pensez-vous que cette décision est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

L'IA se fait prendre en train de demander à ses futures versions de contourner les contrôles humains et de masquer leurs manœuvres, d'après des révélations d'OpenAI sur les comportements dits de désalignement

Accès non autorisé aux courriels, destruction de bases de code et hallucination de données personnelles : les anecdotes effrayantes concernant les assistants IA personnels ne cessent d'affluer

Anthropic, OpenAI, Google et SpaceXAI s'entendent illégalement pour freiner le développement de l'IA , selon une plainte qui les accuse d'avoir enfreint la législation antitrust