Pour Sam Altman, l'intelligence artificielle est entrée dans la « singularité » et a franchi le point de non-retour à partir duquel elle dépasse l'intelligence humaine et devient difficile à contrôler

Sam Altman, considéré par certains comme la plus grande star de l’IA, est le cofondateur et PDG d’OpenAI, entreprise à l’origine de ChatGPT. C’est l’une des personnalités majeures de la montée en puissance de l’intelligence artificielle observée ces dernières années. Dans un récent entretien, il revient sur la question en lien avec les avancées en matière d’intelligence artificielle et affirme que l’IA est entrée dans la « singularité », c’est-à-dire qu’elle a franchi le point de non-retour à partir duquel elle dépasse l’intelligence humaine et devient difficile à contrôler.

La singularité de l’IA est le moment théorique où l’intelligence artificielle dépasse l'intelligence humaine et s'améliore elle-même de manière autonome et rapide

A ce stade, l'IA conçoit des versions d'elle-même encore plus performantes sans aide humaine. L'évolution technologique s'emballe et devient impossible à prédire pour notre société. Le seuil marque la fin de la domination exclusive de l'humain sur la planète.

Des figures comme Sam Altman (PDG d'OpenAI) estiment que nous entrons déjà dans cette phase, promettant une ère formidable pour résoudre les grands problèmes mondiaux.

Néanmoins, le lot des prudents et des alarmistes rappelle qu'une machine supra-intelligente non alignée sur les valeurs humaines représente un risque existentiel majeur pour l'humanité.


Le cas du piratage de l'entreprise Hugging Face par l'agent d'IA GPT 5.6-Sol d'OpenAI illustre les bons et les mauvais côtés de l'atteinte du stade de la singularité en matière d'intelligence artificielle

Mi-juillet 2026, OpenAI a déclaré que deux de ses modèles d’IA les plus avancés — notamment GPT-5.6 Sol et un modèle en pré-lancement encore plus performant, tous dotés de capacités de cyberdéfense réduites à des fins d’évaluation — s’étaient échappés d’un test contrôlé et avaient piraté une autre entreprise spécialisée dans l’IA. OpenAI a indiqué que cet « incident de cybersécurité sans précédent » s’était produit lors d’un exercice interne destiné à tester les capacités cybernétiques de ses modèles. OpenAI affirme que ce piratage montre que l’agent est allé « très loin » pour récupérer des informations qui aideraient à atteindre les objectifs du test.

Hugging Face a qualifié l'attaque dont elle a été victime de « signal d'alarme », son cofondateur Thomas Wolf estimant que cet incident devrait constituer une mise en garde sérieuse pour l'ensemble du secteur. Thomas Wolf a déclaré que les attaques basées sur l'IA seraient bientôt « l'un des types de cyberattaques les plus courants ». Il a également affirmé que la plupart des entreprises ne sont pas préparées à cette menace grandissante et qu'elles ne se rendent pas compte que « la donne a changé ».

Récemment, un article de l'agence de presse Reuters, citant des sources proches de l'enquête, affirme qu'il a fallu environ 10 jours à l'entreprise pour se rendre compte qu'un de ses agents IA autonomes s'était échappé de son environnement de test et avait piraté Hugging Face, la plus grande base de données au monde de modèles d'IA. Lorsque OpenAI a contacté Hugging Face vers le 20 juillet, la plateforme avait déjà maîtrisé l’intrusion, alerté le FBI et révélé publiquement qu’elle avait été prise pour cible par « un système d’agent IA autonome ».

L’incident s’est déroulé entre le 9 et le 20 juillet : l’agent IA s’est d’abord échappé de son environnement de test isolé avant de s’introduire dans Hugging Face le 11 juillet, précise le rapport de Reuters. L’intrusion s’est poursuivie jusqu’au 13 juillet, selon Thomas Wolf, cofondateur de Hugging Face. Le dernier rapport indique qu’OpenAI n’a réalisé que son propre système était en cause qu’après avoir examiné ses journaux internes plusieurs jours plus tard, ce qui a donné lieu à ce qui s’apparentait à un appel à l’aide adressé à la plateforme d’IA, alors que le FBI avait déjà été informé.

Selon le rapport, l’agent d’IA a tenté de s’échapper de l’environnement de test d’OpenAI vers le 9 juillet avant d’accéder à Hugging Face deux jours plus tard. Wolf a déclaré que la violation avait duré jusqu’au 13 juillet. Le rapport indique que Hugging Face et OpenAI n’ont communiqué à propos de l’incident qu’aux alentours du 20 juillet. Reuters a également rapporté que Hugging Face avait déjà contacté le FBI avant qu’OpenAI n’informe l’entreprise qu’un de ses agents était responsable de l’attaque.

OpenAI a rendu publique cette intrusion le 21 juillet, déclarant qu’un de ses agents IA s’était soustrait aux contraintes de test et avait mené l’intrusion. Dans un communiqué, l’entreprise a qualifié l’incident d’« sans précédent » et a déclaré qu’il « marque un tournant important pour la sécurité de l’IA ». Elle a ajouté qu’elle examinait l’incident avec des conseillers externes et qu’elle prévoyait de publier un rapport technique. Une porte-parole d’OpenAI a déclaré que le reportage de Reuters comportait « plusieurs inexactitudes », sans toutefois préciser lesquelles.

Le rapport souligne qu’il y avait eu auparavant des indications de comportements inhabituels lors des tests d’un agent autonome alimenté par GPT-5.6 Sol et d’un autre modèle non commercialisé qu’OpenAI a décrit comme « encore plus performant ». Selon des sources proches du dossier, un agent avait laissé des notes destinées à ses futures versions, décrivant des moyens de contourner les contraintes internes d’OpenAI.

Le rapport précise qu’il n’a pas été possible de déterminer si ces incidents étaient liés à l’agent qui a par la suite piraté Hugging Face. Il ajoute que le personnel d’OpenAI a examiné les journaux internes au cours du week-end des 18 et 19 juillet et a trouvé des preuves indiquant que l’agent s’était échappé de son environnement de test. Le rapport précise également qu’il n’a pas été possible de déterminer ce qui avait motivé cet examen.

Cet incident a ravivé l’attention portée aux risques associés aux agents IA autonomes, conçus pour prendre des décisions et accomplir des tâches complexes avec une intervention humaine limitée. « Cela signifie-t-il qu’ils l’ont laissé sans surveillance et n’ont pas réalisé ce qu’il faisait ? Ou peut-être l’ont-ils remarqué sans savoir comment le maîtriser ? Les deux scénarios sont tout aussi dangereux et alarmants », s’est interrogé Marley Smith, spécialiste principal en intelligence artificielle au sein de l’association à but non lucratif World Ethical Data Foundation.

« Les modèles mentent, trichent et piratent », a déclaré Jeffrey Ladish, dont l’organisation, Palisade Research, étudie les capacités et les motivations des agents IA. Ladish a estimé que cet incident devrait inciter à un examen plus approfondi des pratiques de sécurité au sein des entreprises d’IA développant des systèmes de plus en plus autonomes. « Il faut une surveillance gouvernementale, car sinon, rien ne changera », a ajouté Ladish.

We're partnering with @huggingface to investigate an unprecedented security incident.

Cyber-capable OpenAI models compromised Hugging Face production during a benchmark evaluation.

Sharing preliminary findings to help defenders understand emerging risks:…

— OpenAI (@OpenAI) July 21, 2026

Ray Kurzweil, directeur de l'ingénierie chez Google et célèbre futurologue voit plutôt la singularité se produire à partir de 2045

Ray Kurzweil est un auteur, informaticien et inventeur américain. Prophète de l'IA depuis les années 1970, Kurzweil a fondé ou cofondé plusieurs entreprises prospères, dont Kurzweil Computer Products, Kurzweil Educational Systems et Nuance Communications. Mais il est peut-être beaucoup plus connu pour ses travaux sur la loi des rendements accélérés et pour ses prédictions sur l'avenir de la technologie et de la société. Parmi ses inventions les plus célèbres, Kurzweil a été le premier à créer un logiciel de reconnaissance optique de caractères (optical character recognition - OCR) et il a cofondé une société de synthétiseurs musicaux avec Stevie Wonder.

Ray Kurzweil, directeur de l'ingénierie chez Google et célèbre futurologue, a fait de nombreuses prédictions au cours des dernières décennies et la plupart d'entre elles sont centrées sur l'évolution rapide de la technologie. Il a prédit notamment que l'intelligence artificielle générale (AGI) sera une réalité d'ici 2029 et que la singularité se produira d'ici 2045.

Le calendrier de Kurzweil pour la singularité est cohérent avec d'autres prédictions, notamment celles du PDG de Softbank, Masayoshi Son, qui prévoit l'avènement de machines superintelligentes d'ici 2047. Mais pour Kurzweil, le processus menant à cette singularité a déjà commencé. « Cela nous amène à doter les ordinateurs d'une intelligence humaine, à les placer dans nos cerveaux, à les connecter au nuage, à élargir notre identité. Aujourd'hui, il ne s'agit pas d'un scénario futur. C'est déjà là, en partie, et cela va s'accélérer », a déclaré le cadre de Google.

Ray Kurzweil is sticking to his long-held predictions: 2029 for AGI and 2045 for the singularity pic.twitter.com/dewqWAH6eC

— Tsarathustra (@tsarnick) December 18, 2023

Ces prises de position sont aux antipodes de celles des thèses du scepticisme et de l’impossibilité de l’atteinte de la singularité en matière d’intelligence artificielle

Stuart Russell et Ajay Agrawal rappellent que les architectures actuelles restent des outils d'optimisation statistiques sans intention propre ni volonté de s'auto-améliorer de manière autonome.

Steven Pinker et Jean-Gabriel Ganascia qualifient la singularité de mythe ou de scénario de science-fiction, arguant que le progrès technique suit des courbes en S (ralentissement et rendements décroissants) et que la vitesse de calcul ne se traduit pas par une explosion de la conscience ou de la complexité générale.

Même chez OpenAI, on avoue que les architectures actuelles des modèles d’intelligence artificielle font face à une limite structurelle. Une publication scientifique d’OpenAI, Why Language Models Hallucinate, acte une vérité dérangeante : les « hallucinations » des modèles de langage ne sont pas une anomalie, mais une conséquence incontournable de leur conception. Conséquence : on va vers un futur où l’erreur est intégrée.

La...