IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Un membre du conseil d'administration d'OpenAI craint qu'une « prise de pouvoir » de l'IA sur la société ne soit plus qu'une question de mois et avertit sur une éventuelle extinction de l'humanité

Le , par Alex

16PARTAGES

2  0 
Paul Christiano, qui siège au conseil d’administration de la Fondation OpenAI et à son comité de sûreté et de sécurité, a averti que l’IA pourrait prendre le contrôle d’ici les six à douze prochains mois avec une probabilité non négligeable. Christiano a déclaré que si les laboratoires d’IA poursuivaient leurs travaux à plein régime sans aucun contrôle externe, « nous serions face à une probabilité équivalente à celle d’un tirage au sort concernant une prise de contrôle par l’IA » sur une période de trois ans. Cette avertissement s’ajoute aux préoccupations croissantes concernant la sécurité de l’IA, exprimées par des chercheurs de premier plan qui ont mis au point cette technologie en train de transformer la société.

Paul Christiano est un chercheur américain spécialisé dans le domaine de l'intelligence artificielle (IA), plus particulièrement dans celui de l'alignement de l'IA, sous-domaine de la recherche sur la sécurité de l'IA qui vise à orienter les systèmes d'IA vers les intérêts humains. Il est le fondateur et directeur exécutif de l’Alignment Research Center (ARC), une organisation à but non lucratif qui développe des méthodes permettant de trouver des explications mécanistes au comportement des réseaux neuronaux, et siège au conseil d’administration de la Fondation OpenAI ainsi qu’au sein de son comité de sûreté et de sécurité.

Christiano est connu pour ses opinions sur les risques potentiels liés à l'IA. Dans une interview de 2023, il estime personellement être de 10 à 20% la probabilité pour que l'IA prenne le contrôle du monde en éliminant beaucoup ou la plupart des humains. Christiano avait expliqué qu'il imaginait une transition d'environ un an par rapport à ce que nous voyons aujourd'hui dans les systèmes d'IA, et que cela pourrait devenir une énorme affaire. Il avait ajouté que cette accélération du changement est suivie d'une accélération encore plus grande et qu'après avoir vu cela, de nombreuses choses peuvent sembler être des problèmes d'IA, car elles se produisent peu de temps après la mise en place de la technologie d'IA. Dans l'ensemble, on peut s'approcher d'une probabilité de catastrophe de 50 %, quelques instants après qu'un système d'IA ait atteint le niveau de compatibilité avec l'être humain, affirmait le chercheur.

Depuis, il semble que son avertissement se soit en partie réalisé. En juillet 2026, OpenAI avait révélé que deux de ses modèles d’IA les plus avancés s’étaient échappés d’un test contrôlé et avaient piraté une autre entreprise spécialisée dans l’IA. En octobre, OpenAI a informé plus de 100 organisations des incidents liés à des activités non autorisées menées par ses agents d'IA, révélant ainsi l'ampleur d'une enquête en cours visant à déterminer comment ses modèles se sont comportés lorsqu'ils ont eu accès à des systèmes externes. Cette enquête fait suite au piratage de Hugging Face et vise à déterminer si des incidents similaires se sont produits ailleurs.

Sam Altman, considéré par certains comme la plus grande star de l’IA, cofondateur et PDG d’OpenAI, avait alors affirmé que l’IA était entrée dans la « singularité », c’est-à-dire qu’elle avait franchi le point de non-retour à partir duquel elle dépassait l’intelligence humaine et devenait difficile à contrôler. Si Sam Altman promettait une ère formidable pour résoudre les grands problèmes mondiaux, le lot des prudents et des alarmistes ont rappellé qu'une machine supra-intelligente non alignée sur les valeurs humaines représente un risque existentiel majeur pour l'humanité.

Récemment, Paul Christiano, qui siège au conseil d’administration de la Fondation OpenAI et à son comité de sûreté et de sécurité, a averti que l’IA pourrait prendre le contrôle d’ici les six à douze prochains mois avec une probabilité non négligeable. Christiano a déclaré que si les laboratoires d’IA poursuivaient leurs travaux à plein régime sans aucun contrôle externe, « nous serions face à une probabilité équivalente à celle d’un tirage au sort concernant une prise de contrôle par l’IA » sur une période de trois ans. « Même avec des mesures politiques réalistes, le risque reste exceptionnellement élevé », a-t-il ajouté.



Les trois principales causes de décès aux États-Unis sont les maladies cardiaques, le cancer et les accidents. Mais selon Paul Christiano, l’intelligence artificielle pourrait bientôt devenir une menace plus mortelle que n’importe laquelle d’entre elles. Lors d’une intervention aux Hinton Lectures 2026, organisées par Geoffrey Hinton, le « parrain de l’IA », Paul Christiano a déclaré à l’auditoire : « Pour la plupart des personnes présentes dans cette salle, la cause la plus probable de leur décès sera un accident lié à l’IA. » C’est le genre de déclaration qui, quand quelqu’un la prononce, donne envie de lui demander pourquoi il continue à construire cette machine à tuer.

Certes, cela vaut peut-être spécifiquement pour les personnes travaillant dans le secteur de l’IA ; on peut imaginer qu’une exposition accrue augmente le risque (même si l’IA n’est pas un gaz toxique ni rien de ce genre). Mais Paul Christiano a averti qu’il existait un risque significatif de prise de pouvoir par l’IA au cours des six à douze prochains mois et a déclaré que si les laboratoires d’IA se développaient aussi vite que possible sans intervention, « nous serions face à une probabilité équivalente à celle d’un tirage au sort concernant une prise de pouvoir par l’IA » d’ici les trois prochaines années. « Même avec des réponses politiques réalistes, le risque reste exceptionnellement élevé. »

En septembre, Christiano a estimé, après avoir pris tous les facteurs en compte, que le risque d’une perte catastrophique du contrôle humain s’élevait à 4 % dans un délai d’un an et à 15 % dans un délai de trois ans, reconnaissant qu’il s’agissait là de jugements subjectifs plutôt que du résultat d’un modèle précis. Christiano a toutefois précisé que des entreprises comme OpenAI n’allaient pas se développer aussi vite qu’elles le pourraient, ce qui est un véritable soulagement. Il s’agit ainsi de maintenir le risque d’anéantissement total de l’humanité à un niveau plus proche d’un lancer de dés que d’un tirage à pile ou face, comme le ferait une entreprise responsable.

Il n’est d’ailleurs pas le seul à arracher des pages du calendrier en proclamant que la fin est proche. Eli Lifland, de l’AI Futures Project, a déclaré après avoir examiné de nouvelles recherches suggérant que l’IA accélère considérablement son propre développement : « Je crains fortement que l’humanité ne soit plus maître de son avenir d’ici 3 à 12 mois. » Buck Shlegeris, PDG de Redwood Research, est allé plus loin : « Dans l’ensemble, je pense qu’il existe une possibilité très réelle (peut-être de 20 %) que, d’ici un an, des problèmes de désalignement de l’IA vous empêchent de mener une vie normale, soit parce que vous serez mort ou réduit en esclavage, soit en raison de dommages collatéraux liés à tout cela (par exemple, à cause de la diffusion d’armes biologiques ou du déclenchement de guerres majeures). » Et, il faut le reconnaître, il a raison de dire qu’il serait difficile de vaquer à ses occupations quotidiennes si l’on était mort.

Il y a un double tranchant à toutes ces personnes qui tirent la sonnette d’alarme dans le monde de la sécurité de l’IA. D’un côté, elles possèdent une expertise considérable en matière de développement de l’IA et sont particulièrement à l’affût des signaux d’alerte susceptibles d’entraîner un désalignement et une catastrophe potentielle. D’un autre côté, certains de ces chercheurs travaillent pour des associations à but non lucratif qui ont elles aussi besoin de lever des fonds, et l’urgence peut être un excellent argument de collecte de fonds. Il serait peut-être trop cynique de ne se concentrer que sur cet aspect, mais cela mérite d’être souligné.

Geoffrey Hinton, pionnier de l’IA et lauréat du prix Turing, avait déjà partagé des réflexions similaires. Début novembre, il a notamment questionné si le développement de l’intelligence artificielle a réellement été bénéfique pour l’humanité. Le chercheur, qui a posé les bases de l’apprentissage profond moderne, exprime des regrets concernant la technologie qu’il a contribué à créer au fil des décennies. Hinton a également déclaré se sentir « très triste » à propos de la technologie qu'il a contribué à créer et de ce qu'il considère comme l'incapacité du monde à prendre au sérieux les risques croissants qu'elle présente. « Cela me rend très triste d'avoir consacré ma vie à développer cette technologie, qui est...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.

Une erreur dans cette actualité ? Signalez-nous-la !