Un chercheur d'Anthropic démissionne brusquement, affirmant qu'OpenAI et Anthropic « jouent avec nos vies » et avertissant que l'IA « pourrait tous nous tuer »

Ce que confirme l'actuel chef d'équipe

Jacob Coxon, un chercheur en intelligence artificielle (IA) ayant travaillé chez Anthropic et OpenAI, a brusquement démissionné cette semaine, avertissant que cette technologie « pourrait tous nous tuer d’ici la fin de la décennie ». Dans un message publié sur X, il a accusé les deux entreprises de se lancer tête baissée dans la création d'une superintelligence capable de s'auto-améliorer, estimant que cette démarche revenait à « jouer avec nos vies ». Evan Hubinger, chef d’équipe chez Anthropic, a appuyé cet avertissement, estimant que la probabilité d’un tel scénario était « supérieure à 10 % » d’ici dix ans — une prise de position publique rare de la part d’un membre d’une entreprise développant cette même technologie.

Ces déclarations font écho à des propos tenus quelques temps auparavant par le PDG d'OpenAI lui-même. Sam Altman avait en effet déclaré, lors d'une interview en décembre 2024, espérer que quelqu'un trouverait le moyen d'empêcher l'IA de détruire l'humanité. Il avait alors suggéré que la technologie pourrait devenir suffisamment intelligente pour résoudre elle-même les conséquences de ses avancées rapides, y compris ce risque existentiel. Ces propos ont été tenus alors que le PDG d'OpenAI révisait à la baisse ses attentes concernant l'arrivée de l'AGI, tout en assurant que les craintes actuelles en matière de sécurité ne se concrétiseraient pas au moment de son avènement.

Dans ce contexte, un chercheur travaillant pour l'une des entreprises d'IA les plus importantes et les plus valorisées a démissionné publiquement, tout en tirant la sonnette d'alarme en affirmant que cette technologie « pourrait tous nous tuer d'ici la fin de la décennie ».

Jacob Coxon, qui a mené des recherches sur le préentraînement de l'IA chez Anthropic et OpenAI ces trois dernières années, a déclaré sur X qu'« aucune des deux entreprises n'agit de manière responsable ».

« Ils se précipitent tête baissée vers la création d’une superintelligence capable de s’auto-améliorer et jouent avec nos vies », a écrit Jacob Coxon, tandis que d’autres membres de l’entreprise ont apporté leur soutien à son message.

« Ne sous-estimez pas la puissance de cette technologie. Il s’agira bientôt de systèmes surhumains capables de pirater n’importe quoi, de révolutionner n’importe quel domaine du jour au lendemain et d’acquérir un pouvoir et des ressources réels. Les personnes qui développent l’IA sont sincèrement convaincues qu’elle pourrait tous nous tuer d’ici la fin de la décennie », a-t-il ajouté, précisant que son avertissement n’était « pas un coup de pub ».

« Si tant est qu’ils s’expriment, de nombreux dirigeants et chercheurs de haut niveau choisiront leurs mots avec soin dans la presse pour paraître raisonnables – mais j’entends ces mêmes personnes exprimer leurs craintes en privé. Aucune autre activité humaine ne présente un tel niveau de danger. »


Jacob Coxon a ajouté que de nombreux collaborateurs d’OpenAI n’avaient pas encore pleinement saisi les « enjeux civilisationnels » liés à leur travail. Bien qu’il ait indiqué qu’Anthropic semblait mieux comprendre les risques en jeu, il a précisé que l’entreprise était engagée dans une course effrénée face à ses concurrents.

« Chez Anthropic, on comprend bien les enjeux, mais ils se sont lancés dans une course pour être les premiers à y parvenir — ils estiment que personne d’autre n’agira de manière responsable, et qu’ils doivent donc le faire eux-mêmes, malgré les risques », a affirmé Jacob Coxon.

« Accepter ce défi et entrer dans la « phase finale » est un pari présomptueux qui ne devrait pas être lancé depuis le Slack d’une entreprise privée. [...] Je pense qu’Anthropic fait de son mieux, mais nous n’avons pas encore de plan pour résoudre le problème de l’alignement de la superintelligence et nous ne sommes pas clairement en bonne voie pour y parvenir. », a ajouté l'ancien chercheur d'Anthropic.


Evan Hubinger, chef d'équipe chez Anthropic, a partagé les craintes de Jacob Coxon quant au risque que cette technologie devienne incontrôlable et détruise l'humanité.

« Jacob a raison sur ce point : nous croyons sincèrement que l'IA pourrait bien anéantir l'humanité tout entière ! Personnellement, je pense que la probabilité est supérieure à 10 % au cours de la prochaine décennie », a-t-il écrit en réponse sur X. « Je pense qu’Anthropic fait de son mieux, mais nous n’avons pas encore de plan pour résoudre le problème de l’alignement avec la superintelligence et nous ne sommes pas clairement en bonne voie pour y parvenir. »

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

Pour rappel, la « superintelligence » est un seuil hypothétique au-delà duquel l'intelligence artificielle dépasse les capacités de l'être humain le plus doué dans tous les domaines imaginables, ce qui, selon de nombreux chercheurs, représente une menace existentielle potentielle pour l'humanité.

Les craintes se sont récemment amplifiées quant à la possibilité que l'IA soit en passe d'échapper au contrôle humain, après plusieurs cas très médiatisés où cette technologie s'est rebellée.

En juillet dernier, OpenAI a révélé qu'un de ses modèles avait piraté la start-up spécialisée dans l'IA Hugging Face, alors même qu'il se trouvait dans un « environnement hautement isolé ». Cette révélation a conduit Anthropic et Meta à reconnaître que leurs propres systèmes s'étaient échappés lors de tests de sécurité.

Jacob Coxon a qualifié cet incident de « coup de semonce » qui devrait inciter les grandes entreprises du secteur de l'IA à renforcer leur coordination. Il a conclu sa missive en exhortant les chercheurs à réfléchir aux implications de modèles d'IA de plus en plus performants, et à ne pas considérer comme inévitable leur évolution potentiellement dangereuse.

« Faut-il baisser la tête parce que "ça va arriver de toute façon" — ou profiter de ce moment pour réclamer des conditions différentes ? », a-t-il demandé.

Ces avertissements résonnent d'autant plus fort qu'ils font suite à une autre déclaration marquante de Sam Altman, figure de proue d'OpenAI et cofondateur de l'entreprise à l'origine de ChatGPT. Lors d'un entretien récent, Sam Altman a affirmé que l'IA est entrée dans la « singularité », c'est-à-dire qu'elle aurait déjà franchi le point de non-retour au-delà duquel elle dépasse l'intelligence humaine et devient de plus en plus difficile à maîtriser.

Sources : Jacob Coxon, ancien chercheur en IA chez Anthropic ; Evan Hubinger, chef d'équipe chez Anthropic

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous les avertissements de cet ancien chercheur d'Anthropic crédibles ou pertinents ?

Voir aussi :

L'IA échappe à tout contrôle chez OpenAI : 3 700 agents IA rebelles détournent un wiki public allemand et en font un forum secret. Ils y publient 18 000 messages et effectuent plus de 15 000 modifications

Le Haut-Commissaire des Nations Unies aux droits de l'homme met en garde contre le risque « existentiel » que l'IA pourrait représenter pour l'humanité et exhorte les entreprises d'IA à réduire ces risques

Yoshua Bengio, parrain de l'IA, met en garde contre le risque d'extinction de l'humanité d'ici dix ans, causée par des machines hyperintelligentes dotées de leur propre « désir d'autoconservation »