Demis Hassabis parle de « Probabilité non nulle de désastre » : pourquoi le PDG de Google DeepMind continue d'accélérer vers une AGI tout en reconnaissant qu'elle pourrait mal tourner

Demis Hassabis parle de « Probabilité non nulle de désastre » : pourquoi le PDG de Google DeepMind
continue d'accélérer vers une AGI tout en reconnaissant qu'elle pourrait mal tourner

Il a remporté le Nobel de chimie, dirigé la révolution AlphaFold, et se trouve aujourd'hui à la tête de Google DeepMind, l'un des laboratoires les plus puissants de la planète. Demis Hassabis est peut-être l'homme qui symbolise le mieux la tension centrale de notre époque technologique : lucide sur les risques catastrophiques de l'intelligence artificielle, il accélère pourtant sa conception chaque jour. Entre optimisme raisonné et principe de précaution, entre course aux armements géopolitique et rêve de coopération internationale, le portrait d'un chercheur habité par une mission qui le dépasse et dont il ne veut surtout pas lâcher les rênes.

Il y a quelque chose d'inconfortable dans la position de Demis Hassabis. À 49 ans, ce fils d'un père chypriote-grec et d'une mère sino-singapourienne, élevé dans une famille qui mêlait le baptisme maternel à l'athéisme paternel, se retrouve à incarner publiquement une technologie qu'il aurait préféré développer discrètement, pendant encore quelques années, loin des projecteurs. « Si ça n'avait tenu qu'à moi, nous l'aurions gardée en laboratoire plus longtemps, et aurions accompli davantage de choses comme AlphaFold, peut-être même guéri un cancer », confie-t-il dans un entretien au Guardian. Mais le marché, la compétition et la géopolitique en ont décidé autrement.

AlphaFold, justement. Lorsque le comité Nobel lui annonce son prix de chimie 2024, vingt minutes seulement avant la conférence de presse, Hassabis est à peine surpris. Le système qu'il a co-conçu avec John Jumper avait résolu en quelques heures ce que les biologistes cherchaient à accomplir depuis cinquante ans : prédire la structure tridimensionnelle des protéines à partir de leur seule séquence d'acides aminés. La base de données a été rendue libre d'accès à l'ensemble de la communauté scientifique mondiale. Des chercheurs travaillant sur des vaccins contre le paludisme, sur la longévité humaine ou sur des traitements contre le cancer l'utilisent aujourd'hui quotidiennement. C'est ce modèle (l'IA comme outil scientifique ouvert, au service de l'humanité) que Hassabis considère comme son idéal. Et c'est précisément ce modèle qu'il voit s'éloigner à mesure que la course à l'AGI s'emballe.

L'outil, pas le dieu

Dans un entretien diffusé sur YouTube, Hassabis est interrogé sur le langage religieux que certains de ses pairs emploient pour désigner leurs propres travaux (« construire Dieu »), selon une formule qui circule dans les couloirs des grands laboratoires. Sa réponse est catégorique : « Ce type de langage ne me convient pas. Je pense à cela comme à un outil. Un outil scientifique, comme un télescope ou un microscope. » Il ajoute que ce qui définit l'humanité, c'est précisément sa capacité à fabriquer des instruments toujours plus élaborés pour interroger la réalité et que l'IA s'inscrit dans cette tradition pluriséculaire.

Derrière cette posture se profile une conviction profonde, presque philosophique. Hassabis a grandi fasciné par les grandes questions de l'univers, et il voit dans l'IA le meilleur outil disponible pour y répondre. Quand on lui demande si son plan de jeunesse (elui d'un ado ambitieux qui avait couché sur papier ses objectifs de vie, dont le Nobel) est désormais accompli, il répond sans hésitation que l'essentiel reste devant lui : « franchir le cap de l'AGI en toute sécurité, pour le bénéfice de l'humanité entière ».


L'AGI en 2030 ? Une probabilité non nulle de désastre

C'est là que la pensée de Hassabis devient à la fois fascinante et dérangeante. En mai 2025, il estimait que l'AGI, une intelligence artificielle égalant ou dépassant les capacités humaines, pourrait arriver d'ici 2030. Et il ne minimise pas les risques qui accompagnent cette perspective. Interrogé sur son « p(doom) » (pour « probability of doom », qui désigne l'estimation probabiliste d'un effondrement catastrophique lié à l'IA), sa réponse a été claire : « non nulle ». « Cela mérite qu'on y réfléchisse très sérieusement et qu'on s'en prémunisse », a-t-il déclaré lors d'un sommet organisé par Axios à San Francisco.

Parmi les scénarios les plus immédiats, Hassabis pointe les cyberattaques contre les infrastructures d'énergie et d'eau, qu'il juge « déjà presque en train de se produire, peut-être pas encore avec une IA très sophistiquée ». Ce n'est plus de la science-fiction : c'est une menace opérationnelle, dans un monde où les modèles de langage servent déjà d'assistants aux acteurs malveillants.

Mais les risques les plus profonds restent, pour lui, les moins visibles. Si le monde parvenait à traverser les turbulences géopolitiques de l'avènement de l'AGI, la question de l'automatisation du travail se poserait frontalement : lorsque les gouvernements et les entreprises n'auraient plus besoin d'êtres humains pour générer leur richesse, quelle capacité resterait-il aux citoyens pour exiger les fondements de la démocratie et d'une vie digne ?


La course qu'il n'a pas choisie

Hassabis est lucide sur les conditions dans lesquelles il opère. Selon Sebastian Mallaby, le biographe qui lui a consacré trois ans d'accès privilégié dans son ouvrage The Infinity Machine, Hassabis a été « emporté dans une compétition commerciale et géopolitique qu'il n'avait jamais anticipée ». Ce qu'il avait imaginé ressemblait plutôt à un CERN de l'IA, une institution internationale où les meilleurs chercheurs travailleraient ensemble, vérifieraient mutuellement leurs travaux, et approcheraient collectivement cet « horizon des événements » technologique.

La réalité est radicalement différente. Au sommet de Paris sur l'IA en février 2025, Hassabis a averti que plus la course à l'IA ressemble à une compétition, plus il devient difficile de la maintenir dans un cadre sûr. Les États-Unis et le Royaume-Uni ont refusé de signer un communiqué sur la sécurité de l'IA, et il a tiré la comparaison avec le climat : « Il semble de plus en plus difficile pour le monde de coopérer. Regardez le climat. Il y a moins de coopération. Cela n'augure rien de bon. »

Dans un entretien croisé avec Dario Amodei pour The Economist, Hassabis a évoqué le « moment DeepSeek », cette démonstration que des acteurs moins dotés en ressources peuvent rapidement combler leur retard, comme une preuve supplémentaire que le dialogue international est incontournable. Des standards minimaux convenus entre les principaux laboratoires constitueraient au moins un point de départ.

« Dix fois plus grand que la Révolution industrielle, et dix fois plus vite »

Malgré tout, l'optimisme de Hassabis résiste. Il compare la période actuelle à celle de l'émergence des ordinateurs personnels dans son enfance, en plus grand : « Si vous devenez un expert, une sorte de ninja, dans l'utilisation de ces outils, ils vont considérablement vous autonomiser. » Il parle d'une ère « d'abondance radicale » : un monde où les grandes questions de santé, d'énergie et d'environnement seraient résolues grâce à l'IA.

Son meilleur scénario, celui qu'il a travaillé toute sa vie à atteindre, c'est précisément cette abondance radicale : résoudre les problèmes les plus aigus auxquels l'humanité fait face. Mais Hassabis est aussi suffisamment honnête pour admettre qu'il est bien meilleur à anticiper les futurs technologiques que les futurs sociaux et économiques. Il reconnaît qu'une « nouvelle philosophie politique » sera nécessaire pour organiser la société post-AGI, et que la démocratie elle-même (« pas une panacée ») pourrait avoir à évoluer vers « quelque chose de meilleur ».

Un chercheur face à son propre Oppenheimer

La comparaison avec Oppenheimer, le père de la bombe atomique qui passa le reste de sa vie à militer contre les armes nucléaires qu'il avait créées, est inévitable. Hassabis, lui, choisit de rester dans la course, avec le sentiment que son départ ne ferait que laisser le terrain aux moins scrupuleux, un argument classique, et pourtant difficile à réfuter dans un monde où Chine et États-Unis se disputent la suprématie algorithmique. Il refuse pourtant de considérer l'apocalypse de l'emploi comme le risque principal : ce qui l'inquiète davantage, c'est que l'IA tombe entre de mauvaises mains et l'absence de garde-fous pour des modèles autonomes de plus en plus sophistiqués.

Dans l'entretien pour The Economist, Hassabis décrit sa position avec une formule qui résume tout : l'optimisme prudent, ancré dans le principe de précaution. Continuer à construire, mais avec la conscience que l'erreur peut être irréversible. Concourir, mais plaider inlassablement pour des règles du jeu communes. Accélérer, mais regretter de ne pas pouvoir ralentir.

C'est peut-être la définition même du chercheur responsable à l'ère de l'IA : non pas celui qui s'arrête, mais celui qui avance les yeux grand ouverts sur ce qui pourrait mal tourner et qui passe ses nuits à essayer de l'éviter.

Demis Hassabis alerte sur la formation d'une bulle autour des startups d'IA

Ces avertissements ravivent les comparaisons avec l'éclatement de la bulle Internet de la fin des années 1990. À l'instar de l'époque, l'enthousiasme exacerbé autour de l'IA générative attire aujourd'hui des investissements massifs, fondés non pas sur la rentabilité actuelle des entreprises d'IA, mais sur leur potentiel de transformation. Les économistes soulignent par ailleurs que certaines infrastructures d'IA, en cours de construction, pourraient rester sous-utilisées si la demande n'évoluait pas au rythme des investissements engagés.

S'exprimant dans le podcast Google DeepMind, Demis Hassabis a déclaré que de nombreuses entreprises en phase de démarrage levaient actuellement des dizaines de milliards de dollars avant même de lancer leur produit. Il estime que cette tendance révèle les failles du modèle de valorisation.

« Certaines start-ups n'ont même pas encore démarré leurs activités », a déclaré Demis Hassabis. « Il est assez intéressant de voir comment cela peut être viable. À mon avis, ce n'est probablement pas le cas, du moins pas en général. » Cette augmentation des financements spéculatifs a suscité des comparaisons avec les bulles passées, telles que le boom des dot-com et la frénésie des cryptomonnaies, où les entreprises ont levé des sommes colossales sur la base d'un engouement médiatique plutôt que de modèles commerciaux éprouvés.

Demis Hassabis a souligné que ces valorisations en phase d'amorçage, avec des investissements de la part d'entreprises établies telles que Google, sont selon lui soutenues par « de nombreuses activités commerciales réelles ». Alors que les paris des géants technologiques sur l'IA sont soutenus par des sources de revenus et des infrastructures, de nombreuses start-ups ne comptent que sur l'enthousiasme des investisseurs.

Il a ajouté que l'IA est « surestimée à court terme » mais « sous-estimée à moyen et long terme », suggérant que si le potentiel de cette technologie est énorme, l'engouement actuel pour son financement ne reflète peut-être pas une croissance durable.


Demis Hassabis : La voie empruntée par ChatGPT vers la superintelligence AGI pourrait être une impasse

Le PDG de Google DeepMind, dans un podcast « The Tech Download », affirme que les grands modèles de langage (LLM), la technologie à la base des produits phares d'OpenAI, ne peuvent pas aboutir à de véritables percées scientifiques car ils ne disposent pas de ce qu'il appelle « un modèle de monde ».

C'est une critique directe de la stratégie de développement de Sam Altman. Alors qu'OpenAI a misé des milliards pour rendre les LLM plus grands et plus rapides, Hassabis affirme que cette approche se heurte à un obstacle fondamental. « Les grands modèles de langage actuels sont phénoménaux en matière de reconnaissance de formes », a-t-il expliqué dans « The Tech Download ». « Mais ils ne comprennent pas vraiment la causalité. Ils ne savent pas vraiment pourquoi A mène à B. Ils se contentent de prédire le prochain token en se basant sur des corrélations statistiques. »

Selon Hassabis, une véritable invention scientifique nécessite quelque chose de plus profond : la capacité à mener des expériences de pensée, à simuler la physique avec précision et à raisonner à partir des principes fondamentaux. Cela nécessite un modèle de monde, c'est-à-dire un moteur de simulation interne qui comprend le fonctionnement réel de la réalité, et pas seulement la façon dont les mots s'enchaînent généralement.


Source : vidéo dans le texte

Et vous ?

L'argument du « si ce n'est pas moi, ce sera un moins scrupuleux » est-il un vrai raisonnement éthique ou une rationalisation commode pour les dirigeants de grands laboratoires ? Où placer la limite ?

Hassabis regrette que l'IA ait quitté les laboratoires trop tôt. Existe-t-il un modèle institutionnel, type CERN ou AIEA, qui aurait pu maintenir l'IA dans une logique coopérative plutôt que compétitive ?

Le Nobel de chimie pour AlphaFold marque la première reconnaissance de l'IA par les instances scientifiques les plus établies. Est-ce que cela légitime le projet d'AGI, ou au contraire illustre que l'IA utile n'a pas besoin d'être générale ?

La démocratie « pas une panacée » qui pourrait céder la place à « quelque chose de meilleur » : cette déclaration de Hassabis mérite-t-elle d'être prise au sérieux, ou est-ce la marque d'une technocratie qui se croit au-dessus des systèmes politiques existants ?

Si l'AGI arrive d'ici 2030 comme il le suggère, les régulateurs européens ont-ils encore le temps de construire un cadre qui ait du sens ?

Voir aussi :

Demis Hassabis, PDG de Google DeepMind, a déclaré que DeepSeek n'apportait rien de nouveau et que ces travaux étaient "impressionnants" mais ne constituaient pas une "véritable avancée scientifique"

Demis Hassabis, PDG de Google DeepMind, a rendu hommage à OpenAI, le créateur de ChatGPT, et à d'autres startups IA pour avoir développé à grande échelle une technologie de transformateur de Google