Demis Hassabis, le PDG de Google DeepMind, a averti que l’intelligence artificielle générale (AGI) pourrait voir le jour d’ici quelques années. Il appelle à ce que les modèles d’intelligence artificielle (IA) les plus puissants au monde soient soumis à des tests de sécurité indépendants avant d'être mis à la disposition du public. Dans un essai publié cette semaine, le dirigeant propose la création d'un organisme américain chargé d'évaluer les systèmes d'IA de pointe, en commençant par des contrôles volontaires avant leur lancement, lesquels pourraient ensuite devenir obligatoires. Selon lui, l'impact potentiel de l'AGI serait comparable à celui de l'électricité et du feu, tout en mettant en garde contre les risques émergents en matière de cybersécurité, de biologie et de nucléaire qu'elle pourrait engendrer.Google DeepMind, connu sous le nom de Google DeepMind ou simplement DeepMind, est un laboratoire de recherche anglo-américain spécialisé dans l'IA, filiale d'Alphabet Inc. Fondé au Royaume-Uni en 2010, il a été racheté par Google en 2014, puis fusionné avec la division Google Brain de Google AI pour devenir Google DeepMind en avril 2023. L'entreprise a son siège social à Londres et dispose de centres de recherche aux États-Unis, au Canada, en France, en Allemagne et en Suisse.
Sir Demis Hassabis est un chercheur et entrepreneur britannique spécialisé dans l'intelligence artificielle (IA). Il est PDG et cofondateur de Google DeepMind et d'Isomorphic Labs, ainsi que conseiller en IA auprès du gouvernement britannique. En 2024, Demis Hassabis et John M. Jumper se sont vu décerner conjointement le prix Nobel de chimie pour leurs contributions à la recherche en IA dans le domaine de la prédiction de la structure des protéines. Il a également figuré parmi les 100 personnalités les plus influentes au monde selon le magazine Time en 2017 et 2025, et a été l'un des « architectes de l'IA » désignés collectivement comme « Personnalité de l'année 2025 » par le magazine Time.
Demis Hassabis a récemment déclaré que l'AGI pourrait voir le jour d'ici quelques années seulement et a appelé à ce que les modèles d'IA les plus avancés au monde soient testés avant leur mise sur le marché. Ces affirmations interviennent alors que le calendrier de l'arrivée de l'IA générale continue de diviser les principaux acteurs du secteur. En juillet 2025, Yann Le Cun, responsable de l'IA chez Meta, a estimé que l'AGI n'est pas à portée de main, car l'incapacité des grands modèles de langage (LLM) actuels à apprendre de manière autonome et continue, comme le font les humains, freinait leur évolution vers une superintelligence. Selon lui, ces limites structurelles rendent peu crédibles les prévisions annonçant l'émergence de l'AGI avant la fin de la décennie, voire avant.
L'IA a évolué : elle ne se contente plus de répondre à des questions, mais écrit désormais du code, génère des vidéos et agit en tant qu'agents autonomes. Mais quel est l'objectif final ? Pour de nombreux laboratoires de pointe spécialisés dans l'IA, la prochaine grande avancée consistera à développer l'intelligence artificielle générale (AGI), une IA capable d'égaler les capacités cognitives humaines. Alors, quand y parviendrons-nous ? Demis Hassabis, PDG de Google DeepMind, estime que l’AGI pourrait voir le jour d’ici quelques années. Mais avant cela, il souligne que les modèles d’IA les plus puissants au monde devraient faire l’objet de contrôles de sécurité indépendants avant d’être mis à la disposition du grand public.
Dans un essai détaillé intitulé « A Framework for Frontier AI and the Dawning of a New Age » publié sur X, Demis Hassabis déclare : « Nous vivons un moment charnière de l’histoire de l’humanité. L’intelligence artificielle générale (AGI), un système doté de toutes les capacités cognitives du cerveau, est probablement à quelques années seulement de voir le jour. »
Demis Hassabis estime que l'IA évolue si rapidement que les gouvernements et le secteur ont besoin d'une nouvelle méthode pour évaluer les risques posés par les modèles d'IA de pointe. Pour y remédier, il propose la création d'un nouvel organisme de normalisation chargé d'évaluer en toute indépendance les systèmes d'IA les plus puissants au monde avant leur déploiement.
L'AGI sera comme l'électricité et le feu
Le dirigeant de DeepMind estime que l'AGI aura un impact bien plus profond que celui d'Internet ou des smartphones. Il compare plutôt son impact à celui de découvertes telles que l'électricité et le feu. Selon lui, si elle est développée de manière responsable, l'AGI pourrait accélérer considérablement la mise au point de nouveaux médicaments, contribuer au développement de technologies énergétiques plus propres, permettre la création de matériaux de pointe et générer des gains de productivité significatifs dans tous les secteurs d'activité.
Demis Hassabis écrit que les humains ont « en substance trouvé le moyen de faire réfléchir le sable ». Il estime que l'AGI pourrait avoir un impact « dix fois supérieur à celui de la Révolution industrielle, à une vitesse dix fois supérieure », contribuant ainsi à résoudre certains des plus grands défis mondiaux et à créer un avenir où les ressources constitueraient une contrainte moindre.
Mais il met également en garde contre le fait que cette même technologie pourrait engendrer de nouveaux risques pour la sécurité. Selon lui, les modèles d’IA de pointe actuels posent déjà des défis en matière de cybersécurité, tandis que les futurs systèmes pourraient présenter des risques biologiques et nucléaires. C’est pourquoi il estime que des mesures de protection rigoureuses seront nécessaires pour garantir que les humains conservent le contrôle à l’ère de l’IA générale.
« Ce secteur est désormais plongé dans une course commerciale et géopolitique extrêmement intense », écrit-il, ajoutant que les capacités de l'IA progressent plus vite que la compréhension qu'en a la société. « Personne au monde ne sait avec certitude ce qui va se passer à partir de là », affirme-t-il, estimant qu'un « optimisme prudent » est la bonne approche.
Comment l'AGI peut-elle être contrôlée ?
Pour se préparer à l'AGI, Demis Hassabis propose la création d'un organisme de normalisation de l'IA de pointe, dirigé par les États-Unis, qui testerait de manière indépendante les modèles d'IA les plus puissants au monde avant leur mise sur le marché. Selon cette proposition, les modèles dépassant certains seuils de capacité seraient classés comme « modèles de pointe », tandis que les entreprises qui les développent deviendraient des « laboratoires de pointe ». Ces entreprises seraient tenues de renforcer la cybersécurité, de publier des fiches techniques sur leurs modèles et d'investir davantage dans la recherche sur la sécurité de l'IA.
Dans un premier temps, les entreprises soumettraient volontairement leurs modèles à des tests jusqu’à 30 jours avant leur lancement. Si le système s’avère efficace, Demis Hassabis estime que ces contrôles pourraient à terme devenir obligatoires avant le déploiement de modèles d’IA de pointe aux États-Unis.
Les évaluations qu’il propose porteraient également sur la cybersécurité, les menaces biologiques et autres risques élevés, tout en vérifiant si les modèles tentent de contourner les garde-fous de sécurité ou présentent un comportement trompeur. Il recommande également des mesures de protection telles que le tatouage numérique pour les contenus...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par kain_tn
