Geoffrey Hinton, « parrain de l'IA », déclare être « heureux d'avoir 77 ans » pour échapper à une éventuelle prise de contrôle de l'IA,

Comparant l'évolution de la technologie à élever un tigre sans cage

Geoffrey Hinton, « parrain de l'IA », déclare être « heureux d'avoir 77 ans » pour échapper à une éventuelle prise de contrôle de l'IA,
comparant l'évolution de l'IA à élever un tigre sans cage

Un scientifique dont les travaux ont contribué à transformer le domaine de l'intelligence artificielle se dit « plutôt content » d'avoir 77 ans, car il ne vivra peut-être pas assez longtemps pour être témoin des conséquences potentiellement dangereuses de cette technologie.

Geoffrey Hinton, souvent considéré comme le « parrain de l'intelligence artificielle », a déclaré dans une interview que l'intelligence artificielle progresse plus rapidement que ne le prévoyaient les experts et que, lorsqu'elle dépassera l'intelligence humaine, l'humanité ne sera peut-être pas en mesure de l'empêcher de prendre le contrôle de la situation. « Des choses plus intelligentes que vous seront capables de vous manipuler », a déclaré Hinton, qui a reçu le prix Nobel de physique en 2024 pour ses percées dans le domaine de l'apprentissage automatique.

Geoffrey Hinton est l’un des pionniers fondateurs de l’intelligence artificielle moderne. Professeur émérite à l’université de Toronto et ancien employé de Google, il a co-inventé des algorithmes clés de l’apprentissage profond (notamment l’algorithme de rétropropagation pour les réseaux de neurones) et participé aux débuts du moteur de recherche Google Brain. Pour ces contributions, il a partagé le prix Turing 2018 (avec Yoshua Bengio et Yann LeCun) – l’équivalent du « Nobel de l’informatique » – et plus récemment le prix Nobel de physique 2024 avec le physicien américain John Joseph Hopfield pour « leurs découvertes et interventions fondamentales qui permettent l'apprentissage automatique avec des réseaux de neurones artificiels ». Surnommé « le parrain de l’IA », Hinton incarne le succès de l’apprentissage automatique (deep learning) qui anime aujourd’hui des applications de traduction automatique, de reconnaissance vocale et de robots autonomes.

Les dernières mises en garde de Hinton

Geoffrey Hinton a profité d’une interview sur CBS News pour lancer un nouvel avertissement sur l’IA. Il a confié être « assez content d’avoir 77 ans » car il pourrait « ne pas vivre assez longtemps » pour voir les conséquences dangereuses de cette technologie​. En effet, les IA actuelles « progressent plus vite que prévu », a-t-il expliqué, et il prédit que « une fois qu’elles dépasseront l’intelligence humaine, l’humanité pourrait ne plus être capable d’empêcher qu’elles ne prennent le contrôle ». Pour illustrer ce propos, Hinton a comparé l’IA à un « tigreau vraiment mignon » qu’on élève enfant : à moins d’être absolument sûr qu’il ne voudra pas « vous tuer quand il sera adulte », il faut s’inquiéter. Chiffres à l’appui, il estime qu’il existe une « chance de 10% à 20% » qu’un système d’IA devienne un jour plus puissant que l’homme et prenne le contrôle

Ainsi, Hinton rejoint d’autres figures influentes du secteur (Sundar Pichai chez Google, Elon Musk chez X, Sam Altman chez OpenAI) qui ont exprimé des inquiétudes similaires sur les « risques profonds pour la société et l’humanité ». En 2023, Musk et plus de 1 000 experts ont signé une lettre ouverte demandant un moratoire sur le développement des IA les plus puissantes, estimant que la technologie peut « poser des risques profonds à la société et à l’humanité ». Il faut préciser que, tandis que Musk demandait à OpenAI de mettre un frein au développement de son IA, il travaillait de son côté sur un rival, le fameux xAI qui a donné naissance à Grok.

Quoiqu'il en soit, voici un extrait de cette lettre ouverte :


Pourquoi s’inquiéter de l’IA ?

Les arguments avancés par Hinton pour justifier ces craintes renvoient aux dérives théoriques et pratiques de l’IA. D’une part, le simple fait que les machines deviennent plus « intelligentes » que l’homme fait craindre une perte de contrôle : « Les choses plus intelligentes que vous sauront vous manipuler », prédit-il​. D’autre part, les usages déjà observés soulignent des dangers concrets. On y inclut notamment la destruction massive d’emplois par automatisation, la propagation de deepfakes et de désinformation sophistiquée, ou encore une redoutable « course aux armements » entre États développant des systèmes autonomes létaux​.

Hinton lui-même critique les géants du numérique : il leur reproche de favoriser la rapidité et le profit sur la sécurité, et exige qu’ils consacrent « comme un tiers » de leur capacité de calcul à la recherche en sécurité de l’IA, plutôt qu’une fraction marginale aujourd’hui​. Hinton semble particulièrement déçu par Google, où il a travaillé auparavant, qui a changé de position sur les applications militaires de l'IA.

Selon Hinton, les entreprises d'IA devraient consacrer beaucoup plus de ressources à la recherche sur la sécurité - « environ un tiers » de leur puissance de calcul, par rapport à la fraction beaucoup plus faible qui leur est actuellement allouée.


Des garde-fous en place et des incertitudes

Ces mises en garde doivent cependant être mises en perspective. Beaucoup d’experts soulignent que les IA actuelles restent des systèmes « étroits » (narrow AI) sans conscience ni volonté propre. Il n’existe à ce jour aucun signe d’agent « vraiment conscient » réclamant indépendance ou survie. Du coup, selon eux, l’évolution de l’IA peut être contrôlée par des protocoles d’alignement et de sécurité, de même qu’il est toujours possible d’éteindre ou restreindre un système informatique.

Sur le plan institutionnel, de nombreux cadres éthiques et réglementaires se mettent en place pour encadrer l’IA. L’Union européenne a l’AI Act, un règlement ambitieux qui classe les usages de l’IA en trois niveaux de risque et impose des obligations strictes (transparence, supervision humaine, contrôles techniques) pour les systèmes à haut risque. Au niveau mondial, l’UNESCO a adopté en 2021 la première recommandation internationale sur l’éthique de l’IA, applicable à 193 pays, qui place la protection des droits humains et de la dignité au cœur du développement de l’IA. Des initiatives académiques et civiles participent également à la réflexion : par exemple, la « Déclaration de Montréal » (2018) a défini un ensemble de principes éthiques pour un développement responsable de l’IA « au service du bien-être de tous », avec l’adhésion d’organisations publiques, entreprises et citoyens​

Enfin, les entreprises elles-mêmes communiquent sur leurs efforts en matière de sûreté. Google DeepMind, OpenAI ou d’autres start-ups de l’IA ont mis en place des équipes dédiées à « l’alignement » et plaident publiquement en faveur d’une régulation adaptée. Sans doute ont-elles intérêt à concilier innovation et sécurité, sachant que de nombreux chercheurs estiment que la confiance du public sera cruciale pour l’acceptabilité à long terme de l’IA.

Conclusion

Le débat reste ouvert. D’un côté, Hinton et d’autres experts insistent sur l’extraordinaire rapidité des progrès et les menaces d’une IA hors de contrôle. De l’autre, beaucoup jugent cette vision en partie spéculative et insistent sur la maîtrise humaine, la transparence et la collaboration internationales comme parades. Les pistes de règlementation et de recherche collaborative se multiplient – de la gestion de la « boîte noire » des algorithmes à l’auto-régulation via des principes éthiques – mais il n’existe pas encore de consensus. Ce climat de débat intense montre en tout cas que la communauté mondiale prend au sérieux la question de rendre l’IA à la fois puissante et sûre.

Sources : vidéo dans le texte, UNESCO

Et vous ?

Les craintes de Geoffrey Hinton sont-elles fondées sur des éléments concrets, ou relèvent-elles d'une peur spéculative de la science-fiction ?

Qui doit être responsable en priorité de la sécurité de l’IA : les entreprises, les gouvernements, ou la communauté scientifique ?

Peut-on faire confiance aux grandes entreprises du numérique pour s'autoréguler efficacement sur l'IA ?

Faut-il créer une autorité mondiale de surveillance de l'IA, à l'image de l'Agence internationale de l'énergie atomique pour le nucléaire ?