Geoffrey Hinton, l'un des parrains de l'IA et lauréat du prix Turing, reste convaincu que l'IA représente une menace existentielle pour l'humanité. Il a déclaré lors d'une récente sortie que l'IA rendrait la société « de plus en plus mauvaise » en creusant l'écart de richesse entre les individus les plus riches et les plus pauvres. Il a déclaré qu'une superintelligence, ou une IA dont les capacités cognitives dépassent celles des humains dans tous les domaines, apparaîtra d'ici cinq à vingt ans. Selon lui, l'écart de richesse risque d'exacerber les inégalités et les tensions, ce qui offrirait un terrain fertile pour le fascisme et la société pourrait empirer.Geoffrey Hinton : l'IA pourrait accroître les inégalités et favoriser le chaos
La course à l'IA bat son plein et les investissements dans le secteur devraient atteindre de nouveaux sommets cette année. Mais en toile de fond, le débat sur l'impact sociétal de la technologie est occulté par les annonces fracassantes sur ses avantages et les gains de productivité qui pourraient en découler. L'une des questions récurrentes dans ce débat cherche à savoir si les gains de productivité énormes annoncés par les entreprises profiteront à tout le monde.
Geoffrey Hinton répond tout de suite par la négative. Geoffrey Hinton est un chercheur britanno-canadien spécialiste de l'IA, de la psychologie cognitive et plus particulièrement des réseaux de neurones artificiels. Il est reconnu mondialement comme une figure de proue de l'IA. Il est lauréat de nombreux prix prestigieux comme le prix Nobel de physique (2024), le prix Turing (2019), le prix Rumelhart, le prix IEEE Frank Rosenblatt Award, et bien d'autres encore.
D'après Geoffrey Hinton, les avantages et les gains de productivité annoncés ne profiteront qu'aux riches au détriment des pauvres. Il a fait part de ces préoccupations lors d'une table ronde au cours de laquelle il a prédit l'énorme écart de richesse qui émergera bientôt à la suite des progrès de l'IA :
Envoyé par Geoffrey Hinton
Nous parlons d'une augmentation considérable de la productivité. Il y aura donc plus de biens et de services pour tout le monde, donc tout le monde devrait être mieux loti. Mais en fait, ce sera l'inverse. C'est parce que nous vivons dans une société capitaliste.
Et donc ce qui va se passer, c'est que cette énorme augmentation de la productivité va rapporter beaucoup plus d'argent aux grandes entreprises et aux riches, et qu'elle va creuser le fossé entre les riches et les personnes qui perdent leur emploi.
Geoffrey Hinton ajoute : « une fois cet écart creusé, on obtient un terrain fertile pour le fascisme, car le pouvoir est de plus en plus détenu par les plus riches de la société, ce qui rend l'équilibre incroyablement déséquilibré à son tour. C'est fou parce que nous faisons quelque chose qui devrait aider tout le monde, mais si les profits vont aux riches, la société va empirer ». De nombreux économistes mettent également en garde contre l'accroissement des inégalités.
Yingying Lu, chercheur associé au Centre for Applied Macroeconomic Analysis, à la Crawford School of Public Policy, et modélisateur économique au CSIRO, partage les inquiétudes de Geoffrey Hinton. Il se demande si l’IA va sortir la productivité mondiale de sa longue stagnation, et si oui, qui va en profiter.
La société crainte par Geoffrey Hinton est-elle en train de prendre forme ?
Il n'est certainement pas difficile de voir l'hypothèse de Geoffrey Hinton à l'œuvre en ce moment, car de nombreux individus et entreprises parmi les plus riches orientent leurs efforts vers l'IA, et certains sur les médias sociaux ont théorisé la façon dont le retrait de la richesse du peuple conduira à une société déséquilibrée. Les grandes entreprises du classement Fortune 500 gèlent les embauches, tout en augmentant leurs investissements dans les agents d'IA.
Elles ont élaboré des stratégies visant à remplacer les travailleurs humains par des agents d'IA, dans tous les domaines, des rédacteurs de code à l'ingénierie. De nombreux postes de vendeurs ainsi que des représentants du service clientèle ont déjà été supprimés. Et même Wall Street n'est pas à l'abri. Selon un récent rapport sur le sujet, les pertes d'emplois à Wall Street pourraient dépasser largement les 200 000, alors que l'IA remplace des postes de travail.
En réponse aux préoccupations de Geoffrey Hinton, un critique a écrit : « nous n'avons pas besoin d'attendre quelques années pour que cela affecte le citoyen moyen, cela a déjà commencé, le tsunami est là. La première vague s'écrase sur le rivage. Des gens comme Sam Altman, Elon Musk, Jeff Bezos, des entreprises comme Meta et Tesla, Amazon et OpenAI en récoltent les fruits, tandis que le travailleur moyen n'aura plus d'emploi d'ici à quelques années ».
L'avenir semble donc incroyablement dystopique, mais il est difficile d'envisager d'autres solutions avec un nombre croissant d'emplois menacés de licenciement grâce aux progrès de l'IA. Les inquiétudes de Geoffrey Hinton ne se limitent pas à potentiel déséquilibre causé par l'IA en matière de richesse. Dans une entrevue accordée à CBC News, il se pose la question de savoir où l'IA s'arrêtera à la suite des investissements massifs des grandes entreprises :
Envoyé par Geoffrey Hinton
Il y a toutes les choses normales que tout le monde connaît, mais il y a une autre menace qui est assez différente de celles-là : si nous créons des choses plus intelligentes que nous, comment savons-nous que nous pourrons garder le contrôle ? Nous n'avons jamais eu affaire à des choses plus intelligentes que nous.
Et combien d'exemples connaissez-vous d'une chose plus intelligente contrôlée par une chose moins intelligente ? Il y a une mère et un bébé. L'évolution a fait beaucoup d'efforts pour permettre au bébé de contrôler la mère, mais c'est à peu près le seul exemple que je connaisse.
« Je pensais que ce serait dans 50 à 100 ans. Aujourd'hui, je pense que la superintelligence n'apparaîtra que dans cinq à vingt ans. Peut-être plus longtemps, mais cela arrive plus vite que je ne le pensais », a-t-il déclaré. Selon l'ancien directeur scientifique d'OpenAI, Ilya Sutskever, ce sera monumental et bouleversant.
Qui achètera les biens produits par l'IA si plus personne n'a un revenu ?
Le ralentissement économique a été l'argument initial pour justifier les licenciements qui ont suivi le passage de la pandémie de Covid-19. Les entreprises ont informé leurs employés qu'elles avaient trop embauché pendant la crise sanitaire et qu'il fallait maintenant réduire les effectifs pour faire des économies. Aujourd'hui, un certain nombre d'entreprises admettant ouvertement qu'elles ont licencié du personnel au profit de l'IA. Et la tendance se poursuit.
Le marché de l'emploi devrait être durement touché, car les entreprises mettent de plus en plus l'accent sur la collaboration entre l'homme et la machine. Selon Goldman Sachs, l'IA gén...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
