Geoffrey Hinton, l'un des parrains de l'IA, explique comment une IA « effrayante» va accroître l'écart de richesse et « rendre la société mauvaise »Geoffrey Hinton, l'un des parrains de l'IA et lauréat du prix Turing, reste convaincu que l'IA représente une menace existentielle pour l'humanité. Il a déclaré lors d'une récente sortie que l'IA rendrait la société « de plus en plus mauvaise » en creusant l'écart de richesse entre les individus les plus riches et les plus pauvres. Il a déclaré qu'une superintelligence, ou une IA dont les capacités cognitives dépassent celles des humains dans tous les domaines, apparaîtra d'ici cinq à vingt ans. Selon lui, l'écart de richesse risque d'exacerber les inégalités et les tensions, ce qui offrirait un terrain fertile pour le fascisme et la société pourrait empirer.
Geoffrey Hinton : l'IA pourrait accroître les inégalités et favoriser le chaos
La course à l'IA bat son plein et les investissements dans le secteur devraient atteindre de nouveaux sommets cette année. Mais en toile de fond, le débat sur l'impact sociétal de la technologie est occulté par les annonces fracassantes sur ses avantages et les gains de productivité qui pourraient en découler. L'une des questions récurrentes dans ce débat cherche à savoir si les gains de productivité énormes annoncés par les entreprises profiteront à tout le monde.
Geoffrey Hinton répond tout de suite par la négative. Geoffrey Hinton est un chercheur britanno-canadien spécialiste de l'IA, de la psychologie cognitive et plus particulièrement des réseaux de neurones artificiels. Il est reconnu mondialement comme une figure de proue de l'IA. Il est lauréat de nombreux prix prestigieux comme le prix Nobel de physique (2024), le prix Turing (2019), le prix Rumelhart, le prix IEEE Frank Rosenblatt Award, et bien d'autres encore.
D'après Geoffrey Hinton, les avantages et les gains de productivité annoncés ne profiteront qu'aux riches au détriment des pauvres. Il a fait part de ces préoccupations lors d'une table ronde au cours de laquelle il a prédit l'énorme écart de richesse qui émergera bientôt à la suite des progrès de l'IA :
Envoyé par Geoffrey Hinton
Nous parlons d'une augmentation considérable de la productivité. Il y aura donc plus de biens et de services pour tout le monde, donc tout le monde devrait être mieux loti. Mais en fait, ce sera l'inverse. C'est parce que nous vivons dans une société capitaliste.
Et donc ce qui va se passer, c'est que cette énorme augmentation de la productivité va rapporter beaucoup plus d'argent aux grandes entreprises et aux riches, et qu'elle va creuser le fossé entre les riches et les personnes qui perdent leur emploi.
Geoffrey Hinton ajoute : « une fois cet écart creusé, on obtient un terrain fertile pour le fascisme, car le pouvoir est de plus en plus détenu par les plus riches de la société, ce qui rend l'équilibre incroyablement déséquilibré à son tour. C'est fou parce que nous faisons quelque chose qui devrait aider tout le monde, mais si les profits vont aux riches, la société va empirer ». De nombreux économistes mettent également en garde contre l'accroissement des inégalités.
Yingying Lu, chercheur associé au Centre for Applied Macroeconomic Analysis, à la Crawford School of Public Policy, et modélisateur économique au CSIRO, partage les inquiétudes de Geoffrey Hinton. Il se demande si l’IA va sortir la productivité mondiale de sa longue stagnation, et si oui, qui va en profiter.
La société crainte par Geoffrey Hinton est-elle en train de prendre forme ?
Il n'est certainement pas difficile de voir l'hypothèse de Geoffrey Hinton à l'œuvre en ce moment, car de nombreux individus et entreprises parmi les plus riches orientent leurs efforts vers l'IA, et certains sur les médias sociaux ont théorisé la façon dont le retrait de la richesse du peuple conduira à une société déséquilibrée. Les grandes entreprises du classement Fortune 500 gèlent les embauches, tout en augmentant leurs investissements dans les agents d'IA.
Elles ont élaboré des stratégies visant à remplacer les travailleurs humains par des agents d'IA, dans tous les domaines, des rédacteurs de code à l'ingénierie. De nombreux postes de vendeurs ainsi que des représentants du service clientèle ont déjà été supprimés. Et même Wall Street n'est pas à l'abri. Selon un récent rapport sur le sujet, les pertes d'emplois à Wall Street pourraient dépasser largement les 200 000, alors que l'IA remplace des postes de travail.
En réponse aux préoccupations de Geoffrey Hinton, un critique a écrit : « nous n'avons pas besoin d'attendre quelques années pour que cela affecte le citoyen moyen, cela a déjà commencé, le tsunami est là. La première vague s'écrase sur le rivage. Des gens comme Sam Altman, Elon Musk, Jeff Bezos, des entreprises comme Meta et Tesla, Amazon et OpenAI en récoltent les fruits, tandis que le travailleur moyen n'aura plus d'emploi d'ici à quelques années ».
L'avenir semble donc incroyablement dystopique, mais il est difficile d'envisager d'autres solutions avec un nombre croissant d'emplois menacés de licenciement grâce aux progrès de l'IA. Les inquiétudes de Geoffrey Hinton ne se limitent pas à potentiel déséquilibre causé par l'IA en matière de richesse. Dans une entrevue accordée à CBC News, il se pose la question de savoir où l'IA s'arrêtera à la suite des investissements massifs des grandes entreprises :
Envoyé par Geoffrey Hinton
Il y a toutes les choses normales que tout le monde connaît, mais il y a une autre menace qui est assez différente de celles-là : si nous créons des choses plus intelligentes que nous, comment savons-nous que nous pourrons garder le contrôle ? Nous n'avons jamais eu affaire à des choses plus intelligentes que nous.
Et combien d'exemples connaissez-vous d'une chose plus intelligente contrôlée par une chose moins intelligente ? Il y a une mère et un bébé. L'évolution a fait beaucoup d'efforts pour permettre au bébé de contrôler la mère, mais c'est à peu près le seul exemple que je connaisse.
« Je pensais que ce serait dans 50 à 100 ans. Aujourd'hui, je pense que la superintelligence n'apparaîtra que dans cinq à vingt ans. Peut-être plus longtemps, mais cela arrive plus vite que je ne le pensais », a-t-il déclaré. Selon l'ancien directeur scientifique d'OpenAI, Ilya Sutskever, ce sera monumental et bouleversant.
Qui achètera les biens produits par l'IA si plus personne n'a un revenu ?
Le ralentissement économique a été l'argument initial pour justifier les licenciements qui ont suivi le passage de la pandémie de Covid-19. Les entreprises ont informé leurs employés qu'elles avaient trop embauché pendant la crise sanitaire et qu'il fallait maintenant réduire les effectifs pour faire des économies. Aujourd'hui, un certain nombre d'entreprises admettant ouvertement qu'elles ont licencié du personnel au profit de l'IA. Et la tendance se poursuit.
Le marché de l'emploi devrait être durement touché, car les entreprises mettent de plus en plus l'accent sur la collaboration entre l'homme et la machine. Selon Goldman Sachs, l'IA générative aura un impact sur 300 millions d'emplois à temps plein dans le monde dans les années à venir. Selon le rapport du Forum économique mondial, 77 % des entreprises prévoient de recycler et d'améliorer les compétences des travailleurs existants entre 2025 et 2030.
Le recyclage vise à permettre aux employés de mieux travailler avec l'IA, permettant à l'entreprise de tirer le meilleur parti de programmes d'IA tels que le chatbot ChatGPT et le générateur de vidéo Sora. La question de savoir si le recyclage permettra de sauver un nombre important d'emplois reste ouverte. L'organisation estime que les progrès de l'IA pourraient ouvrir la voie vers de nouvelles opportunités de carrière, mais cette prédiction suscite le scepticisme.
« Les entreprises licencient en masse pour que les actionnaires puissent gagner encore plus d'argent en économisant sur les coûts de main-d'œuvre. Le résultat net est plus important pour les riches investisseurs. Mais il y a une question fondamentale à laquelle aucun de ces investisseurs ou entreprises ne semble se poser : qui achètera les biens produits par l'IA si plus personne n'a un emploi et donc aucun revenu ? », peut-on lire dans les commentaires.
Parmi les réponses envisagées, le revenu universel de base (RUB) se démarque comme une solution potentielle. Sam Altman, PDG d’OpenAI, a mis en œuvre une expérience ambitieuse visant à évaluer l’impact du revenu universel de base sur les individus et les communautés. L'initiative révèle à la fois les avantages prometteurs et les limites de cette approche face aux défis posés par l’automatisation. Pour ses détracteurs, cette approche ne marchera pas.
Le revenu universel de base soulève plusieurs défis et interrogations : son financement, son efficacité face au chômage technologique, son impact réel dans la lutte contre les inégalités sociales, son impact sur l'économie, etc. Les experts se demandent aussi sur quelle base le revenu universel de base sera défini.
Il est important de souligner que de nombreuses autres scientifiques rejettent l'hypothèse selon laquelle l'IA représente une menace existentielle pour l'humanité, notamment Yann LeCun, chercheur franco-américain en IA et responsable de l'IA chez Meta, avec qui Geoffrey Hinton partage le prix Turing 2018.
Source : Geoffrey Hinton, parrain de l'IA et lauréat du prix Turing 2018
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous des craintes de Geoffrey Hinton concernant l'évènement d'une superintelligence ? Selon vous, l'évènement d'une superintelligence va-t-elle conduire inévitablement à une société déséquilibrée ? Qui achètera les biens et les services qui seront produits par l'IA si plus personne n'a un revenu ?Voir aussi
L'IA va accroître les inégalités et soulever des questions difficiles sur l'humanité, avertissent des économistes Les pertes d'emplois à Wall Street pourraient dépasser les 200 000, alors que l'IA remplace des postes de travail Geoffrey Hinton, lauréat du prix Nobel et figure de proue de l'IA, se dit fier que son élève ait renvoyé le patron d'OpenAI, Sam Altman, révélant l'ironie d'un prix Nobel dans un univers d'ego et de rivalités
Vous avez lu gratuitement 19 720 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
