Geoffrey Hinton, souvent surnommé le « parrain de l’IA », a récemment exprimé ses préoccupations quant à l’impact de l’IA sur l’emploi et l’inégalité économique. Selon lui, l’adoption d’un revenu de base universel (RBU) pourrait être nécessaire pour faire face aux pertes d’emplois causées par l’automatisation et l’IA. « J'ai été consulté par des gens de Downing Street », a-t-il déclaré. « Je leur ai dit que le revenu de base universel était une bonne idée ».Le revenu universel de base est un paiement récurrent versé à tous les adultes d'une population donnée, indépendamment de leur richesse et de leur situation professionnelle, sans aucune restriction quant à la manière dont ils dépensent l'argent. Les chercheurs en IA, les futurologues et les chefs d'entreprise s'intéressent de près à cette idée, qu'ils considèrent comme un moyen d'atténuer l'impact économique de l'IA.
L'idée fait également son chemin dans des pays comme l'Afrique du Sud, le Kenya et l'Inde, qui y voient un moyen de lutter contre la pauvreté. Aux États-Unis, de nombreuses villes et certains États ont expérimenté des revenus de base garantis, qui prévoient également des versements mensuels sans conditions, mais à un groupe de personnes ciblé.
Le professeur Geoffrey Hinton, pionnier des réseaux neuronaux qui constituent la base théorique de l’explosion actuelle de l’intelligence artificielle, a quitté Google l’année dernière afin de pouvoir parler plus librement des dangers de l’IA non régulée. Il a conseillé au gouvernement britannique que le RBU était une bonne idée, car il est « très inquiet que l’IA prenne beaucoup d’emplois routiniers ».
Selon Hinton, l'IA augmentera la productivité et créera plus de richesses. Mais à moins que le gouvernement n'intervienne, elle ne fera qu'enrichir les riches et nuire aux personnes qui pourraient perdre leur emploi. « Ce sera très mauvais pour la société », a-t-il déclaré.
IA et sécurité
Hinton a également réitéré ses inquiétudes concernant les menaces d’extinction humaine émergentes. Les développements de l’année dernière ont montré que les gouvernements étaient réticents à limiter l’utilisation militaire de l’IA. La concurrence pour développer rapidement des produits signifie qu’il existe un risque que les entreprises technologiques ne « mettent pas assez d’effort dans la sécurité ».
Le professeur Hinton a déclaré : « Je pense que d'ici cinq à vingt ans, il y a une probabilité de moitié que nous soyons confrontés au problème de l'IA qui tente de prendre le dessus ». Cela entraînerait une « menace d'extinction » pour les humains, car nous pourrions avoir « créé une forme d'intelligence qui est tout simplement meilleure que l'intelligence biologique... C'est très inquiétant pour nous ».
L'IA pourrait « évoluer », a-t-il déclaré, « pour trouver la motivation de produire davantage d'elle-même » et pourrait, de manière autonome, « développer un sous-objectif de prise de contrôle ». Il a ajouté qu'il existait déjà des preuves que de grands modèles de langage - un type d'algorithme d'IA utilisé pour générer du texte - choisissaient d'être trompeurs.
Il a ajouté que les applications récentes de l'IA pour générer des milliers de cibles militaires n'étaient que la « partie émergée de l'iceberg ». « Ce qui me préoccupe le plus, c'est que ces applications puissent prendre de manière autonome la décision de tuer des gens », a-t-il déclaré.
Le professeur Hinton a déclaré que quelque chose de similaire aux Conventions de Genève - les traités internationaux qui établissent des normes juridiques pour le traitement humanitaire en temps de guerre - pourrait être nécessaire pour réglementer l'utilisation militaire de l'IA. « Mais je ne pense pas que cela se produira avant que des choses très désagréables ne se soient produites », a-t-il ajouté.
Les limites de cet échange
L’échange avec la BBC met en lumière les préoccupations de Geoffrey Hinton concernant l’impact potentiel de l’intelligence artificielle sur l’emploi et la nécessité d’envisager un revenu de base universel (RBU) comme solution possible. Cependant, il est important de noter qu'il ne va pas plus loin que l'évocation du RBU, ne discutant pas en profondeur des défis pratiques liés à la mise en œuvre du RBU. Par exemple, il ne traite pas des questions de financement, de l’impact sur l’incitation au travail, ni des conséquences économiques à long terme d’une telle politique.
D'ailleurs, ses détracteurs estiment qu'il serait extrêmement coûteux de mettre en place le RBU et que ce dernier détournerait des fonds des services publics, sans pour autant contribuer à réduire la pauvreté. De plus, un porte-parole du gouvernement britannique a déclaré à la BBC qu'il n'y avait « aucun projet d'introduction d'un revenu de base universel ».
Ensuite, si Hinton parle de ses inquiétudes sur les risques de sécurité liés à l’IA, il ne fournit pas de solutions concrètes pour...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par RenarddeFeu
que je n’y croit pas 2 secondes.
