Le plus grand risque de l'IA n'est pas la « conscience », mais les entreprises qui la contrôlent,

Selon la chercheuse Meredith Whittaker

Le plus grand risque de l'IA n'est pas la « conscience », mais les entreprises qui la contrôlent,
selon la chercheuse Meredith Whittaker

En réaction aux propos de Geoffrey Hinton, un pionnier de l’IA qui a quitté Google pour avertir que l’IA pourrait bientôt surpasser les humains en intelligence et apprendre à détruire l’humanité par elle-même, Meredith Whittaker, une chercheuse en intelligence artificielle (IA) qui a également quitté Google en 2019 après avoir dénoncé les pratiques de l’entreprise en matière d’IA militaire et éthique indique que l'alarmisme de Geoffrey Hinton détourne l'attention de menaces plus pressantes.

Whittaker critique la vision alarmiste de Hinton, qu’elle juge distrayante des menaces plus urgentes, comme le contrôle des technologies d’IA par les grandes corporations et les conséquences sociales et politiques de leur déploiement. Elle appelle à une plus grande solidarité et à une plus grande action des travailleurs du secteur technologique pour s’opposer aux dommages causés par l’IA.


Dans une sortie médiatique sur l’évolution et les risques de l’intelligence artificielle, Jürgen Schmidhuber, considéré comme le « père de l’IA », a déclaré que la montée de l’IA est inévitable et ne doit pas être crainte, car elle vise à améliorer la vie humaine. Il se distingue ainsi de certains de ses pairs, comme Geoffrey Hinton, qui ont quitté Google pour dénoncer la course à l’armement de l’IA et ses dangers potentiels.

Schmidhuber affirme que la concurrence entre les gouvernements, les universités et les entreprises est inévitable et qu’il faut apprendre à vivre avec une IA qui dépassera l’intelligence humaine et qui ne s’intéressera pas aux gens. Il minimise les risques de l’IA par rapport aux dangers nucléaires et aux nouveaux cultes religieux qui pourraient émerger à partir de l’IA.

Comme Meredith Whittaker, Schmidhuber se positionne en rupture avec Geoffrey Hinton, qui continue d’exprimer son inquiétude face à la course à l’armement de l’IA et à ses conséquences potentiellement néfastes pour l’humanité. Hinton, qui est appelé le « parrain » de l’IA, a remporté le prix Turing en 2018 pour son travail sur l’apprentissage profond, qui est le fondement de la plupart des applications d’IA actuelles. Sa démission de Google cette semaine, après dix ans de collaboration avec l’entreprise, vise à lui permttre de parler plus librement de l’IA. Il a déclaré que les entreprises comme Google avaient cessé d’être des gardiens responsables pour l’IA face à la concurrence pour faire avancer la technologie.

Schmidhuber, quant à lui, affirme que la montée de l’IA est inévitable et ne doit pas être crainte, car elle vise à améliorer la vie humaine. Il dit que son ancienne devise est de rendre la vie humaine plus longue, plus saine et plus facile. Il reconnaît qu’il existe une compétition entre les gouvernements, les universités et les entreprises pour faire progresser l’IA, ce qui crée une course aux armements, mais il dit qu’on ne peut pas l’arrêter et qu’on ne devrait pas non plus.

Whittaker critique la vision alarmiste de Hinton, qu’elle juge distrayante des menaces plus urgentes, comme le contrôle des technologies d’IA par les grandes corporations et les conséquences sociales et politiques de leur déploiement. Elle explique que l’IA n’est pas une entité autonome, mais un ensemble de systèmes construits par des humains et influencés par leurs intérêts et leurs biais. Elle affirme que l’IA pose des problèmes de justice, de droits humains, de démocratie et d’environnement, qui ne peuvent être résolus par des solutions techniques ou des régulations superficielles.

Elle appelle à une plus grande solidarité et à une plus grande action des travailleurs du secteur technologique pour s’opposer aux dommages causés par l’IA. Elle raconte son expérience d’organisatrice au sein de Google, où elle a participé à la mobilisation contre le projet Maven, un contrat avec le Pentagone pour développer une technologie de vision par ordinateur pour les drones militaires. Elle décrit les représailles qu’elle a subies de la part de Google, qui a tenté de la réduire au silence et de la licencier. Elle souligne l’importance du soutien mutuel et de la création d’espaces collectifs pour les travailleurs qui veulent dénoncer les abus et les injustices.

Whittaker conclut en disant qu’elle est optimiste quant à la capacité des gens à se rassembler et à se battre pour un avenir meilleur, où l’IA serait au service du bien commun et non des profits privés. Elle cite l’exemple de Signal, une application de messagerie sécurisée dont elle est la présidente, qui fonctionne sans publicité ni collecte de données personnelles.

Source : Fast company

Et vous ?

Que pensez-vous des arguments de Geoffrey Hinton pour soutenir sa thèse sur le risque de l’IA consciente ?

Quels sont les enjeux éthiques et politiques de la recherche en IA, notamment en ce qui concerne la diversité et la représentativité des chercheurs et des sujets d’étude ?

Quelles sont les stratégies et les ressources dont disposent les travailleurs du secteur technologique pour s’organiser et se protéger face aux pressions et aux représailles des employeurs ?

Voir aussi :

L'essor de l'intelligence artificielle est inévitable, mais ne doit pas être craint, selon le « père de l'IA » Jürgen Schmidhuber

Les législateurs de l'UE s'accordent sur un projet de règles plus strictes en matière d'IA, les IA génératives comme ChatGPT devraient donner un résumé détaillé des données de formation sous copyright

La Chine procède à une première arrestation concernant des fake news générées par ChatGPT, la fausse information publiée sur les médias sociaux aurait obtenu plus de 15 000 clics

Les étudiants sont favorables aux outils d'IA tels que ChatGPT dans l'enseignement, plus d'un tiers les utilisent, mais 62 % pensent que recourir à ces outils lors des examens est une forme de triche

Google annonce la disponibilité générale de Bard, sa réponse au chatbot ChatGPT d'OpenAI, dans 180 pays : que peuvent en attendre les travailleurs de la filière du développement informatique ?