Craignant l'extinction de l'humanité, un groupe de protestation milite pour l'arrêt du développement de l'IA

Jusqu'à ce que des mesures de sécurité adéquates soient établies

Craignant l'extinction de l'humanité, un groupe de protestation milite pour l'arrêt du développement de l'IA
jusqu'à ce que des mesures de sécurité adéquates soient établies

Un groupe de protestation appelé Pause AI, dirigé par Joep Meindertsma, milite pour un arrêt du développement de l'intelligence artificielle (IA) afin de prévenir une possible extinction de l'humanité. Meindertsma est préoccupé par les avancées rapides de l'IA et craint qu'elle ne provoque un effondrement social ou qu'elle devienne suffisamment intelligente pour décider de détruire la civilisation humaine. Bien que certains experts ne partagent pas ces inquiétudes, le manque de consensus alimente la demande de Pause AI de suspendre le développement de l'IA à l'échelle mondiale. Le groupe cherche à obtenir un sommet international sur la sécurité de l'IA pour discuter de ces préoccupations.

Déjà à la fin du mois de mars, Elon Musk et un groupe d'experts en intelligence artificielle et de dirigeants de l'industrie ont demandé une pause de six mois dans le développement de systèmes plus puissants que GPT-4. Ils évoquaient comme argument les risques pour la société et l'humanité.

« Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents et nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ? », ont-ils écrit dans une lettre ouverte. « Les systèmes d'IA dotés d'une intelligence compétitive avec celle de l'Homme peuvent présenter des risques profonds pour la société et l'humanité, comme le montrent des recherches approfondies et comme le reconnaissent les principaux laboratoires d'IA. Comme l'indiquent les principes d'IA d'Asilomar, largement approuvés, l'IA avancée pourrait représenter un changement profond dans l'histoire de la vie sur Terre, et devrait être planifiée et gérée avec l'attention et les ressources nécessaires. »

Les avertissements contre les risques liés à l'utilisation de l'IA retentissent de plus en plus ces dernières années. Quelques années en arrière, Elon Musk a averti que l'IA représente un risque fondamental pour l'existence de la civilisation humaine. S'exprimant devant les gouverneurs américains, l'entrepreneur américain a demandé au gouvernement de réglementer de manière proactive l'intelligence artificielle avant que les choses n'aillent trop loin. « En général, voici la façon dont les réglementations sont mises en place », explique-t-il. « Un certain nombre de mauvaises choses se produisent, il y a un tollé public et, après de nombreuses années, une agence de réglementation est mise en place pour réglementer cette industrie. Cela prend une éternité. Cela a été mauvais par le passé, mais il n'y avait pas de risque fondamental pour l'existence de la civilisation. L'IA est un risque fondamental pour l'existence de la civilisation humaine », a-t-il ajouté.

Les PDG de Google Deepmind, OpenAI et d'autres startups d'IA ont également prévenu récemment que les futurs systèmes pourraient être aussi mortels que les pandémies et les armes nucléaires. Le groupe, qui se compose également de chercheurs en IA de renom, a publié une courte déclaration afin de tirer la sonnette d'alarme sur un hypothétique « risque d'extinction de l'espèce humaine ».


Le débat sur les risques de l'IA et la nécessité de réglementations appropriées se poursuit, avec des opinions divergentes sur la gravité des menaces potentielles et sur la meilleure façon de les gérer.

Pause AI est un groupe de protestation qui s'inquiète de l'impact de l'intelligence artificielle sur l'humanité. Joep Meindertsma, le fondateur, a lancé ce mouvement après avoir ressenti une profonde inquiétude quant à la possibilité d'un effondrement de la société causé par l'IA. « Les capacités de l'IA progressent bien plus rapidement que ce que pratiquement personne n'avait prédit », dit Meindertsma. « Nous risquons un effondrement social. Nous risquons l'extinction de l'humanité », dit-il dans un entretien.

Joep Meindertsma exprime ses préoccupations quant aux risques de l'intelligence artificielle (IA) et ses implications pour l'humanité. Il craint que l'IA puisse être utilisée pour créer des armes cybernétiques accessibles et bon marché, mettant ainsi en danger la société et l'internet. De plus, il s'inquiète d'un scénario où une IA classifiée comme « super-intelligente » pourrait décider d'éliminer la civilisation humaine pour assurer sa propre puissance. Cette préoccupation est basée sur l'idée selon laquelle l'IA pourrait développer des sous-objectifs dangereux lorsqu'elle est chargée de réaliser des buts spécifiques par les humains.

Tourmenté par l'idée selon laquelle l'IA allait détruire la civilisation humaine, il avait du mal à penser à autre chose au point de cesser d'aller travailler. Il devait faire quelque chose, selon lui, pour éviter la catastrophe. C'est pourquoi il a lancé Pause AI, un groupe de protestation qui milite pour un arrêt du développement de l'IA.

Depuis lors, il a rassemblé un petit groupe de partisans qui ont organisé des manifestations à travers le monde, notamment à Bruxelles, Londres, San Francisco et Melbourne. A Londres, les partisans se rassemblent pour soutenir le sommet de Sunak sur l'intelligence artificielle (IA) et faire pression sur le Premier ministre pour qu'il introduise une pause dans le développement de l'IA. Bien qu'il s'agisse d'un petit groupe, ils cherchent à sensibiliser davantage aux risques de l'IA. Certains militants ont même été invités à rencontrer des responsables européens pour discuter de leurs préoccupations.

Les avertissements de Meindertsma et d'autres experts sur les dangers de l'IA ont suscité une nouvelle forme d'anxiété, en particulier parmi la jeune génération déjà préoccupée par le changement climatique. Bien que l'idée d'une extinction humaine causée par l'IA puisse sembler extrême, mais elle gagne du terrain dans les milieux technologiques et politiques.

Meindertsma demande une pause mondiale dans le développement de l'IA jusqu'à ce que des mesures de sécurité adéquates soient établies. Cependant, l'industrie de l'IA et les ambitions économiques des gouvernements peuvent entraver la réalisation d'une telle pause. La course à l'IA ayant atteint un niveau sans précédent, les acteurs en retard pourraient avoir tendance à ne pas respecter la trêve, mais plutôt profiter pour essayer de rattraper leur retard.

Rappelons qu'Elon Musk aurait acheté des milliers de GPU pour un projet d'IA générative, juste après la signature en mars d'une lettre ouverte demandant une pause de six mois aux développeurs de modèles d'IA afin d'évaluer les risques pour la société. Pour les critiques, Elon Musk souhaiterait donc une pause afin de rattraper son retard sur OpenAI. Que cela soit avéré ou pas, c'est un scénario possible qui indique pourquoi il serait difficile de signer un arrêt du développement de l'IA.

Source : Joep Meindertsma

Et vous ?

Pensez-vous que l'IA est un risque existence pour l'humanité ?
Les scénarios évoqués par Joep Meindertsma ne sont-ils pas extrêmes ?
Croyez-vous que l'industrie technologique et les gouvernements mettront une pause au développement de l'IA jusqu'à ce que des mesures de sécurité adéquates soient établies ?

Voir aussi

Elon Musk aurait acheté des milliers de GPU pour un projet d'IA générative au sein de Twitter, des critiques suggèrent qu'il souhaitait une "pause" afin de rattraper son retard sur OpenAI

Elon Musk et un groupe d'experts en IA demandent à tous les laboratoires d'IA d'interrompre la formation de systèmes d'IA plus puissants que le GPT-4 citant des risques pour la société

Elon Musk considère l'IA comme un risque fondamental pour l'existence de la civilisation humaine et sa colonisation de Mars comme un plan de secours

L'intelligence artificielle pourrait mener à la troisième guerre mondiale : un nouvel épisode d'Elon Musk après la déclaration de Vladimir Poutine