Elon Musk met en garde contre les menaces liées à l'IA, tandis que Bill Gates affirme qu'elle peut aider à lutter contre la faim dans le monde,

Les deux appellent toutefois à une réglementation

De nombreux PDG de la Tech ont rencontré mercredi un groupe bipartisan de sénateurs au Sénat américain pour échanger sur les dangers potentiels de l'IA et des possibilités qu'elle offre. Lors de la réunion, qui s'est tenue à huis clos, Elon Musk, PDG de Tesla, a mis en garde de nouveau contre la menace existentielle que représente l'IA pour l'humanité. En revanche, Bill Gates, cofondateur de Microsoft, a déclaré lors de la réunion que la technologie pourrait contribuer à résoudre le problème de la faim dans le monde, et qu'elle présente d'autres bonnes perspectives. Les PDG de Meta, Mark Zuckerberg, et d'OpenAI, Sam Altman, ont également assisté à la réunion.

Musk estime toujours que l'humanité devrait se montrer prudente vis-à-vis de l'IA

La réunion de mercredi a été convoquée par le chef de la majorité au Sénat, le sénateur Chuck Schumer (D., N.Y.). Plus de 60 sénateurs des deux bords ont participé à la réunion avec les PDG de la Tech. Les participants ont discuté des risques liés l'IA, notamment la menace qu'elle représente pour l'humanité, et des possibilités qu'elle offre. « C'était une expérience incroyable et historique où nous avons beaucoup appris, où nous avons commencé notre quête pour traiter cette question imminente si importante qu'est l'IA », a déclaré Schumer à la sortie de la réunion. Le Sénat américain doit légiférer dans un avenir proche pour réglementer la technologie.


À en croire Schumer, deux des allocutions ayant le plus retenu l'attention lors de la réunion sont celles de Musk et de Gates. Le propriétaire de X (anciennement Twitter) aurait averti les sénateurs que l'IA représentait un "risque civilisationnel" pour les gouvernements et les sociétés. En quittant le Capitole après plusieurs heures, Musk a qualifié la réunion d'historique. Musk a également approuvé l'idée d'une nouvelle agence fédérale chargée de superviser l'IA. Interrogé sur la menace contre laquelle il met en garde, il a déclaré à la presse : « les conséquences d'un dysfonctionnement de l'IA sont graves, nous devons donc être proactifs plutôt que réactifs ».

« La question qui se pose ici est celle du risque civilisationnel. Il ne s'agit pas d'opposer un groupe d'humains à un autre. Il s'agit plutôt de savoir s'il s'agit de quelque chose de potentiellement risqué pour tous les humains, où qu'ils se trouvent », a-t-il ajouté. Ensuite, à la question de savoir si l'IA détruira l'humanité, Musk a marqué une pause avant d'ajouter : « il existe une probabilité supérieure à zéro que l'IA nous tue tous. Je pense qu'elle est faible. Mais s'il y a une chance, je pense que nous devrions également prendre en compte la fragilité de la civilisation humaine ». Ces déclarations montrent que Musk a toujours une peur bleue à l'égard de l'IA.

La sénatrice Cynthia Lummis (R-Wyo), qui a assisté à la réunion privée, a déclaré avoir été frappée par le terme "risque civilisationnel" utilisé par Musk. Elle l'a noté dans son carnet et l'a montré à deux journalistes. Musk répète cette mise en garde depuis au moins huit ans, mais n'hésite pas à claquer des dizaines de millions de dollars dans le développement de l'IA. Avec Sam Altman, il a cofondé OpenAI en 2015 (qui a bénéficié d'un capital de départ d'un milliard de dollars). Il a quitté OpenAI en 2018, mais a récemment lancé une nouvelle startup d'IA, X.ai, et le bruit court qu'il a investi des millions de dollars dans l'achat de GPU optimisées pour l'IA.

Il est difficile de savoir exactement la raison pour laquelle Musk tient ce discours tout en continuant d'investir des millions de dollars pour développer l'IA. Des critiques ont déclaré qu'il pourrait s'agir d'une tactique visant à permettre à Musk de ralentir ses concurrents et de passer devant dans la course à l'IA. Quoi qu'il en soit, d'autres personnalités ayant participé à la réunion de mercredi au Sénat américain se sont montrées beaucoup plus optimistes sur le sujet. Selon le sénateur Schumer, Gates a déclaré que la technologie pourrait contribuer à résoudre le problème de la faim dans le monde. Gates a toujours été très optimistes concernant la technologie.

Les grands modèles de langage open source soulèvent plusieurs préoccupations

L'un des débats a porté sur les grands modèles de langage (LLM) open source, qui peuvent être téléchargés et modifiés par le public. Ces modèles permettent aux entreprises et aux chercheurs d'accéder aux dernières technologies d'IA sans avoir à dépenser des millions de dollars pour les former. Selon des sources ayant assisté à la réunion, Tristan Harris, directeur de l'organisation à but non lucratif "Center for Humane Technology", a fait valoir que des acteurs malveillants pouvaient abuser des systèmes d'IA open source, tels que le grand modèle de langage Llama 2 récemment publié en open source par Meta, l'entreprise dirigée par Zuckerberg.


Harris aurait noté que son organisation avait réussi à faire en sorte que le modèle Llama 2 fournisse des instructions sur la manière de créer des composés biologiques dangereux. Cependant, Zuckerberg aurait répliqué en disant que des instructions similaires pouvaient déjà être trouvées sur l'internet. Il aurait ajouté que les modèles open source pouvaient présenter des dangers, mais que Meta essayait de construire cette technologie de la manière la plus sûre possible. Selon le PDG de Meta, l'open source permet de démocratiser l'accès à ces outils, ce qui permet d'uniformiser les règles du jeu et de favoriser l'innovation pour les personnes et les entreprises.

En dehors des PDG bien connus de la Tech américaine, des dirigeants syndicaux, des défenseurs des droits civiques et d'autres personnes ont également participé à la réunion. À un moment donné, Schumer aurait demandé aux invités s'ils étaient d'accord pour dire que le gouvernement devait jouer un rôle dans la réglementation de l'IA. Toutes les personnes présentes auraient levé la main. « Personne n'a hésité à dire qu'il fallait que le gouvernement intervienne », a déclaré Schumer. Selon lui, les entreprises ont compris que même si elles se disent prêtes à installer des garde-fous par elles-mêmes, il y aura toujours des concurrents qui ne le feront pas.

Zuckerberg n'a pas répondu aux questions des journalistes en quittant la réunion. Son équipe a transmis ses remarques préparées depuis l'intérieur de la salle, où il a déclaré qu'il incombait au gouvernement de réglementer l'IA. « Je suis d'avis pour que le Congrès s'engage avec l'IA afin de soutenir l'innovation et les garanties. Il s'agit d'une technologie émergente, il y a d'importants équilibres à trouver, et le gouvernement en est responsable en dernier ressort », a-t-il déclaré. Le PDG d'OpenAI s'est dit surpris par le large consensus qui s'est dégagé dans la salle sur "la nécessité de prendre cette question au sérieux et de la traiter de manière urgente".

« Je pense que tout le monde est d'accord sur le fait qu'il s'agit d'un sujet sur lequel nous avons besoin du leadership du gouvernement. Certains ne sont pas d'accord sur la manière dont cela devrait se passer, mais tous sont d'accord pour dire qu'il s'agit d'une question importante et urgente », a déclaré Altman. Avant la réunion de mercredi, deux dirigeants de la Tech ont averti les sénateurs mardi qu'un frein d'urgence était nécessaire pour les systèmes critiques gérés par l'IA, tels que les réseaux électriques ou l'approvisionnement en eau, afin de protéger les êtres humains des dommages potentiels causés par cette technologie émergente.

Une législation trop stricte pourrait ralentir les progrès dans le domaine de l'IA

Malgré le consensus sur la nécessité de réglementer l'IA - et la promesse de Schumer d'adopter une législation dans un avenir proche - la réunion a également mis en lumière certains des points de tension à venir. Dans le rang des PDG de la Tech ayant participé à la réunion de mercredi au Sénat, certains pensent que des règles trop strictes pourraient ralentir les progrès des États-États dans le domaine de l'IA, ce qui serait problématique pour le pays. Ces dirigeants d'entreprise ont mis en garde contre le fait que si cela arrivait, les États-Unis se verraient dépasser par leurs rivaux et perdraient leur position de leader dans le domaine de la technologie.

Autre sujet de controverse lors de la réunion : la possibilité que les futurs systèmes d'IA puissent anéantir l'humanité. Deb Raji, une chercheuse en IA qui a participé à la réunion de mercredi, a demandé à la salle de se concentrer sur les préjudices actuels, notamment les décisions biaisées en matière de logement, d'embauche ou de condamnation pénale, qui peuvent résulter de systèmes d'IA déployés dans la précipitation, sans garde-fous solides. Lors de son allocution, elle a également plaidé en faveur de l'élaboration de méthodes d'audit pour les...