Le patron de Google Deepmind répond au chef de la division IA de Meta. Ce dernier l’accuse d’entretenir la peur d’un futur où l’intelligence artificielle deviendrait une menace pour l’humain. L’objectif (selon le chef de la division IA de Meta) : appeler à une réglementation mondiale de la filière IA au profit des géants technologiques. L’implication serait alors la prolifération de systèmes d’IA propriétaires au détriment de ceux à code source ouvert. Faut-il ouvrir le code source et opter pour la transparence totale des mécanismes d’entraînement des IA ou opter pour des systèmes fermés pour lesquels les grandes entreprises technologiques prétendent que l’avantage sera d’éviter de mettre de puissants outils entre les mains de monsieur Tout-le-monde ? La question divise.Demis Hassabis, qui est à la tête de Google Deepmind, estime que le risque lié à l'IA devrait être traité avec la même conviction que les efforts déployés pour lutter contre le changement climatique.
Le chercheur britannique en IA est d’avis qu’il est nécessaire de réglementer davantage l'IA afin de lutter contre les crises existentielles posées par une technologie qui possède des niveaux d'intelligence supérieurs à ceux de l'homme. Il déclare à ce propos que « le monde ne peut pas se permettre de retarder sa réponse. » Le chercheur estime que la réglementation de l'IA commence par la création d'un organisme similaire au GIEC. Hassabis ajoute qu'il est impératif de s'attaquer aux dangers de l'IA, y compris ceux liés à la création d'armes biologiques.
Dans une récente interview, Hassabis souligne que la communauté internationale avait mis beaucoup trop de temps à coordonner une réponse mondiale efficace au changement climatique et que nous vivions les conséquences de ce retard. L'expert en IA a affirmé que le monde ne pouvait plus se permettre un tel retard.
Hassabis a en sus exprimé son souhait de voir un équivalent du CERN (l'Organisation européenne pour la recherche nucléaire) pour la sécurité de l'IA, qui supervise la recherche à l'échelle mondiale. Il souhaite en plus la création d'un équivalent de l'Agence internationale de l'énergie atomique. Ses commentaires interviennent alors que le Royaume-Uni prévoit d'accueillir son sommet mondial sur la gouvernance de l'IA. Cet événement est considéré comme une occasion d'établir un consensus international sur les dangers de l'IA. Sa récente sortie en réponse au chef de la division IA de Meta est une redite de ce positionnement.
C’est un débat open source contre systèmes propriétaires qui se joue en toile de fond
Yann LeCun, responsable de l'IA chez Meta, est l'un des rares éminents chercheurs en IA qui n'épousent pas le discours dominant qui présente l'IA comme une menace existentielle pour l'humanité. Lors d'une récente interview, il a réitéré ses propos selon lesquels « l'IA n'est pas intelligente et est encore plus bête que les chats », ajoutant qu'il est complètement absurde de penser que l'IA pourrait éradiquer l'espèce humaine. Il affirme qu'une réglementation prématurée de l'IA s'avérera un frein pour la recherche et l'innovation dans le domaine, renforcera la domination des grandes entreprises technologiques (OpenAI, Google, etc.) et ne laissera aucune place à la concurrence. C’est la raison pour laquelle il milite pour la transparence en matière de développement de l’intelligence artificielle au travers de l’open source.
Au début de l'année, l'entreprise spécialisée en cybersécurité CheckPoint a noté que ChatGPT peut générer le code d’un logiciel malveillant capable de voler des fichiers précis sur un PC, de les compresser et de les envoyer sur un ordinateur distant. L'IA d'OpenAI pouvait également produire du code pour un outil logiciel qui installe une porte dérobée sur un ordinateur et ensuite télécharge d’autres logiciels malveillants à partir de cette dernière. La firme a rapporté en sus que les cybercriminels peuvent s’en servir pour la mise sur pied de logiciels capables de chiffrer les fichiers du PC d’une cible. CheckPoint a estimé que ChatGPT ouvrait ces possibilités à des individus avec de très faibles connaissances techniques. Puis OpenAI a amélioré son chatbot IA, lui imposant des limites éthiques et restreignant certaines fonctionnalités. C'était sans compter sur l'ingéniosité de certains intervenants de la sphère qui ont fini par mettre sur pied WormGPT. C’est un chatbot conçu pour aider les cybercriminels à développer des logiciels malveillants. WormGPT représente l’entrée en matière des possibilités qui seront accessibles aux cybercriminels au fur et à mesure de l’évolution des modèles d’intelligence artificielle. C’est la raison pour laquelle la question revient avec acuité sur la table : Faut-il ouvrir le code source et opter pour la transparence totale des mécanismes d’entraînement des IA ou opter pour des systèmes fermés pour lesquels les grandes entreprises technologiques prétendent que l’avantage sera d’éviter de mettre de puissants outils entre les mains de monsieur Tout-le-monde ? Ilya Sutskever explique les avantages et les inconvénients de chacun des points de vue :
Source : Entretien (pièce jointe)
Et vous ?
Quel est votre avis sur le sujet ?Voir aussi :
« Le développement de l'IA sans réglementation induit une menace existentielle pour l'humanité », d'après Elon Musk dont une société développe des puces à insérer dans le cerveau pour contrer l'IA Le projet de législation européenne sur l'intelligence artificielle mettrait en péril la compétitivité et la souveraineté technologique de l'Europe, selon plus de 160 dirigeants d'entreprises Les législateurs de l'UE progressent dans leurs négociations cruciales sur les nouvelles règles en matière d'IA 
