Ilya Sutskever, cofondateur et directeur scientifique d'OpenAI, a déclaré dans une récente interview que ChatGPT est une technologie bien plus puissante qu'un simple argent conversationnel. Il estime qu'il se peut que ChatGPT et d'autres modèles d'IA soient légèrement conscients et invite le monde à s'intéresser davantage à ChatGPT qui, selon lui, a déjà réécrit les attentes de beaucoup de gens sur ce qui va arriver. Selon lui, l'IA évoluera à tel point où certains humains choisiront un jour de fusionner avec les machines. Et alors que l'IA semble se redéfinir après chaque évolution, le directeur scientifique d'OpenAI affirme que l'on atteindra un jour l'intelligence générale artificielle (AGI).Ilya Sutskever estime que ChatGPT a redéfini l'agenda de l'ensemble du secteur de l'IA
L'on peut affirmer sans se tromper qu'OpenAI mène la danse dans la course à l'IA. Le succès sans précédent du chatbot d'IA ChatGPT a propulsé OpenAI sur le devant de la scène et ses produits d'IA sont parmi les plus populaires, ce qui a permis à la startup d'IA fondée en 2015 d'approcher une valorisation de 80 milliards de dollars. Lors d'une récente interview, Ilya Sutskever, cofondateur et directeur scientifique d'OpenAI, a déclaré que ChatGPT a permis au secteur de l'IA de faire un grand bond en avant. Beaucoup moins connu du grand public que Sam Altman et Elon Musk, il a donné lors de l'interview son point de vue sur l'avenir de l'IA et de ChatGPT.
Comme Sam Altman, PDG d'OpenAI, Sutskever est persuadé que l'industrie atteindra dans un avenir pas si lointain une forme d'AGI. « Il est important de parler de la direction que tout cela prend. À un moment donné, nous aurons vraiment l'AGI. Peut-être qu'OpenAI la construira. Peut-être qu'une autre entreprise la construira », a-t-il déclaré. Lorsqu'il a été interrogé sur les risques et opportunités qu'il entrevoit, Sutskever a répondu : « ce sera monumental, bouleversant. Il y aura un avant et un après ». Il a déclaré que lors du lancement de ChatGPT, OpenAI craignait que le chatbot n'intéresse pas le public, mais c'est le contraire qui s'est finalement produit.
Sutskever a expliqué : « je vais l'admettre. À mon grand embarras - je ne sais pas si je devrais, mais bon sang, c'est vrai -, lorsque nous avons créé ChatGPT, je ne savais pas s'il était bon. Lorsque vous lui posiez une question factuelle, il vous donnait une mauvaise réponse. Je pensais que ce serait si peu impressionnant que les gens diraient : "pourquoi faites-vous cela ? C'est tellement ennuyeux" ». Mais ce chatbot semble avoir redéfini l'agenda de l'ensemble du secteur. « C'est la commodité qui a attiré l'attention », a-t-il ajouté. Sutskever a déclaré lors de l'interview qu'après le succès de ChatGPT, l'AGI avait cessé d'être un gros dans l'industrie.
« Cela a été un grand changement. Historiquement, l'attitude des gens était la suivante : l'IA ne fonctionne pas, chaque étape est difficile, il faut se battre pour chaque once de progrès. Et lorsque les gens faisaient de grandes déclarations sur l'AGI, les chercheurs disaient : "de quoi parlez-vous ? Cela ne fonctionne pas. Il y a trop de problèmes". Mais avec ChatGPT, les choses ont commencé à changer. Il a permis aux chercheurs en apprentissage automatique de rêver. Nous avons maintenant des gens qui parlent de l'étendue de l'IA, des gens qui parlent d'AGI, ou de superintelligence. Tout le monde en parle. C'est complètement fou », a-t-il déclaré.
Sutskever insiste sur le fait que toutes ces discussions sur une technologie qui n'existe pas encore (et qui n'existera peut-être jamais) sont une bonne chose, car elles permettent de sensibiliser davantage de gens à un avenir qu'il considère déjà comme acquis. « On peut faire tellement de choses incroyables avec l'AGI : automatiser les soins de santé, les rendre mille fois moins chers et mille fois meilleurs, guérir tant de maladies, résoudre le problème du réchauffement de la planète », déclare-t-il. Malgré ce qu'il dit, l'AGI reste l'une des idées les plus controversées dans ce domaine. Rares sont ceux qui considèrent son développement comme acquis.
De nombreux chercheurs pensent que des avancées conceptuelles majeures sont nécessaires avant de voir ce que Sutskever a en tête ; et certains pensent que nous ne le verrons jamais. La communauté de l'IA est divisée sur la question et la notion même d'intelligence ne fait pas l'objet d'un consensus.
Sutskever affirme qu'il se peut que les modèles de langage soient légèrement conscients
Israélo-canadien, Sutskever est né en Russie soviétique, mais a grandi à Jérusalem dès l'âge de cinq ans (il parle toujours le russe et l'hébreu, ainsi que l'anglais). Il a ensuite déménagé au Canada pour étudier à l'université de Toronto avec Geoffrey Hinton, pionnier de l'IA et prix Turing 2018, qui a fait part de ses craintes concernant la technologie qu'il a contribué lui-même à créer au début des années 80. Lors de l'interview, Sutskever n'a pas commenté les déclarations de Hinton, mais le fait qu'il s'intéresse désormais aux formes d'IA malveillantes laisse penser qu'ils sont sur la même longueur d'onde. Sutskever a toutefois déclaré à propos de l'AGI :
« Nombreux sont ceux qui s'inquiètent : "mon Dieu, les entreprises d'IA réussiront-elles à gérer cette formidable technologie ?" ». Sutskever a défini l'AGI comme suit : « l'AGI n'est pas un terme scientifique. Il s'agit d'un seuil utile, d'un point de référence. C'est le moment où l'IA est si intelligente que si une personne peut accomplir une tâche, l'IA peut aussi le faire. À ce moment-là, on peut dire qu'il y a une IAG ». En février de l'année dernière, Sutskever a laissé entendre sur son compte Twitter (aujourd'hui X) qu'il se peut que les grands réseaux neuronaux d'aujourd'hui soient légèrement conscients. Cependant, il a rapidement fait l'objet de critiques.
Par exemple, Murray Shanahan, scientifique principal chez Google DeepMind et professeur à l'Imperial College de Londres, a répondu : « dans le même sens qu'il se peut qu'un grand champ de blé soit légèrement composé de pâtes ». Lors de l'interview, Sutskever a essayé d'expliquer son propos en se référant au concept de cerveau de Boltzmann. Il s'agit en effet d'une expérience de pensée en mécanique quantique (nommée d'après le physicien du XIXe siècle Ludwig Boltzmann) dans laquelle des fluctuations thermodynamiques aléatoires dans l'univers sont imaginées comme étant à l'origine de l'apparition et de la disparition de cerveaux.
« J'ai l'impression qu'à l'heure actuelle, ces modèles de langage sont un peu comme un cerveau de Boltzmann. Vous commencez à lui parler, vous parlez un peu, puis vous finissez de parler, et le cerveau, il fait un mouvement de disparition avec ses mains. Pouf, adieu, cerveau », a déclaré Sutskever. Alors que d'autres s'interrogent sur l'idée de machines capables d'égaler l'intelligence humaine, Sutskever se prépare à des machines capables de nous surpasser. C'est ce que le directeur scientifique d'OpenAI appelle la superintelligence artificielle (ASI) : « elles verront les choses plus profondément. Elles verront des choses que nous ne voyons pas ».
« Nous avons vu un exemple de superintelligence très étroite avec AlphaGo. En 2016, l'IA de DeepMind spécialisée dans les jeux de société a battu Lee Sedol, l'un des meilleurs joueurs du jeu de Go au monde ; elle a gagné 4 parties sur 5. Elle a compris comment jouer au jeu de Go d'une manière différente de celle que l'humanité a développée collectivement pendant des milliers d'années. Il a trouvé de nouvelles idées », a-t-il déclaré. Sutskever attire en effet l'attention sur le fameux mouvement 37 d'AlphaGo. Lors de sa deuxième partie contre Sedol, l'IA a fait un mouvement qui a déconcerté les commentateurs. Ils pensaient qu'AlphaGo avait fait une erreur.
En réalité, elle avait joué un coup gagnant que personne n'avait jamais vu auparavant dans l'histoire du jeu. « Imaginez un tel niveau de perspicacité, mais dans tous les domaines », a déclaré Sutskever. Pour lui, l'AGI sera capable de reproduire de tels exploits, mais dans tous les domaines.
Sutskever s'exprime sur les préoccupations liées à l'IA et à l'atteinte d'une forme d'AGI
« Il est très important de ne pas se concentrer uniquement sur les possibilités offertes par les modèles de langage, mais aussi sur les risques et les inconvénients », a déclaré Jeff Dean, directeur scientifique de Google. Ancien membre de l'équipe Google Brain, Hinton a quitté son poste pour mettre en garde contre les risques de l'IA. Il pense qu'une forme d'AGI sera atteinte d'ici 5 à 20 ans et que nous vivons une époque très incertaine. « Il est possible que je me trompe totalement sur le fait que l'intelligence numérique nous dépasse. Personne ne le sait vraiment et c'est la raison pour laquelle nous devrions nous inquiéter dès maintenant », a-t-il déclaré.
Hinton et beaucoup d'autres craignent qu'une là, l'AGI prenne le dessus sur l'humanité et décide de l'éradiquer. Un scénario dystopique rejeté catégoriquement par des chercheurs en IA comme Yann LeCun, responsable de l'IA chez Meta avec qui Hinton a partagé le prix Turing en 2018. Elon Musk, PDG de xAI, a appelé à un moratoire pour rédiger de bonnes règles pour le développement de l'IA afin qu'elle soit centrée sur l'humain. Avec Altman, Musk pense que l'IA représente un risque existentiel pour l'humanité. Récemment, OpenAI a annoncé la création d'une équipe chargée d'étudier les risques existentiels liés à l'IA, y compris les menaces nucléaires.
Avec Jan Leike, un collègue scientifique d'OpenAI, Sutskever a mis sur pied une équipe qui se concentrera sur ce qu'ils appellent le "superalignement". L'alignement est un jargon qui signifie que les modèles d'IA font ce que l'humain veut, et rien de plus. Le superalignement est le terme utilisé par OpenAI pour désigner l'alignement appliqué à la superintelligence. L'objectif est de mettre au point un ensemble de procédures de sécurité pour construire et contrôler cette technologie future. OpenAI affirme qu'elle consacrera un cinquième de ses vastes ressources informatiques à ce problème et qu'elle le résoudra en quatre ans. Mais le projet est critiqué.
OpenAI a annoncé le projet sur X, mais l'initiative est critiquée par des personnes comme Abeba Birhane, qui travaille sur la responsabilité en matière d'IA chez Mozilla ; Timnit Gebru, cofondateur du Distributed Artificial Intelligence Research Institute (DAIR) ; et Margaret Mitchell, responsable de l'éthique de l'IA au sein de l'entreprise d'IA Hugging Face. Mais Sutskever estime que le superalignement est la prochaine étape inévitable. « C'est un problème non résolu. Il s'agit également d'un problème sur lequel trop peu de chercheurs en apprentissage automatique travaillent. Je le fais dans mon propre intérêt », a déclaré le directeur scientifique d'OpenAI.
« Il est évidemment important qu'aucune superintelligence construite par quiconque ne devienne malveillante. C'est évident. Le travail sur le superalignement ne fait que commencer. Ils nécessiteront de vastes changements dans les institutions de recherche », a-t-il ajouté. Sutskever a un exemple en tête pour les garanties qu'il veut concevoir : une machine qui regarde les gens comme les parents regardent leurs enfants. « À mon avis, c'est l'étalon-or. C'est une affirmation généralement vraie que les gens se soucient vraiment des enfants. (A-t-il des enfants ? "Non, mais j'aimerais en avoir", dit-il) », a déclaré Sutskever lors de son interview.
Mais que se passera-t-il une fois que l'on aura relevé le défi de l'IA malveillante ? Y a-t-il encore de la place pour les êtres humains dans un monde où les IA sont plus intelligentes ? Sutskever a répondu : « l'une des possibilités - qui est peut-être folle selon les normes actuelles, mais qui ne le sera pas selon les normes futures - est que de nombreuses personnes choisissent de devenir une partie de l'IA ». Il affirme que cela pourrait être la façon dont les humains essaient de rester à la hauteur. « Au début, seules les personnes les plus audacieuses et les plus aventureuses essaieront de le faire. Peut-être que d'autres suivront. Ou pas », a-t-il déclaré.
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous des prédictions du directeur scientifique d'OpenAI sur l'avenir de l'IA ? Êtes-vous d'avis que l'IA entraînera des bouleversements majeurs dans le monde à l'avenir ? Les modèles de langage actuels sont-ils "légèrement conscients" comme il le prétend ? Pourquoi ? Quel est votre avis sur l'AGI ? Cette forme d'IA est-elle à portée de main pour l'industrie ? Les modèles d'IA comme GPT-4 sont-ils d'une manière ou d'une autre une forme d'AGI ? Pourquoi ? Que pensez-vous du concept de l'alignement censé empêcher l'avènement d'une AGI de type Skynet ? A-t-on besoin d'une organisation chargée de la gouvernance mondiale de l'IA ? Fonctionnera-t-elle ? Quels pourraient être les impacts d'un tel organe sur le marché de l'IA ? Cela nuira-t-il à l'innovation ? Que pensez-vous du débat sur l'IA et sur l'AGI ? Est-il mal orienté ? Si oui, sur quoi doit-il se concentrer ?Voir aussi
Microsoft prétend que GPT-4 montre des « étincelles » d'intelligence artificielle générale : « nous pensons que l'intelligence de GPT-4 signale un véritable changement de paradigme » Comment saurons-nous que nous avons atteint une forme d'intelligence générale artificielle ? Pour certains experts en IA, ce sera lorsque la machine aura une cognition de niveau humain OpenAI crée une équipe chargée d'étudier les risques catastrophiques liés à l'IA, y compris les menaces nucléaires 
Envoyé par Mathis Lucas
)