Meta, la société dirigée par Mark Zuckerberg, a annoncé jeudi qu’elle travaillait sur la création d’une intelligence artificielle générale (IAG), c’est-à-dire une intelligence artificielle capable de comprendre, d’apprendre et d’appliquer des connaissances de manière similaire à l’intelligence humaine. L’objectif de Meta est de rendre cette IAG accessible au plus grand nombre, en la partageant de manière responsable sous licence open source.L’IAG est considérée comme le graal de la recherche en intelligence artificielle, car elle représente un niveau de performance et de polyvalence supérieur à celui des systèmes actuels, qui sont spécialisés dans des tâches spécifiques. L’IAG pourrait avoir des applications révolutionnaires dans de nombreux domaines, tels que la santé, l’éducation, l’environnement ou encore le divertissement.
Cependant, l’IAG pose aussi des défis de plusieurs ordres, car elle pourrait avoir des conséquences imprévisibles sur la société et sur les droits humains. Certains experts craignent que l’IAG ne devienne incontrôlable, voire hostile, à l’égard de l’humanité. C’est pourquoi des experts estiment qu'il est essentiel de définir des principes et des normes pour encadrer le développement et l’utilisation de l’IAG, ainsi que de garantir sa transparence et sa responsabilité.
Meta entre officiellement dans la course à l'IAG
La mission déclarée d'OpenAI est de créer cette intelligence générale artificielle. Demis Hassabis, qui dirige les efforts de Google en matière d'IA, poursuit le même objectif.
Désormais, Mark Zuckerberg, PDG de Meta, est entré dans la course. Bien qu'il ne dispose pas d'un calendrier pour la réalisation de l'IAG, ni même d'une définition exacte de celle-ci, il affirme vouloir la construire.
Meta, qui a récemment changé de nom pour refléter sa vision du métavers, un univers virtuel partagé, a déjà une expérience reconnue dans le domaine de l’intelligence artificielle. La société dispose de deux grands groupes de recherche en IA : FAIR (Facebook AI Research) et GenAI (Generative AI). FAIR se concentre sur la recherche fondamentale et exploratoire, tandis que GenAI se charge de développer des produits basés sur l’IA générative, qui permet de créer du contenu à partir de données, comme du texte, des images, du son ou du code.
Zuckerberg a décidé de rapprocher ces deux groupes au sein d’une même entité, baptisée Meta AI, afin de favoriser la collaboration et la synergie entre les chercheurs et les ingénieurs. L'objectif est que les percées de Meta en matière d'IA atteignent plus directement ses milliards d'utilisateurs. L’ambition de Meta AI est de construire une IAG à la pointe de l’art, en utilisant les ressources et les infrastructures dont dispose Meta, notamment son immense parc de GPU (unités de traitement graphique), qui sont les puces de choix pour construire l’IA générative.
Mais Meta ne veut pas garder son IAG pour elle seule. Zuckerberg a affirmé que son intention était de rendre son IAG open source, c’est-à-dire de partager son code source et ses modèles avec la communauté scientifique et le public, dans le respect des règles éthiques et juridiques. Selon lui, cela permettrait d’accélérer les progrès de l’IA, de stimuler l’innovation et de démocratiser l’accès à cette technologie. Il a également souligné que Meta continuerait à soutenir les initiatives visant à promouvoir une IA éthique, responsable et inclusive.
Envoyé par Mark Zuckerberg
Quelques mises à jour sur nos efforts en matière d'intelligence artificielle. Notre vision à long terme est de construire une intelligence générale, de la mettre en open source de manière responsable et de la rendre largement disponible pour que tout le monde puisse en bénéficier. Pour ce faire, nous rapprochons nos deux principaux projets de recherche en IA (FAIR et GenAI). Nous entraînons actuellement notre modèle de nouvelle génération, le Llama 3, et nous construisons une infrastructure de calcul massive pour soutenir notre future feuille de route, y compris 350 000 H100 d'ici la fin de l'année - et au total près de 600 000 équivalents H100 de calcul si l'on inclut d'autres GPU. Nous sommes également très enthousiastes quant à nos progrès dans la construction de nouveaux dispositifs informatiques centrés sur l'IA, tels que les lunettes intelligentes Ray Ban Meta. Beaucoup d'autres choses à venir prochainement.
Comment Meta en est arrivé à se poser un tel objectif ?
Mark Zuckerberg a expliqué dans un entretien « Nous sommes arrivés à la conclusion que, pour construire les produits que nous voulons construire, nous devons construire pour l'intelligence générale ». Et de continuer en disant « Je pense qu'il est important de le faire savoir parce que beaucoup des meilleurs chercheurs veulent travailler sur des problèmes plus ambitieux ».
La bataille pour les talents de l'IA n'a jamais été aussi féroce, toutes les entreprises du secteur se disputant un bassin extrêmement restreint de chercheurs et d'ingénieurs. Aux États-Unis, ceux qui possèdent l'expertise nécessaire peuvent obtenir des rémunérations mirobolantes, de l'ordre de plus d'un million de dollars par an. Des PDG comme Mark Zuckerberg sont régulièrement sollicités pour tenter de convaincre une recrue clé ou d'empêcher un chercheur de partir chez un concurrent.
« Nous sommes habitués à des guerres de talents très intenses », explique-t-il. « Mais la dynamique est différente ici, avec plusieurs entreprises qui recherchent le même profil, [et] beaucoup de sociétés de capital-risque et de personnes qui injectent de l'argent dans différents projets, ce qui permet aux gens de se lancer facilement dans des projets différents en dehors de l'entreprise ».
Après le talent, la ressource la plus rare dans le domaine de l'IA est la puissance de calcul nécessaire pour former et faire fonctionner de grands modèles. À ce sujet, Mark Zuckerberg est prêt à faire preuve de souplesse. Il a expliqué que, d'ici à la fin de l'année, Meta possédera plus de 340 000 GPU H100 de Nvidia - la puce de choix de l'industrie pour construire l'IA générative.
Des recherches externes ont évalué les livraisons de H100 de Meta pour 2023 à 150 000, un chiffre qui n'est égalé que par les livraisons de Microsoft et qui est au moins trois fois plus important que celui de tous les autres. Si l'on tient compte des Nvidia A100 et des autres puces d'IA, Meta disposera d'un stock de près de 600 000 GPU d'ici à la fin 2024, selon Zuckerberg.
« Nous avons développé la capacité de le faire à une échelle qui pourrait être plus grande que n'importe quelle autre entreprise individuelle », dit-il. « Je pense que beaucoup de gens ne l'apprécient pas ».
En route vers Llama 3
Comme l'explique Zuckerberg, la nouvelle orientation plus large de Meta vers l'IAG a été influencée par la sortie, l'année dernière, de Llama 2, son dernier grand modèle de langage. L'entreprise ne pensait pas que la capacité de ce modèle à générer du code correspondait à la manière dont les utilisateurs se serviraient d'un LLM dans les applications de Meta. Mais il s'agit d'une compétence importante à développer pour construire une IA plus intelligente, et Meta l'a donc tout de même créée.
« L'une des hypothèses était que le codage n'était pas si important, car il n'y a pas beaucoup de gens qui vont poser des questions sur le codage dans WhatsApp », explique-t-il. « Il s'avère que le codage est en fait très important d'un point de vue structurel pour que les LLM puissent comprendre la rigueur et la structure hiérarchique de la connaissance, et qu'ils aient en général un sens plus intuitif de la logique ».
Meta forme actuellement le Llama 3, qui sera capable de générer du code. À l'instar du nouveau modèle Gemini de Google, l'accent est également mis sur des capacités de raisonnement et de planification plus avancées.
« Le Llama 2 n'était pas un modèle de pointe, mais c'était le meilleur modèle à code source ouvert », explique-t-il. « Avec Llama 3 et les suivants, notre ambition est de construire des objets qui soient à la pointe de la technologie et, à terme, les meilleurs modèles de l'industrie ».
Quelles sont les réactions et les perspectives ?
L’annonce de Meta a suscité des réactions contrastées dans le monde de l’IA. Certains ont salué la vision et le courage de Zuckerberg, qui se lance dans un projet ambitieux et audacieux, tout en affichant sa volonté de coopération et de transparence. D’autres ont exprimé leur scepticisme, voire leur méfiance, envers les motivations et les intentions réelles de Meta, qui pourrait chercher à renforcer sa position dominante et à influencer les normes de l’IA à son avantage. Certains ont également mis en doute la faisabilité et la crédibilité du projet, en soulignant les difficultés techniques et les incertitudes conceptuelles liées à la définition et à la mesure de l’IAG.
Quoi qu’il en soit, le projet de Meta est un signe de l’intérêt croissant et de la compétition intense que suscite l’IAG, tant au niveau des entreprises que des États. D’autres acteurs majeurs de l’IA, comme Google, Microsoft ou OpenAI, ont également affiché leur ambition de créer et de maîtriser l’IAG, avec des approches et des stratégies différentes. L’enjeu est de taille, car l’IAG pourrait être une source de progrès et de bien-être pour l’humanité, mais aussi un facteur de risques et de conflits. C’est pourquoi il est indispensable de développer une IA qui soit alignée sur les valeurs et les intérêts humains, et qui respecte les droits et la dignité de tous.
C'est en tout cas ce que croit OpenAI et ce qui a motivé la création d'une équipe de superalignement, son initiative interne de l’entreprise dédiée à empêcher une superintelligence de devenir incontrôlable.
Le projet de superalignement, dirigé par le co-fondateur et scientifique en chef de OpenAI, Ilya Sutskever, et le chercheur principal Jan Leike, se déroulera sur quatre ans et utilisera environ un cinquième de la capacité de calcul actuelle de OpenAI. Il s’articulera autour de trois étapes :
- Développer une compréhension de la façon dont l’IA analyse d’autres IA sans interaction humaine
- Utiliser l’IA pour rechercher les zones problématiques ou les failles
- Créer une IA capable de résoudre les problèmes d’alignement de manière autonome
En décembre, OpenAI a présenté des premiers résultats mitigés : comme premier pas pour atteindre son objectif, l'entreprise s'est servi d'une IA « plus stupide » pour entraîner et contenir l’IA la plus « intelligente ».
Source : Mark Zuckerberg (vidéo sur Facebook)
Et vous ?
Quelle est votre opinion sur le projet de Meta de créer et de partager une IAG ? Pensez-vous que l’IAG soit une opportunité ou une menace pour l’humanité ? Quels sont les principes et les normes que vous jugez indispensables pour encadrer le développement et l’utilisation de l’IAG ? Quels sont les domaines ou les applications qui vous intéressent le plus ou le moins en matière d’IAG ?