James Betker, ingénieur chez OpenAI, estime que la création d'un agent incarné généralement intelligent (AGI) pourrait être réalisée en 3 ans, en contraste avec les prédictions plus conservatrices du PDG de Google DeepMind, qui anticipe une décennie, et de Shane Legg, cofondateur de DeepMind, qui évalue à 50 % la probabilité d'atteindre l'AGI d'ici 2028. Selon Betker, l'AGI doit être capable d'interagir avec un environnement complexe, de posséder un modèle robuste du monde et d'effectuer une introspection approfondie. Sam Altman, PDG d'OpenAI, minimise néanmoins les craintes d'un impact radical de l'IA, affirmant que l'AGI aura un effet moins perturbateur que prévu.L'intelligence artificielle générale est un concept théorique d'un système d'IA aux capacités comparables à celles de l'homme. Pour atteindre ce niveau, l'IA doit exceller dans divers domaines, tels que la perception sensorielle (vue, ouïe, toucher, etc.), la motricité fine, le traitement du langage naturel, la résolution de problèmes, la navigation, la créativité, l'engagement social et émotionnel, et possiblement le bon sens. Les prévisions optimistes suggèrent que l'AGI pourrait être atteinte dans les cinq à dix prochaines années, mais certains experts estiment que cela pourrait prendre des décennies, voire des siècles.
L'atteinte de l'AGI représente un défi majeur. De plus en plus de chercheurs soutiennent que l'industrie doit revoir son approche pour y parvenir. Ils préconisent une méthode où les agents artificiels ajustent leurs réseaux neuronaux en réponse aux interactions avec leur corps et leur environnement, apprenant ainsi à naviguer dans leur milieu. Selon ces experts, cette approche est essentielle pour progresser vers l'AGI et doit être intégrée aux avancées actuelles de l'IA, notamment les grands modèles de langage.
Pour Betker, l'intelligence générale implique trois capacités essentielles : interagir avec un environnement complexe (incarnation), posséder un modèle robuste du monde pour des déductions rapides (intuition ou pensée rapide), et mener une introspection approfondie (raisonnement ou pensée lente). Un agent AGI doit avoir des objectifs et utiliser ces capacités pour imaginer, planifier et agir, tout en ajustant ses actions en fonction des résultats observés. L'agent doit pouvoir répéter ce cycle de manière cohérente sur le long terme pour optimiser ses objectifs, où l'adaptabilité et la cohérence sont cruciales.
Perspectives et développements de l'AGI
Sam Altman, PDG d'OpenAI, estime que les craintes d'une perturbation radicale du monde par l'IA sont exagérées, affirmant que l'AGI aura un impact moindre que prévu. En revanche, le PDG de Google DeepMind anticipe une intelligence artificielle de niveau humain dans une décennie. Shane Legg, cofondateur de DeepMind, évalue à 50 % la probabilité d'atteindre l'AGI d'ici 2028, suggérant d'identifier les tâches cognitives manquantes ou de créer de nouvelles références pour évaluer l'AGI. Lors de la conférence SoftBank World, Masayoshi Son a déclaré que l'AGI, surpassant l'intelligence humaine dans presque tous les domaines, pourrait voir le jour d'ici dix ans, soulignant les progrès rapides de l'IA générative. Une étude prévoit l'AGI autour de 2041, avec une possible date dès 2028, et souligne son risque existentiel potentiel pour l'humanité.
James Betker explique que les modèles mondiaux autorégressifs, tels que les omnimodèles, se développent et deviennent de plus en plus robustes grâce aux investissements. Il estime que ces modèles actuels sont suffisants pour créer un agent généralement intelligent, mettant en avant l'importance de l'interaction entre la pensée du système 2 et l'observation du monde réel pour améliorer leur robustesse. Betker est convaincu que la pensée du système 2 est réalisable avec les transformateurs et les ressources actuelles, et prévoit que cela prendra 2 à 3 ans. En ce qui concerne l'incarnation, il anticipe des progrès significatifs dans 1 à 2 ans grâce à la convergence des avancées en robotique et en IA. En intégrant ces progrès, il estime qu'il faudra 1 à 2 ans supplémentaires pour développer un cycle complet d'actions et d'apprentissages cohérents.
Le système 1 est un processus cognitif qui fonctionne de manière automatique, involontaire, intuitive, rapide et avec peu d'effort. C'est le mode de raisonnement par défaut, car il consomme moins d'énergie. Ce système est également à l'origine de la créativité, grâce aux multiples associations intuitives qu'il réalise. Par exemple, il permet aux individus de reconnaître instantanément la colère sur le visage d'une personne.
En revanche, le système 2, souvent à tort associé principalement à la pensée consciente, requiert de la concentration et de l'attention. Il est sollicité pour résoudre des problèmes complexes grâce à son approche analytique, bien qu'il soit plus lent que le premier. Ce processus intervient lorsque le premier est confronté à une situation nouvelle qu'il ne peut résoudre. Par exemple, il permet aux individus de remplir leur déclaration d'impôts.
James Betker adopte une perspective optimiste par rapport aux estimations plus prudentes de Google DeepMind. Il croit que l'intégration des avancées en robotique et en intelligence artificielle, en particulier les modèles autorégressifs et omnimodèles, est suffisante pour créer une intelligence artificielle générale capable d'interagir avec un environnement complexe, de développer une compréhension robuste du monde et d'effectuer une introspection approfondie.
Cependant, cette perspective semble sous-estimer les défis inhérents à la réalisation d'une véritable AGI. Le développement de la « pensée du système 2 », qui implique des processus déductifs et introspectifs complexes, reste un défi majeur. Bien que les technologies actuelles aient fait des progrès significatifs, elles ne sont pas encore capables de reproduire pleinement les capacités cognitives humaines. La pensée du système 2 nécessite non seulement une compréhension profonde et une modélisation des interactions complexes, mais aussi la capacité de réutiliser et d'adapter ces modèles de manière flexible et cohérente sur de longues périodes.
De plus, l'incarnation, ou la capacité des IA à interagir physiquement avec le monde, pose des défis techniques et éthiques considérables. Les avancées en robotique sont prometteuses, mais elles doivent être intégrées de manière cohérente avec les capacités cognitives de l'IA pour permettre une véritable AGI. Cette intégration nécessite non seulement des progrès technologiques, mais aussi une compréhension approfondie des interactions entre les différents composants de l'IA et de leur environnement.
Sam Altman, PDG d'OpenAI, souligne que l'impact de l'AGI sur le monde et les emplois pourrait être moins radical que prévu, ce qui suggère une approche plus prudente et mesurée. Cette perspective appelle à un équilibre entre l'optimisme et le réalisme, en reconnaissant les progrès réalisés tout en restant conscient des obstacles à surmonter.
En conclusion, bien que l'optimisme de Betker soit motivant, il est crucial de maintenir une perspective équilibrée et de reconnaître les défis techniques, conceptuels et éthiques qui demeurent. L'atteinte de l'AGI est un objectif ambitieux qui nécessitera une collaboration continue et une approche multidisciplinaire pour être réalisé de manière sûre et éthique.
Source : James Betker, OpenAI engineer, in a post
Et vous
Quel est votre avis sur ce sujet ? L'analyse de James Betker est-elle pertinente ?Voir aussi :
L'un des fondateurs de DeepMind pense qu'il y a une probabilité de 50 % que l'AGI existe d'ici 2028, certains estiment qu'il y a des chances que, l'AGI prenne le contrôle de l'humanité et la détruise L'intelligence générale artificielle (AGI), qui surpasse l'intelligence humaine dans presque tous les domaines, verrait le jour d'ici 10 ans, a déclaré Masayoshi Son, PDG de SoftBank L'atteinte d'une forme d'IA de niveau humain est-elle plus rapide que prévu ? Il y aurait une chance sur deux pour qu'une « AGI » soit conçue, testée et annoncée publiquement d'ici 2040 
Envoyé par calvaire
