Un cadre de classification des modèles d’intelligence générale artificielle (AGI) et de leurs précurseurs a été proposé par des chercheurs de Google DeepMind. Ce cadre définit des niveaux de performance, de généralité et d’autonomie de l’AGI. Ils suggèrent des principes tels que se focaliser sur les capacités plutôt que sur les mécanismes, évaluer la performance et la généralité de manière indépendante, et identifier les étapes vers l’AGI, plutôt que de viser le point final. Les chercheurs de Google DeepMind ont ensuite défini des « niveaux d’AGI » basés sur la performance et la généralité des capacités, et ont examiné comment les systèmes actuels se situent dans cette ontologie.« Nous discutons des exigences ambitieuses pour les futurs benchmarks qui quantifient le comportement et les capacités des modèles d'AGI par rapport à ces niveaux. Enfin, nous examinons comment ces niveaux d'AGI interagissent avec les considérations de déploiement telles que l'autonomie et le risque, et nous soulignons l'importance de sélectionner avec soin les paradigmes d'interaction homme-IA pour un déploiement responsable et sûr de systèmes d'IA hautement performants », Google DeepMind.
L'intelligence artificielle générale est un concept important et parfois controversé de la recherche informatique, utilisé pour décrire un système d'IA qui est au moins aussi capable qu'un être humain dans la plupart des tâches. Compte tenu des progrès rapides des modèles d'apprentissage machine (ML), le concept d'AGI est passé de l'objet d'un débat philosophique à un concept d'une pertinence pratique proche du terme.
Certains experts estiment que des "étincelles" d'AGI sont déjà présentes dans la dernière génération de modèles de langage étendu (LLM) ; d'autres prédisent que les AGI dépasseront largement les humains d'ici une dizaine d'années ; certains affirment même que les LLM actuels sont des AGI. Toutefois, si vous demandiez à 100 experts en AGI de définir ce qu'ils entendent par "AGI", vous obtiendriez probablement 100 définitions apparentées, mais différentes.
Une IA de niveau humain serait une machine, ou un réseau de machines, capable d'effectuer la même gamme de tâches que celles dont nous sommes capables. Il s'agirait d'une machine « capable d'apprendre à faire tout ce qu'un humain peut faire », comme le disent Norvig et Russell dans leur manuel sur l'IA. Elle serait capable de choisir les actions qui lui permettent d'atteindre ses objectifs et de les exécuter. Elle serait capable de faire le travail d'un traducteur, d'un médecin, d'un illustrateur, d'un enseignant, d'un thérapeute, d'un chauffeur, ou le travail d'un investisseur.
Selon le PDG de Google Deepmind, « Il est possible d’atteindre une forme d’intelligence artificielle au niveau humain dans une décennie », ce qui donnerait aux machines un « sens commun. » À ce stade d’intelligence artificielle générale, elles seraient capables de raisonnement causal, c’est-à-dire de cette aptitude à réfléchir sur « la raison pour laquelle les choses se passent. »
Il existe des hypothèses selon lesquelles les systèmes d’AGI auraient la capacité de percevoir et d’agir, de se procurer des ressources, de poursuivre des buts, de se montrer autonomes, de surpasser les humains dans divers domaines, de les écarter de positions importantes et/ou de se perfectionner continuellement. Selon Google DeepMind, les chercheurs en IA devraient se poser clairement la question de la signification de “AGI” et essayer de mesurer les caractéristiques liées à l’efficacité, à la polyvalence et à l’indépendance des systèmes d’IA.
Classification des modèles d’AGI basé sur la performance et la généralité
Les chercheurs de Google DeepMind ont analysé neuf cas de projets expérimentaux et exposé leurs atouts et leurs faiblesses. Voici, ci-dessous, quelques-uns de ces exemples :
Le test de Turing est sans doute la tentative la plus connue d'opérationnalisation d'un concept similaire à celui de l'AGI. Le « jeu d'imitation » de Turing a été conçu pour répondre à la question de savoir si les machines pouvaient penser et pour demander à un humain de distinguer de manière interactive si le texte est produit par un autre humain ou par une machine. Le test, tel qu'il a été conçu à l'origine, est une expérience de pensée et fait l'objet de nombreuses ; dans la pratique, le test met souvent en évidence la façon dont les gens sont dupés plutôt que l' « intelligence » de la machine.
Étant donné que les MLL modernes comportent certains éléments du test de Turing, il semble logique que ce critère soit suffisant pour l'opérationnalisation et l'étalonnage de l'AGI. « Nous sommes d'accord avec Turing pour dire que la question de savoir si une machine peut "penser", tout en étant une question philosophique et scientifique intéressante, semble distincte de la question de savoir ce que fait la machine ; cette dernière est beaucoup plus directe à mesurer et plus importante pour évaluer les impacts. Nous proposons donc que l'IAG soit définie en termes de capacités plutôt qu'en termes de processus. », indiquent les chercheurs.
D’après le philosophe John Searle, « l’IA forte affirme que l’ordinateur n’est pas seulement un instrument pour analyser l’esprit ; au contraire, l’ordinateur correctement programmé est véritablement l’esprit, c’est-à-dire que les ordinateurs possèdent un système de contrôle de la conscience et un système de contrôle de l’esprit. Les ordinateurs, s’ils sont bien programmés, peuvent réellement comprendre et éprouver d’autres états cognitifs ».
Bien que l'IA forte puisse être un moyen d'atteindre l'AGI, il n'existe pas de consensus scientifique sur les méthodes permettant de déterminer si les machines possèdent des attributs d'IA forts tels que la conscience, ce qui rend impraticable l'accent mis sur le processus dans ce cadre.
Analogie avec le cerveau humain. L'expression « intelligence générale artificielle » a été utilisée pour la première fois en 1997 dans un article de Mark Gubrud sur les technologies militaires, qui définissait l'IAG comme « des systèmes d'IA qui rivalisent en complexité et en vitesse avec le cerveau humain, qui peuvent acquérir, manipuler et raisonner avec des connaissances générales, et qui sont utilisables dans toutes les phases des opérations industrielles ou militaires où l'intelligence humaine serait par ailleurs nécessaire ».
Cette définition précoce met l'accent sur les processus (rivalisant avec le cerveau humain en termes de complexité) plutôt que sur les capacités ; alors que les architectures de réseaux neuronaux qui sous-tendent les systèmesML modernes sont vaguement inspirées du cerveau humain, le succès des architectures basées sur des transformateurs dont les performances ne dépendent pas d'un apprentissage semblable à celui de l'homme suggère que les processus et les points de référence basés sur le cerveau strict ne sont pas intrinsèquement nécessaires pour l'AGI.
Analogie avec le cerveau humain
L'expression « intelligence générale artificielle » a été utilisée pour la première fois en 1997 dans un article de Mark Gubrud sur les technologies militaires, qui définissait l'AGI comme « des systèmes d'IA qui rivalisent en complexité et en vitesse avec le cerveau humain, qui peuvent acquérir, manipuler et raisonner avec des connaissances générales, et qui sont utilisables dans toutes les phases des opérations industrielles ou militaires où l'intelligence humaine serait par ailleurs nécessaire ».
Cette définition précoce met l'accent sur les processus (rivalisant avec le cerveau humain en termes de complexité) plutôt que sur les capacités ; alors que les architectures de réseaux neuronaux qui sous-tendent les systèmes ML modernes sont vaguement inspirées du cerveau humain. En réfléchissant aux exemples de formulation de l'AG (ou des concepts adjacents de l'IAG), les chercheurs ont identifié les propriétés et les points communs qui, selon eux, contribuent à une définition claire et opérationnelle de l'AGI :
L'accent est mis sur les capacités et non sur les processus
La majorité des définitions se concentrent sur ce qu'une AGI peut accomplir et non sur le mécanisme par lequel elle accomplit les tâches. Ceci est important pour identifier les caractéristiques qui ne sont pas nécessairement indispensables à la réalisation d'une AGI (mais qui peuvent néanmoins constituer des sujets de recherche intéressants). Cette focalisation sur les capacités permet d'exclure les éléments suivants des exigences en matière d'AGI :
- la réalisation de l'AGI n'implique pas que les systèmes pensent ou comprennent de manière humaine (puisqu'elle se concentre sur les processus et non sur les capacités) ;
- la réalisation de l'AGI ne signifie pas que les systèmes présentent des inégalités telles que la conscience (conscience subjective) ou la sensibilité (capacité à éprouver des sentiments) (car ces conséquences sont non seulement axées sur les processus, mais ne sont pas actuellement mesurables par des méthodes scientifiques convenues).
Toutes les définitions précédentes mettent l'accent sur la généralité à des degrés divers, mais certaines excluent les critères de performance. Les chercheurs de Google DeepMind estiment que la généralité et la performance sont toutes deux des composantes essentielles de l'AGI. Voici, ci-dessous, la liste de niveaux de l'AGI publié par les chercheurs de Google DeepMind :
Les systèmes présentés dans chaque cellule sont des estimations fondées sur les descriptions existantes dans les publications ou sur les expériences d’interaction avec des systèmes en fonctionnement. Pour classer les systèmes d’IA de manière claire, il faudra un étalonnage normalisé des tâches.
Les chercheurs de Google DeepMind ont exploré des définitions originales de l’AGI, en mettant en évidence les avantages et les inconvénients. Sur la base de cette exploration, ils ont proposé les principes qu’ils jugent essentiels à une définition nette et pratique de l’AGI : se focaliser sur les compétences, et non sur les mécanismes ; se focaliser sur la généralité et la performance ; se focaliser sur les tâches cognitives et métacognitives (plutôt que physiques) ; se focaliser sur le potentiel plutôt que sur la mise en œuvre ; se focaliser sur la validité écologique pour les tâches de référence ; et se focaliser sur le parcours vers l’AGI plutôt que sur la destination.
Par ailleurs, les chercheurs ont discuté des conséquences des principes pour le développement d’une référence dynamique et écologiquement pertinente en matière d’AGI, et ils ont soutenu que cette approche (bien qu’elle puisse être ardue) est cruciale pour la mobilisation de la communauté.
La conclusion des chercheurs de Google DeepMind sur l’intelligence artificielle générale (AGI) est qu’elle est possible et proche, et qu’il faut la développer de manière responsable et éthique. Cependant, il convient de relever que :
L’AGI est un objectif ambitieux et fascinant, mais aussi très incertain et risqué. Il n’existe pas de définition claire et universelle de ce qu’est l’AGI, ni de critère objectif pour la mesurer ou la reconnaître. Il est donc difficile de prédire quand et comment elle sera atteinte, et quelles seront ses capacités et ses limites. L’AGI pose des défis techniques, mais aussi philosophiques, sociaux et éthiques. Il faut se demander quel est le but de l’AGI, quelles sont ses valeurs et ses motivations, comment elle interagit avec les humains et les autres formes de vie, comment elle apprend et se souvient, comment elle s’adapte et se corrige, comment elle est contrôlée et régulée, etc.
En fin, l’AGI doit être développé de manière responsable et éthique, en respectant les principes de transparence, de sécurité, de fiabilité, de justice, de diversité, de respect, de coopération, de durabilité, etc. Il faut aussi impliquer les parties prenantes, les experts, les citoyens, les régulateurs, les organisations internationales, etc. dans le processus de conception, de développement, de déploiement et de gouvernance de l’AGI.
Source : Google DeepMind
Et vous ?
À votre avis, la conclusion des chercheurs de Google DeepMind est-elle pertinente ? Quels sont selon vous, les principes et les normes éthiques qui doivent guider le développement et l’utilisation de l’AGI ? Quels sont les risques et les bénéfices potentiels de l’AGI pour l’humanité et l’environnement ? Quels sont les cadres juridiques et institutionnels qui doivent réguler et contrôler l’AGI ? Comment assurer la transparence, la responsabilité, la fiabilité et la sécurité de l’AGI ? Comment prévenir et résoudre les conflits et les abus liés à l’AGI ?Voir aussi :
L'atteinte d'une forme d'IA de niveau humain est-elle plus rapide que prévu ? Il y aurait une chance sur deux pour qu'une « AGI » soit conçue, testée et annoncée publiquement d'ici 2040 L'AGI serait déjà présente, « les modèles d'IA tels que ChatGPT, Bard, LLaMA et Claude ont franchi un seuil que les générations précédentes d'IA n'ont jamais atteint», selon des chercheurs L'intelligence générale artificielle (AGI), qui surpasse l'intelligence humaine dans presque tous les domaines, verrait le jour d'ici 10 ans a déclaré Masayoshi Son, PDG de SoftBank « L'atteinte d'une forme d'intelligence artificielle de niveau humain (AGI) est possible dans une décennie », d'après le PDG de Google Deepmind, pour le développement responsable des systèmes d'IA 
Envoyé par Mathis Lucas
