La conscience dans l'intelligence artificielle : aperçu de la science de la conscience,

Une étude interdisciplinaire menée par des universitaires de Toulouse et d'ailleurs

La question de savoir si les systèmes d'IA actuels ou à venir pourraient être conscients est un sujet d'intérêt scientifique qui préoccupe de plus en plus le public. Le présent rapport préconise et illustre une approche rigoureuse et empirique de la conscience de l'IA : il s'agit d'évaluer en détail les systèmes d'IA existants à la lumière des théories neuroscientifiques de la conscience les mieux étayées. Les chercheurs de plusieurs universités donc l’Université de Toulouse, l’Université d'Oxford, l’Université de Montréal, l’Université du Sussex examinent plusieurs théories scientifiques importantes de la conscience, notamment la théorie du traitement récurrent, la théorie de l'espace de travail global, les théories d'ordre supérieur, le traitement prédictif et la théorie des schémas d'attention.

De ces théories, les chercheurs tirent des « propriétés indicatrices » de la conscience, élucidées en termes informatiques qui permettent d'évaluer les systèmes d'intelligence artificielle en fonction de ces propriétés. Nous utilisons ces propriétés indicatives pour évaluer plusieurs systèmes d'IA récents, et nous discutons de la manière dont les systèmes futurs pourraient les mettre en œuvre. L’analyse suggère qu'aucun système d'IA actuel n'est conscient, mais aussi qu'il n'y a pas d'obstacles techniques évidents à la construction de systèmes d'IA qui satisfont à ces indicateurs.


Au cours de la dernière décennie, les progrès spectaculaires de l'intelligence artificielle (IA) ont ravivé l'intérêt pour des questions profondes et anciennes sur l'IA, notamment la question de savoir si les systèmes d'IA pourraient être conscients. La question de savoir si les systèmes d'IA pourraient être conscients est de plus en plus pressante. Les progrès dans le domaine de l'IA ont été étonnamment rapides et les principaux chercheurs s'inspirent des fonctions associées à la conscience dans le cerveau humain pour tenter d'améliorer les capacités de l'IA.

Le rapport des chercheurs plaide en faveur d'une approche rigoureuse et empirique de la conscience de l'IA, en évaluant les systèmes d'IA existants dans le détail, à la lumière des théories neuroscientifiques de la conscience les mieux étayées. Les chercheurs ont étudié plusieurs grandes théories scientifiques de la conscience, notamment la théorie du traitement récurrent, la théorie de l'espace de travail global, les théories de l'ordre supérieur, le traitement prédictif et la théorie du schéma d'attention.

De ces théories découlent des « propriétés indicatrices » de la conscience, élucidées en termes informatiques, qui permettent d'évaluer les systèmes d'IA en fonction de ces propriétés. Les chercheurs utilisent ces propriétés indicatrices pour évaluer plusieurs systèmes d'IA récents. L’analyse des chercheurs suggère qu'aucun système d'IA actuel n'est conscient, mais qu'il n'y a pas d'obstacles techniques évidents à la construction de systèmes d'IA satisfaisant à ces indicateurs.

• Premièrement, les chercheurs adoptent comme hypothèse de travail le fonctionnalisme informatique, c'est-à-dire la thèse selon laquelle il est nécessaire et suffisant d'effectuer des calculs de la bonne nature pour avoir une conscience. Nous adoptons cette hypothèse pour des raisons pragmatiques : contrairement aux points de vue rivaux, elle implique que la conscience dans l'IA est possible en principe et que l'étude du fonctionnement des systèmes d'IA est pertinente pour déterminer s'ils sont susceptibles d'être conscients ;
• Deuxièmement, les chercheurs affirment que les théories neuroscientifiques de la conscience bénéficient d'un soutien empirique significatif et peuvent aider à évaluer la conscience dans l'IA. Ces théories visent à identifier les fonctions qui sont nécessaires et suffisantes pour la conscience chez les humains, et le fonctionnalisme informatique implique que des fonctions similaires seraient suffisantes pour la conscience dans l'IA ;
• Troisièmement, les chercheurs pensent que l'approche fondée sur la théorie de la force est la plus appropriée pour étudier la conscience dans l'IA. Il s'agit d'examiner si les systèmes d'IA exécutent des fonctions similaires à celles que les théories scientifiques associent à la conscience, puis d'attribuer des crédits sur la base (a) de la similarité des fonctions, (b) de la force des preuves en faveur des théories en question et (c) de l'expérience en matière de fonctionnalisme computationnel.

La principale alternative à cette approche consiste à tester la conscience par le comportement des souris, mais cette méthode n'est pas fiable car les systèmes d'IA peuvent être entraînés à imiter des comportements humains tout en fonctionnant de manière très différente. La conscience étant un sujet philosophiquement complexe, difficile à définir et à étudier empiriquement, les opinions des experts sur la conscience - en général, et sur les systèmes d'IA - sont très divergentes. Il existe des théories scientifiques de la conscience qui bénéficient d'un soutien empirique significatif et qui sont compatibles avec un large éventail de points de vue sur la métaphysique de la conscience.

Bien que ces théories soient largement fondées sur la recherche sur les humains, elles font des déclarations sur les propriétés et les fonctions associées à la conscience qui sont applicables aux systèmes d'IA. Les chercheurs affirment que l'utilisation des outils offerts par ces théories est la meilleure méthode actuellement disponible pour évaluer si les systèmes d'IA sont susceptibles d'être conscients.

Fonctionnalisme informatique

Selon le fonctionnalisme de la conscience, il est nécessaire et suffisant pour qu'un système soit conscient d'avoir une certaine organisation fonctionnelle, c'est-à-dire de pouvoir centrer une certaine gamme d'états, qui ont une certaine relation causale les uns avec les autres et avec l'environnement. Le fonctionnalisme informatique est une variante du fonctionnalisme qui affirme en outre que l'organisation fonctionnelle en question est informatique.

Les systèmes qui effectuent des calculs traitent l'information en mettant en œuvre des algorithmes ; le fonctionnalisme computationnel affirme qu'il est suffisant pour que l'organisme soit conscient qu'il joue un rôle du bon type dans la mise en œuvre du bon type d'algorithme. Pour qu'un système mette en œuvre un algorithme particulier, il doit avoir un ensemble de caractéristiques à un certain niveau d'abstraction : en particulier, une gamme d'états porteurs d'information possibles et une disposition particulière à effectuer des transitions entre ces états.

L'algorithme mis en œuvre par un système est une spécification abstraite des transitions entre les états, y compris les entrées et les sorties, qu'il est disposé à effectuer. Par exemple, une calculatrice de poche met en œuvre un algorithme particulier pour l'arithmétique parce qu'elle génère des transitions entre les touches et les résultats à l'écran en passant par des séquences particulières d'états internes.

Un point important du fonctionnalisme informatique est donc que le caractère conscient ou non d'un système dépend de caractéristiques plus abstraites que les détails les plus bas de sa composition physique. Le substrat matériel d'un système n'a pas d'importance pour la conscience, sauf dans la mesure où ce substrat affecte les algorithmes que le système met en œuvre. Cela signifie que la conscience est, en principe, multiréalisable : elle peut exister dans de multiples substrats, et pas seulement dans les cerveaux biologiques.

Cela dit, le fonctionnalisme computationnel n'implique pas qu'un substrat quelconque puisse être utilisé pour construire un système conscient. Comme l'a dit Micheland Lau, « les Suisses ne peuvent pas mettre en œuvre les calculs pertinents ». Les chercheurs supposent donc que les ordinateurs tels que nous les connaissons sont en principe capables de mettre en œuvre des algorithmes suffisants pour la conscience, mais ils ne prétendent pas que c'est une certitude.

Il est également important de noter que les systèmes qui calculent la même fonction mathématique peuvent agir en mettant en œuvre des algorithmes différents, car le fonctionnalisme informatique ne signifie pas que les...