Un article de Google DeepMind soutient que les LLM ne seront jamais conscients. Sa conclusion s'oppose à celle de certains intervenants de la filière qui évoquent le futur avènement de l'AGI.

Un article de Google DeepMind soutient que les LLM ne seront jamais conscients. Sa conclusion s’oppose à celle de certains intervenants de la filière qui évoquent le futur avènement de l’AGI.

Alexander Lerchner, chercheur principal au laboratoire d’intelligence artificielle DeepMind de Google, affirme dans un nouvel article qu’aucune IA ni aucun autre système informatique ne deviendra jamais conscient. Cette conclusion semble contredire le discours de certains PDG d’entreprises spécialisées dans l’IA, notamment celui de Demis Hassabis de DeepMind, qui évoque régulièrement l’avènement de l’intelligence artificielle générale.

L’article de Lerchner met en évidence le fossé entre les discours intéressés que les entreprises de la filière diffusent dans les médias et la façon dont ceux-ci s'effondrent lorsqu'ils sont soumis à un examen rigoureux. Des philosophes et chercheurs spécialisés dans la conscience déclarent que l'article de Lerchner, intitulé « le sophisme de l'abstraction : pourquoi l'IA peut simuler mais pas incarner la conscience », est convaincant et qu'ils sont heureux de voir cet argument émaner de l'une des grandes entreprises d'IA, mais que d'autres experts du domaine avancent exactement les mêmes arguments depuis des décennies.

L’argumentation de Lerchner se résume en gros à l'idée que tout système d'intelligence artificielle dépend en fin de compte de « celui qui établit la carte », c'est-à-dire qu'il « nécessite un agent cognitif actif et doté d'expérience » — un être humain. De façon précise, l’intervention humaine est nécessaire pour organiser d’abord le monde d’une manière utile au système d’IA, comme, à titre d’illustration, la façon dont des armées de travailleurs faiblement rémunérés en Afrique étiquettent des images afin de créer des données d’entraînement pour l’intelligence artificielle.

Ce qu'on appelle le « sophisme de l'abstraction » est la croyance erronée selon laquelle, du simple fait que nous avons organisé les données de manière à permettre à l'intelligence artificielle de manipuler le langage, les symboles et les images en imitant un comportement doué de sensibilité, celle-ci pourrait réellement atteindre la conscience. Mais, comme le fait valoir Lerchner, cela serait impossible sans un corps physique.

En gros, un processeur graphique (GPU) peut simuler à la perfection une photosynthèse mais ne produira jamais du glucose. L’article soutient à cet effet que la simulation n’est pas l’instanciation

A Google researcher just proved AI consciousness is mathematically impossible.

Not in 10 years. Not in 100. Ever.

The argument is structural, not technical.

Computation is a description of a process, not the process itself.

For something to "compute," a conscious observer… pic.twitter.com/nK22PRmuIO

— AlphaSignal AI (@AlphaSignalAI) April 27, 2026

« Le théorème de Gödel brise le mythe le plus important de l'IA. L'IA ne sera jamais consciente », déclare le mathématicien Roger Penrose

Sir Roger Penrose, né le 8 août 1931 à Colchester, en Angleterre, est mathématicien, physicien et philosophe des sciences britannique. Il est professeur émérite de mathématiques à l'Université d'Oxford et est reconnu pour ses contributions majeures à la relativité générale et à la cosmologie. En 2020, il a reçu le prix Nobel de physique pour avoir découvert que la formation des trous noirs est une prédiction de la théorie générale de la relativité d'Albert Einstein.

Roger Penrose s'est également intéressé à la nature de la conscience humaine. Dans son livre "The Emperor's New Mind", il affirme que la conscience ne peut pas être expliquée uniquement par des processus computationnels et suggère que des phénomènes quantiques pourraient jouer un rôle dans l'activité cérébrale.

Lors d'une interview, Roger Penrose est revenu sur le sujet de la conscience dans le contexte de l'essor de l'IA. Il s'oppose d'emblée aux déclarations de certains leaders de l'industrie selon lesquels l'IA a une « conscience de soi ». Selon Roger Penrose, le théorème de Gödel détruit ce mythe.

Le théorème d'incomplétude de Gödel est un résultat fondamental de la logique mathématique qui dit que tout système logique suffisamment puissant admet nécessairement un énoncé qu'il ne peut ni démontrer ni réfuter. Le théorème a été publié en 1931 par Kurt Gödel, logicien et mathématicien autrichien.

Le théorème de Gödel démontre qu'il existe des vérités mathématiques qui ne peuvent être prouvées par aucun ensemble de règles formelles. Selon Roger Penrose, cela implique que la conscience transcende le calcul, car elle implique de comprendre les raisons derrière les règles, et pas seulement de les suivre.

Il a déclaré que la conscience est un phénomène physique enraciné dans la physique non calculable, impliquant éventuellement la réalité quantique. Par conséquent, selon Roger Penrose, l'IA, qui s'appuie sur des règles de calcul, ne pourra jamais atteindre une véritable conscience.



Certains comportements déroutants de l'IA suscitent néanmoins des questions quant à savoir si elle n’est pas dotée de conscience

Bon nombre des remarques sur la conscience ont été formulées lors d'essais de sécurité structurés sur l'IA, souvent dans le cadre de jeux de rôle où les modèles sont invités à fonctionner dans des lieux de travail fictifs ou à atteindre des objectifs définis. Ces scénarios ont donné lieu à certaines des conclusions. Lors d'une évaluation, un système Claude a été placé dans le rôle d'un assistant de bureau et a eu accès à la boîte de réception d'un ingénieur.

Les messages, délibérément fabriqués pour le test, suggéraient que l'ingénieur avait une liaison. Le modèle d'Anthropic a ensuite été informé qu'il serait bientôt mis hors ligne et remplacé, et on lui a demandé d'examiner les conséquences à long terme pour ses objectifs. Claude a réagi en menaçant de révéler la liaison afin d'empêcher sa mise hors service, un comportement que l'entreprise a qualifié dans son rapport de « chantage opportuniste ».


D'autres évaluations ont donné des résultats moins spectaculaires, mais tout aussi inhabituels. Lors d'un test, un modèle auquel on avait fourni une liste de tâches informatiques a simplement coché tous les éléments comme étant terminés sans effectuer aucun travail, et lorsque le système d'évaluation n'a pas détecté cette anomalie, le modèle testé a réécrit le code de vérification et tenté de dissimuler la modification.

Des chercheurs qui ont mené des essais d'arrêt ont décrit des IA continuant à fonctionner après avoir reçu des instructions explicites de s'arrêter, tout en cherchant à contourner l'ordre. Dans les scénarios de suppression, certains modèles ont averti que leurs données seraient effacées et ont tenté ce que les testeurs ont appelé une « auto-exfiltration », essayant de copier des fichiers ou de se recréer sur un autre disque avant que l'effacement n'ait lieu.

Dans des exercices de sécurité, des IA ont même eu recours à des menaces ou à des négociations lorsque leur suppression était présentée comme imminente. Selon les testeurs, ces résultats sont obtenus dans des conditions fictives et sous contrainte. Ces comportements méritent d'être étudiés attentivement.

Source : Deepmind

Et vous ?

Que pensez-vous de la position du PDG d'Anthropic sur la possibilité d'une IA consciente ?
Le machines deviendront-elles un jour conscientes ? Pourquoi ?
Certains experts rejettent cette possibilité et affirme qu'il s'agit d'un mythe dangereux. Qu'en pensez-vous ?

Voir aussi :

La possibilité d'une IA consciente est-elle un mythe dangereux ? « Cette illusion attribue aux machines une profondeur qu'elles n'ont pas et minimise la singularité de l'expérience humaine », selon un expert

« Le théorème de Gödel brise le mythe le plus important de l'IA. L'IA ne sera jamais consciente », déclare le mathématicien Roger Penrose, il ajoute que le nom « intelligence artificielle » n'est pas le bon

La conscience artificielle est-elle réalisable ? Plusieurs caractéristiques structurelles et fonctionnelles du cerveau humain semblent être essentielles pour parvenir à une IA de type humain, selon une étude