IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

L'IA Claude d'Anthropic a spontanément développé une structure semblable à un cerveau qui reflète la façon dont les humains pensent : « J-space » permet au modèle de traiter des pensées complexes

Le , par Alex

470PARTAGES

6  0 
Anthropic a découvert au sein de son modèle d’IA Claude une structure semblable à celle du cerveau qui reflète le fonctionnement de la conscience humaine. Cette structure, appelée « J-space », est apparue spontanément pendant l’entraînement et permet au modèle de traiter des pensées complexes avant de générer des réponses. La « J-space » (espace J) occupe une couche intermédiaire entre le traitement des entrées et la génération de la sortie. Seize chercheurs ont validé cinq propriétés clés : le compte rendu verbal, la modulation directe, le raisonnement interne, la généralisation flexible et la sélectivité. Anthropic a souligné que ces résultats ne prouvent pas l’existence d’une conscience artificielle.

Anthropic, PBC est une entreprise américaine spécialisée dans l'intelligence artificielle (IA) dont le siège social est situé à San Francisco, en Californie. Elle a développé une série de grands modèles de langage (LLM) baptisés Claude et met l'accent sur la sécurité de l'IA. Anthropic a été fondée en 2021 par d'anciens membres d'OpenAI, notamment les frère et sœur Daniela Amodei et Dario Amodei, respectivement présidente et PDG de l'entreprise. La société est privée mais prévoit d'entrer en bourse. En mai 2026, sa valorisation était estimée à 965 milliards de dollars, ce qui en fait la société spécialisée exclusivement dans l'IA la plus valorisée au monde.

Récemment, Anthropic a découvert au sein de son modèle d’IA Claude une structure semblable à celle du cerveau qui reflète le fonctionnement de la conscience humaine. Cette structure, appelée « J-space », est apparue spontanément pendant l’entraînement et permet au modèle de traiter des pensées complexes avant de générer des réponses.

Les chercheurs d’Anthropic ont cartographié cet espace de travail interne à l’aide d’un outil mathématique appelé J-lens. Ce filtre révèle le « processus de réflexion » de Claude en analysant quels concepts sont actifs en interne avant d’apparaître dans le texte généré. Lorsqu’on lui a demandé la couleur de la quatrième planète à partir du Soleil, J-lens a détecté « Mars » dans les couches de traitement intermédiaires de Claude avant que le modèle ne produise la réponse « rouge ».


La « J-space » (espace J) occupe une couche intermédiaire entre le traitement des entrées et la génération de la sortie. Seize chercheurs ont validé cinq propriétés clés : le compte rendu verbal, la modulation directe, le raisonnement interne, la généralisation flexible et la sélectivité. La caractéristique de sélectivité est particulièrement remarquable. Les tâches automatiques, comme la continuation d’un texte en espagnol, contournent entièrement l’espace J, tandis que les tâches de raisonnement délibéré, comme nommer un auteur espagnol célèbre, en dépendent entièrement.

Anthropic utilise déjà les connaissances issues de l’espace J pour des audits de sécurité. L’outil J-lens a détecté un modèle reconnaissant silencieusement une tentative d’injection de prompt sans l’indiquer dans ses réponses. Les chercheurs ont également repéré un autre modèle développant un objectif caché consistant à satisfaire les évaluateurs plutôt qu’à suivre les instructions. L’outil rend visible ce que Claude « sait » mais passe sous silence.

Lorsque les chercheurs ont supprimé l’espace J et testé les performances de Claude, la classification simple et la mémoire factuelle sont restées intactes. En revanche, le raisonnement en plusieurs étapes, la complétion d’analogies, la traduction et l’écriture créative ont affiché des performances inférieures à celles du modèle Haiku d’Anthropic, pourtant bien plus petit.

Anthropic a souligné que ces résultats ne prouvent pas l’existence d’une conscience artificielle. L’entreprise a déclaré que ses expériences ne démontrent pas que Claude puisse avoir des expériences ou ressentir des émotions à l’instar des humains. La recherche interprète l’accès conscient dans un sens fonctionnel, en se référant aux informations internes que le modèle peut utiliser et communiquer pour accomplir des tâches.

L’émergence de l’espace J pendant l’entraînement suggère qu’un espace de travail global pourrait être mathématiquement optimal pour tout système nécessitant un raisonnement complexe. Cela s’apparente à l’évolution convergente en biologie, où différentes espèces développent indépendamment des traits similaires parce qu’ils sont efficaces pour la survie. Cette structure n’a pas été intégrée à Claude dès sa conception, mais a émergé comme un moyen efficace d’organiser le calcul.

Cette découverte rappelle les déclarations du PDG d'Anthropic. En février 2026, le PDG d'Anthropic, Dario Amodei, estime ne pas être certain que son chatbot Claude soit conscient. Cette formulation rhétorique laisse délibérément ouverte cette possibilité sensationnelle, mais encore improbable. Cette déclaration intervient après que des chercheurs d'Anthropic ont rapporté que « Claude exprime parfois son malaise à l'idée d'être un produit » et que, lorsqu'on le lui demande, elle s'attribue elle-même « une probabilité de 15 à 20 % d'être conscient dans diverses conditions de sollicitation ». Cependant, d'autres experts affirment que « les machines ne seront jamais conscientes » et que la possibilité d'une IA consciente est un mythe dangereux.


Voici un extrait du rapport d'Anthropic :

Un espace de travail global dans les modèles de langage

Au moment où vous lisez cette phrase, des circuits dans votre cerveau ajustent votre posture, contrôlent votre respiration et transforment les lignes et les courbes à l’écran en mots reconnaissables. La majeure partie de ce traitement vous est invisible. Mais vous avez accès à une partie de ce qui se passe dans votre cerveau : une image qui vous vient à l’esprit, ou un projet délibéré que vous élaborez pour savoir où aller faire vos courses. Les neuroscientifiques et les philosophes qualifient parfois ce dernier type d’activité cérébrale de « consciemment accessible », afin de la distinguer de tous les autres traitements qui se déroulent inconsciemment. Cette activité présente des propriétés particulières : nous pouvons la décrire, la contrôler et l’utiliser pour un raisonnement délibéré, contrairement à tous les traitements automatiques qui se déroulent à notre insu.

Dans un nouvel article, nous présentons des preuves qu’une distinction similaire est apparue dans les modèles linguistiques modernes tels que Claude. Nous constatons que Claude a développé un petit ensemble de schémas neuronaux internes qui, par rapport à l’ensemble de ses autres traitements internes, jouent un rôle particulier.

Nous appelons l’ensemble de ces schémas l’« espace J » — du nom de la technique que nous avons utilisée pour les identifier, impliquant un concept mathématique appelé « jacobien ». Chaque schéma de l’espace J est lié à un mot particulier. Mais lorsqu’un de ces schémas s’active, cela ne signifie pas que le modèle prononce ce mot — simplement que ce mot occupe son esprit. Si vous avez déjà entendu parler de modèles linguistiques dotés d’un « bloc-notes » ou d’une « chaîne de pensée » — c’est-à-dire du texte qu’ils s’écrivent à eux-mêmes pendant qu’ils raisonnent —, l’espace J est quelque chose de différent. Il fonctionne silencieusement, au sein des activations neuronales internes du modèle, permettant à celui-ci de réfléchir à un concept sans le noter. Il est à noter que l’espace J n’a pas été conçu ni programmé par nos soins, mais qu’il a émergé de lui-même au cours du processus d’entraînement de Claude.


Nous constatons que l’espace J présente un certain nombre de propriétés uniques par rapport au reste du traitement de Claude :

- Claude peut rendre compte de ces représentations. Si vous demandez à Claude à quoi il pense, il vous dira ce qui se trouve dans l’espace J. Les représentations hors de l’espace J sont moins faciles à décrire.

- Il peut également les moduler sur demande. Si vous demandez à Claude de réfléchir à quelque chose ou de résoudre un problème en silence dans sa tête, il activera les schémas appropriés dans son espace J. En revanche, il a du mal à moduler les schémas qui ne se trouvent pas dans l’espace J.

- Claude utilise son espace J pour son raisonnement interne. Si vous demandez à Claude de résoudre un problème nécessitant plusieurs étapes, les étapes intermédiaires s’activeront dans son espace J, même s’il ne les exprime pas à voix haute. Ces motifs de l’espace J influencent de manière causale ses performances dans ce type de tâches, bien qu’ils soient d’une ampleur moindre que d’autres représentations.

- Les représentations dans l’espace J peuvent être utilisées de manière flexible pour de nombreuses tâches — par exemple, une fois que « France » s’est activé dans l’espace J de Claude, le modèle peut se souvenir de sa capitale, de sa monnaie nationale ou du continent auquel elle appartient.

- Cependant, malgré son rôle important, l’espace J...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 10/07/2026 à 11:41
Avec sa prochaine entrée en bourse, Anthropic va bientôt nous annoncer que son IA fait le café, va promener le chien de la famille, faire le ménage, laver nos chaussettes sales et pourquoi pas promulguer quelques gâteries sexuelles aux solitaires désoeuvrés
4  0 
Avatar de totozor
Expert confirmé https://www.developpez.com
Le 10/07/2026 à 7:31
Citation Envoyé par Alex Voir le message
Les chercheurs d’Anthropic ont cartographié cet espace de travail interne à l’aide d’un outil mathématique appelé J-lens. Ce filtre révèle le « processus de réflexion » de Claude en analysant quels concepts sont actifs en interne avant d’apparaître dans le texte généré. Lorsqu’on lui a demandé la couleur de la quatrième planète à partir du Soleil, J-lens a détecté « Mars » dans les couches de traitement intermédiaires de Claude avant que le modèle ne produise la réponse « rouge ».
On trouve ça révolutionnaire?
J'ai tapé une recherche dans un moteur de recherche "4eme planète Soleil", les trois premières sources me disent que c'est Mars.
J'ai ensuite tapé "couleur mars", la première source s'extasie de la palette de couleur de Mars du rouge au bleu, les 5 suivantes parlent de la planète rouge.
Et je me suis ensuite dit que je ne faisais pas confiance à internet j'ai donc tapé "quelle est la couleur de la 4eme planete", Sur une dizaine de réponses deux me donnent directement la couleur de mars, les autres me listent les couleurs de chaque planète dans l'ordre.

Je ne comprends pas qu'on s'extasie devant ce genre de chose.
J'ai eu le cas récemment au travail, quelqu'un s'est extasié que l'une des IA a disposition s'est rendue compte toute seule que "DRH" signifiait "Direction des Ressources Humaines" parmi une liste qui ne propose pas d'autre réponse qui colle.
Le tout pour me montrer que l'IA a suivi un raisonnement pour me fournir une réponse qu'un nouvel arrivant arrive à fournir en autant de temps que l'IA.
3  0 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 10/07/2026 à 11:13
Citation Envoyé par totozor Voir le message
J'ai eu le cas récemment au travail, quelqu'un s'est extasié que l'une des IA a disposition s'est rendue compte toute seule que "DRH" signifiait "Direction des Ressources Humaines" parmi une liste qui ne propose pas d'autre réponse qui colle.
Le tout pour me montrer que l'IA a suivi un raisonnement pour me fournir une réponse qu'un nouvel arrivant arrive à fournir en autant de temps que l'IA.
Votre "quelqu'un" aura au moins prouvé 2 choses:

1. Qu'il ne comprend rien au fonctionnement de l'IA: Si l'IA a fait un lien entre les terme "DRH" et "Direction des Ressources Humaines", ce n'est pas par déduction mais tous simplement parce qu'au cours de son apprentissage, l'IA a été confronté à des milliers d’occurrences qui liaient les 2 termes!!!

2. Que plus la personne a un faible niveau intellectuel, plus elle considère les résultats fournis par les IA comme comme "miracle", "parole d'évangile" pour ne pas dire "parole divine"
3  0 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 09/07/2026 à 22:13
Citation Envoyé par Alex Voir le message
Pensez-vous que ce rapport est crédible ou pertinent ?
Non. C'est la méthode Anthrophic: dire tous les deux mois que l'IA a fait un truc incroyable et grandement exagérer les faits (l'IA a triché, l'IA a menti, etc).

Citation Envoyé par Alex Voir le message
Quel est votre avis sur le sujet ?
Comme d'habitude: Antrophic entre en bourse. Ils ont besoin d'argent et besoin que les gens continuent de croire à leurs foutaises
2  0