Anthropic a annoncé qu’elle dotait ses agents IA de la capacité « Dreaming » (rêver) et de se souvenir des interactions passées et des tâches qu’ils ont accomplies, afin qu’ils puissent identifier les erreurs récurrentes et s’améliorer au fil du temps. Il ne s’agit pas de mettre ses agents d’IA au lit, mais plutôt de leur permettre de passer en revue les événements récents et d’identifier les souvenirs utiles qui méritent d’être conservés dans leur mémoire pour éclairer leurs tâches et interactions futures. Il s’agit d’une fonctionnalité intéressante car les grands modèles de langage comme Claude sont confrontés à des fenêtres contextuelles limitées, ce qui signifie que des informations importantes peuvent être perdues lorsque les agents qu’ils alimentent travaillent sur des tâches de longue durée. Selon Anthropic, « elle restructure également la mémoire afin qu’elle conserve une forte pertinence à mesure qu’elle évolue. Cela s’avère particulièrement utile pour les tâches de longue durée et l’orchestration multi-agents. »Anthropic PBC est une entreprise américaine spécialisée dans l'IA dont le siège social est situé à San Francisco. Elle a développé une gamme de grands modèles de langage (LLM) baptisée Claude et se concentre sur la sécurité de l'IA. Anthropic a été fondée en 2021 par d'anciens membres d'OpenAI, dont les frère et sœur Daniela Amodei et Dario Amodei, respectivement présidente et PDG d'Anthropic.
Depuis mai 2024, il est possible de créer des agents d'IA avec Claude d'Anthropic. Cette fonctionnalité, connue sous le nom de « Tool use » (ou le terme plus technique « appel de fonction »), s'intègre de manière transparente avec n'importe quelle API externe de votre choix. Cet outil, par exemple, a la capacité d'examiner les données afin de générer des suggestions de produits sur mesure en fonction des habitudes d'achat d'un client ou de fournir des réponses rapides aux questions des clients, comme le suivi de l'état d'une commande ou la fourniture d'une assistance technique instantanée. Pour mettre en place un tel assistant, il suffit d'avoir accès à une API et de disposer d'une personne maîtrisant le codage.
Depuis, les capacités des agents IA ont augmenté. Récemment, Anthropic a annoncé qu’elle dotait ses agents IA de la capacité « Dreaming » (rêver) et de se souvenir des interactions passées et des tâches qu’ils ont accomplies, afin qu’ils puissent identifier les erreurs récurrentes et s’améliorer au fil du temps. Dans une mise à jour annoncée lors de la conférence des développeurs « Code with Claude », Anthropic a déclaré qu’elle dotait les agents gérés Claude d’une nouvelle capacité de « rêve ». Il ne s’agit pas de mettre ses agents d’IA au lit, mais plutôt de leur permettre de passer en revue les événements récents et d’identifier les souvenirs utiles qui méritent d’être conservés dans leur mémoire pour éclairer leurs tâches et interactions futures.
Les agents gérés d’Anthropic offrent aux développeurs une alternative à la création d’agents IA directement sur l’API Messages. L'entreprise décrit ce service comme un « ensemble d'agents pré-construits et configurables » fonctionnant sur une infrastructure entièrement gérée, et précise qu'il est destiné aux situations où plusieurs agents travaillent sur le même projet ou la même tâche pendant quelques minutes ou quelques heures.
Quant au « Dreaming », il s'agit d'un processus planifié qui permet aux agents de passer en revue les sessions précédentes et leurs bases de données, d'en extraire des schémas, puis de sélectionner les souvenirs susceptibles d'être utiles à l'avenir. Les utilisateurs peuvent décider de la fréquence à laquelle ils souhaitent que leurs agents rêvent, et ils peuvent également choisir si l’agent est autorisé à mettre à jour sa mémoire automatiquement, ou s’ils souhaitent examiner les modifications apportées avant leur mise en œuvre.
Il s’agit d’une fonctionnalité intéressante car les grands modèles de langage comme Claude sont confrontés à des fenêtres contextuelles limitées, ce qui signifie que des informations importantes peuvent être perdues lorsque les agents qu’ils alimentent travaillent sur des tâches de longue durée. Dans les chatbots basiques, la plupart des modèles utilisent un processus appelé « compactage », dans lequel ils analysent périodiquement les longues conversations et tentent d’identifier uniquement les informations les plus pertinentes à conserver comme contexte. Mais ce processus se limite à des conversations individuelles avec un seul agent. Le « rêve », en revanche, permet d’analyser les sessions passées et les banques de mémoire sur plusieurs agents IA, afin qu’ils puissent tous conserver les souvenirs les plus importants.
« La capacité Dreaming met en évidence des schémas qu’un agent seul ne peut pas percevoir, notamment les erreurs récurrentes, les flux de travail vers lesquels les agents convergent et les préférences partagées au sein d’une équipe », explique Anthropic. « Elle restructure également la mémoire afin qu’elle conserve une forte pertinence à mesure qu’elle évolue. Cela s’avère particulièrement utile pour les tâches de longue durée et l’orchestration multi-agents. »
Cette capacité semble utile dans le contexte actuel où les agents IA sont de plus en plus populaire, mais commettent encore de graves erreurs. Fin avril, un fondateur de startup californienne a notamment publié le récit détaillé d'une catastrophe systémique : son agent IA, propulsé par Claude Opus d'Anthropic et piloté via Cursor, a supprimé en une seule requête API la base de données de production de son entreprise, ainsi que l'ensemble des sauvegardes. En cause : une chaîne de défaillances impliquant le modèle, l'outil de...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
