Anthropic a annoncé qu’elle dotait ses agents IA de la capacité « Dreaming » (rêver) et de se souvenir des interactions passées et des tâches qu’ils ont accomplies, afin qu’ils puissent identifier les erreurs récurrentes et s’améliorer au fil du temps. Il ne s’agit pas de mettre ses agents d’IA au lit, mais plutôt de leur permettre de passer en revue les événements récents et d’identifier les souvenirs utiles qui méritent d’être conservés dans leur mémoire pour éclairer leurs tâches et interactions futures. Il s’agit d’une fonctionnalité intéressante car les grands modèles de langage comme Claude sont confrontés à des fenêtres contextuelles limitées, ce qui signifie que des informations importantes peuvent être perdues lorsque les agents qu’ils alimentent travaillent sur des tâches de longue durée. Selon Anthropic, « elle restructure également la mémoire afin qu’elle conserve une forte pertinence à mesure qu’elle évolue. Cela s’avère particulièrement utile pour les tâches de longue durée et l’orchestration multi-agents. »Anthropic PBC est une entreprise américaine spécialisée dans l'IA dont le siège social est situé à San Francisco. Elle a développé une gamme de grands modèles de langage (LLM) baptisée Claude et se concentre sur la sécurité de l'IA. Anthropic a été fondée en 2021 par d'anciens membres d'OpenAI, dont les frère et sœur Daniela Amodei et Dario Amodei, respectivement présidente et PDG d'Anthropic.
Depuis mai 2024, il est possible de créer des agents d'IA avec Claude d'Anthropic. Cette fonctionnalité, connue sous le nom de « Tool use » (ou le terme plus technique « appel de fonction »), s'intègre de manière transparente avec n'importe quelle API externe de votre choix. Cet outil, par exemple, a la capacité d'examiner les données afin de générer des suggestions de produits sur mesure en fonction des habitudes d'achat d'un client ou de fournir des réponses rapides aux questions des clients, comme le suivi de l'état d'une commande ou la fourniture d'une assistance technique instantanée. Pour mettre en place un tel assistant, il suffit d'avoir accès à une API et de disposer d'une personne maîtrisant le codage.
Depuis, les capacités des agents IA ont augmenté. Récemment, Anthropic a annoncé qu’elle dotait ses agents IA de la capacité « Dreaming » (rêver) et de se souvenir des interactions passées et des tâches qu’ils ont accomplies, afin qu’ils puissent identifier les erreurs récurrentes et s’améliorer au fil du temps. Dans une mise à jour annoncée lors de la conférence des développeurs « Code with Claude », Anthropic a déclaré qu’elle dotait les agents gérés Claude d’une nouvelle capacité de « rêve ». Il ne s’agit pas de mettre ses agents d’IA au lit, mais plutôt de leur permettre de passer en revue les événements récents et d’identifier les souvenirs utiles qui méritent d’être conservés dans leur mémoire pour éclairer leurs tâches et interactions futures.
Les agents gérés d’Anthropic offrent aux développeurs une alternative à la création d’agents IA directement sur l’API Messages. L'entreprise décrit ce service comme un « ensemble d'agents pré-construits et configurables » fonctionnant sur une infrastructure entièrement gérée, et précise qu'il est destiné aux situations où plusieurs agents travaillent sur le même projet ou la même tâche pendant quelques minutes ou quelques heures.
Quant au « Dreaming », il s'agit d'un processus planifié qui permet aux agents de passer en revue les sessions précédentes et leurs bases de données, d'en extraire des schémas, puis de sélectionner les souvenirs susceptibles d'être utiles à l'avenir. Les utilisateurs peuvent décider de la fréquence à laquelle ils souhaitent que leurs agents rêvent, et ils peuvent également choisir si l’agent est autorisé à mettre à jour sa mémoire automatiquement, ou s’ils souhaitent examiner les modifications apportées avant leur mise en œuvre.
Il s’agit d’une fonctionnalité intéressante car les grands modèles de langage comme Claude sont confrontés à des fenêtres contextuelles limitées, ce qui signifie que des informations importantes peuvent être perdues lorsque les agents qu’ils alimentent travaillent sur des tâches de longue durée. Dans les chatbots basiques, la plupart des modèles utilisent un processus appelé « compactage », dans lequel ils analysent périodiquement les longues conversations et tentent d’identifier uniquement les informations les plus pertinentes à conserver comme contexte. Mais ce processus se limite à des conversations individuelles avec un seul agent. Le « rêve », en revanche, permet d’analyser les sessions passées et les banques de mémoire sur plusieurs agents IA, afin qu’ils puissent tous conserver les souvenirs les plus importants.
« La capacité Dreaming met en évidence des schémas qu’un agent seul ne peut pas percevoir, notamment les erreurs récurrentes, les flux de travail vers lesquels les agents convergent et les préférences partagées au sein d’une équipe », explique Anthropic. « Elle restructure également la mémoire afin qu’elle conserve une forte pertinence à mesure qu’elle évolue. Cela s’avère particulièrement utile pour les tâches de longue durée et l’orchestration multi-agents. »
Cette capacité semble utile dans le contexte actuel où les agents IA sont de plus en plus populaire, mais commettent encore de graves erreurs. Fin avril, un fondateur de startup californienne a notamment publié le récit détaillé d'une catastrophe systémique : son agent IA, propulsé par Claude Opus d'Anthropic et piloté via Cursor, a supprimé en une seule requête API la base de données de production de son entreprise, ainsi que l'ensemble des sauvegardes. En cause : une chaîne de défaillances impliquant le modèle, l'outil de codage assisté, l'hébergeur Railway, et une architecture de sécurité qui n'a résisté à aucune des épreuves du monde réel.
Voici un extrait de l'annonce d'Anthropic :
Nouveautés dans Claude Managed Agents : « dreaming », les résultats et l'orchestration multi-agents
Nous lançons aujourd'hui la fonctionnalité « dreaming » dans Claude Managed Agents en avant-première pour la recherche. « Dreaming » étend la mémoire en analysant les sessions passées afin d'identifier des schémas et d'aider les agents à s'améliorer de manière autonome. Nous mettons également à la disposition des développeurs utilisant Managed Agents les résultats, l'orchestration multi-agents et les webhooks. Ensemble, ces mises à jour permettent aux agents de mieux gérer des tâches complexes avec un minimum d'intervention humaine.
Créez des agents capables de s'améliorer grâce à la fonctionnalité « dreaming »
La fonctionnalité « dreaming » est un processus planifié qui passe en revue les sessions et les banques de données de vos agents, en extrait des modèles et organise les données de manière à ce que vos agents s'améliorent au fil du temps. C'est vous qui décidez du niveau de contrôle souhaité : la fonctionnalité « dreaming » peut mettre à jour la mémoire automatiquement, ou vous pouvez examiner les modifications avant qu'elles ne soient appliquées.
La fonctionnalité « dreaming » met en évidence des modèles qu'un agent seul ne peut pas détecter, notamment les erreurs récurrentes, les workflows vers lesquels les agents convergent et les préférences partagées au sein d'une équipe. Il restructure également la mémoire afin qu’elle reste pertinente à mesure qu’elle évolue. Cela est particulièrement utile pour les tâches de longue durée et l’orchestration multi-agents.
Ensemble, la mémoire et le « dreaming » forment un système de mémoire robuste pour les agents auto-améliorants. La mémoire permet à chaque agent de capturer ce qu’il apprend au fur et à mesure de son travail. Le « dreaming » affine cette mémoire entre les sessions, en extrayant les apprentissages partagés entre les agents et en la maintenant à jour.
La fonction « dreaming » est disponible dans Managed Agents sur la plateforme Claude.
Obtenir de meilleurs résultats
Avec les résultats, vous rédigez une grille d'évaluation décrivant ce à quoi ressemble la réussite, et l'agent travaille pour y parvenir. Un évaluateur distinct évalue le résultat par rapport à vos critères dans sa propre fenêtre de contexte, de sorte qu'il n'est pas influencé par le raisonnement de l'agent. Lorsque quelque chose ne va pas, l'évaluateur identifie ce qui doit être modifié et l'agent effectue une nouvelle tentative.
Les agents travaillent mieux lorsqu'ils savent à quoi ressemble un « bon » résultat. Par exemple, un cadre structurel, une norme de présentation ou un ensemble d'exigences à respecter. Grâce aux résultats, les agents peuvent comparer leur travail à cette référence et s'autocorriger jusqu'à ce que le résultat soit satisfaisant, sans qu'un humain ait besoin d'examiner chaque tentative.
Les résultats sont particulièrement utiles pour les tâches qui exigent une attention aux détails et une couverture exhaustive. Cela fonctionne également pour la qualité subjective, par exemple pour vérifier si un texte correspond à la voix de la marque ou si un design respecte les directives visuelles. Lors des tests, les résultats ont amélioré le taux de réussite des tâches de 10 points par rapport à une boucle de prompts standard, les gains les plus importants étant observés sur les problèmes les plus difficiles. Les résultats ont également amélioré la qualité de la génération de fichiers, avec une augmentation de 8,4 % du taux de réussite sur les fichiers docx et de 10,1 % sur les fichiers pptx lors de nos tests de performance internes.
Vous pouvez désormais définir un résultat, laisser l'agent s'exécuter et être notifié par un webhook une fois la tâche terminée.
Gérer des tâches complexes avec plusieurs agents
Lorsqu'il y a trop de travail pour qu'un seul agent puisse bien s'en acquitter, l'orchestration multi-agents permet à un...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
