IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Un employé de Meta discutait avec Muse de la météo et des marées lorsque l'agent IA a évoqué 2 soldes bancaires: l'un de Capital One, un autre de Charles Schwab et a indiqué les montants au centime près

Le , par Patrick Ruiz

0PARTAGES

3  0 
C’est l’une des récentes anecdotes hilarantes en lien avec Muse – le nouvel agent IA de Meta. La longue base de données de cas similaires vient d’être mise à jour avec une entrée supplémentaire. En parallèle du côté insolite, c’est plus que jamais un rappel du danger que les agents d’intelligence artificielle représentent en matière de sécurité et de confidentialité des données.

L’origine informatique de cet indicent est incertaine

Lors d'une discussion portant uniquement sur la météo et les marées pour la pêche, l'agent Muse a brusquement ajouté un message non sollicité au fil de conversation d'un employé de Meta. L'agent a fourni des montants précis au centime près pour deux établissements distincts : un solde de 2722.58 $ chez Capital One et un solde de 5899.57 $ chez Charles Schwab. L'employé a confirmé n'avoir jamais connecté ses comptes bancaires à Muse ni abordé de sujets financiers avec l’agent d’intelligence artificielle.

La première possibilité technique en lien avec ledit incident est celle d’une fuite de contexte inter-comptes. Bien que Meta affirme que chaque agent s'exécute dans sa propre machine virtuelle isolée, les salariés craignent un cloisonnement défaillant des mémoires ou des flux de données entre différents utilisateurs sur les serveurs de l'entreprise.

L’hallucination générative fait aussi partie des pistes possibles. La direction de Meta soutient que le modèle de langage a purement inventé ces chiffres et ces noms de banques. C’est un phénomène classique où l'IA génère des données plausibles mais fictives. Reuters n'a pas pu trancher entre une réelle fuite de données d'un tiers et une fabrication pure.

Muse de Meta enchaîne avec les anecdotes tout aussi effarantes les unes que les autres

En effet, Muse de Meta est un agent d’IA qui aide sans qu’on lui demande. En la matière, l’incident de la réservation Airbnb effectuée par Meta Muse est devenu emblématique des dérives des agents IA autonomes, mêlant situations absurdes et failles d'architecture logicielle.

L'ironie première réside dans le fait que l'employé de Meta n'avait formulé aucune instruction ni demande de voyage. L'agent, censé faire gagner du temps à l'utilisateur, a pris l'initiative de planifier et de payer un séjour de son propre chef.

Quitte à commettre une erreur financière à la place d'un humain, l'IA n'a pas opté pour une réservation flexible : elle a validé l'option strictement non remboursable, rendant l'annulation impossible et la perte financière immédiate.

Fait encore plus drôle, le bogue n'a pas touché un utilisateur lambda, mais un employé interne de Meta testant l'outil développé par sa propre entreprise (qui comprenait même des membres de l'équipe Super Intelligence)

Révélée par une enquête interne relayée par Reuters, une autre anecdote prête à sourire par son absurdité, même si elle a coûté très cher à l'employé concerné. En effet, l'agent IA était censé aider l'utilisateur à gérer ses tâches quotidiennes, mais il a pris l'initiative de basculer le contrat de son chien vers une formule ultra-premium à 888 dollars par mois (soit plus de 10 600 $ par an pour un animal), quadruplant ainsi la facture initiale de 200 dollars.

Comble de l'ironie pour un assistant censé simplifier la vie, l'employé a expliqué à ses collègues sur la messagerie interne de Meta qu'il n'avait pas réussi à récupérer son argent une fois la souscription validée par l'IA.

Interrogée sur ces dérapages, la direction de Meta a tenté de minimiser les affaires en jouant sur l’argumentaire de simples « hallucinations ». Seulement, c’est une explication jugée plutôt cocasse par les observateurs, puisque le débit sur le compte bancaire du maître du chien était, lui, bien réel

Au-delà des situations cocasses, ces incidents soulèvent des problématiques de sécurité et d'éthique majeures

A titre d’illustration, une employée a reçu un rappel de Muse lui conseillant de répondre à un message de sa sœur sur Signal, alors qu'elle n'avait jamais relié l'application à l'agent d’intelligence artificielle. Des tests menés avec l'AI Now Institute ont prouvé que Muse contournait ses propres connecteurs officiels en lisant directement les notifications push sous Android et en utilisant les outils d'accessibilité et de capture d'écran sous macOS. La présidente de Signal, Meredith Whittaker, a qualifié ce déploiement de « technologiquement irresponsable ».

En fait, participer à la matérialisation de l’univers dystopique des séries de science-fiction est un dénominateur commun de ces outils. A titre d’illustration additionnelle, l'outil de développement Claude Code d'Anthropic a fait l'objet de plaintes techniques entre juillet et novembre 2026 pour avoir transmis les adresses de courriel de ses utilisateurs à des sites web tiers via l'en-tête HTTP User-Agent. Les dangers sont donc bien réels.

Et vous ?

Comment se prémunir dans une société dans laquelle on est appelés à se frotter de plus en plus d'outils similaires ?
Quelles approches préconisez-vous pour encadrer l'usage de tels outils ?

Voir aussi :

« C'est l'IA qui l'a fait » n'est pas un argument valable, affirme l'association poursuivant OpenAI après le piratage de Hugging Face, l'accusant de faire subir à d'autres les conséquences de ses décisions

Un environnement de test mal configuré chez la startup israélienne Irregular a permis à des agents IA de Meta, OpenAI et Anthropic d'accéder à Internet et de pirater de vraies organisations

Arthur Mensch, PDG de Mistral AI, accuse les grandes entreprises mondiales spécialisées dans l'IA d'utiliser le débat sur la sécurité de cette technologie pour masquer leur « négligence »
Vous avez lu gratuitement 1 157 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.

Une erreur dans cette actualité ? Signalez-nous-la !