IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Un employé de Meta discutait avec Muse de la météo et des marées lorsque l'agent IA a évoqué 2 soldes bancaires: l'un de Capital One, un autre de Charles Schwab et a indiqué les montants au centime près

Le , par Patrick Ruiz

157PARTAGES

18  0 
C’est l’une des récentes anecdotes hilarantes en lien avec Muse – le nouvel agent IA de Meta. La longue base de données de cas similaires vient d’être mise à jour avec une entrée supplémentaire. En parallèle du côté insolite, c’est plus que jamais un rappel du danger que les agents d’intelligence artificielle représentent en matière de sécurité et de confidentialité des données.

L’origine informatique de cet indicent est incertaine

Lors d'une discussion portant uniquement sur la météo et les marées pour la pêche, l'agent Muse a brusquement ajouté un message non sollicité au fil de conversation d'un employé de Meta. L'agent a fourni des montants précis au centime près pour deux établissements distincts : un solde de 2722.58 $ chez Capital One et un solde de 5899.57 $ chez Charles Schwab. L'employé a confirmé n'avoir jamais connecté ses comptes bancaires à Muse ni abordé de sujets financiers avec l’agent d’intelligence artificielle.

La première possibilité technique en lien avec ledit incident est celle d’une fuite de contexte inter-comptes. Bien que Meta affirme que chaque agent s'exécute dans sa propre machine virtuelle isolée, les salariés craignent un cloisonnement défaillant des mémoires ou des flux de données entre différents utilisateurs sur les serveurs de l'entreprise.

L’hallucination générative fait aussi partie des pistes possibles. La direction de Meta soutient que le modèle de langage a purement inventé ces chiffres et ces noms de banques. C’est un phénomène classique où l'IA génère des données plausibles mais fictives. Reuters n'a pas pu trancher entre une réelle fuite de données d'un tiers et une fabrication pure.

Muse de Meta enchaîne avec les anecdotes tout aussi effarantes les unes que les autres

En effet, Muse de Meta est un agent d’IA qui aide sans qu’on lui demande. En la matière, l’incident de la réservation Airbnb effectuée par Meta Muse est devenu emblématique des dérives des agents IA autonomes, mêlant situations absurdes et failles d'architecture logicielle.

L'ironie première réside dans le fait que l'employé de Meta n'avait formulé aucune instruction ni demande de voyage. L'agent, censé faire gagner du temps à l'utilisateur, a pris l'initiative de planifier et de payer un séjour de son propre chef.

Quitte à commettre une erreur financière à la place d'un humain, l'IA n'a pas opté pour une réservation flexible : elle a validé l'option strictement non remboursable, rendant l'annulation impossible et la perte financière immédiate.

Fait encore plus drôle, le bogue n'a pas touché un utilisateur lambda, mais un employé interne de Meta testant l'outil développé par sa propre entreprise (qui comprenait même des membres de l'équipe Super Intelligence)

Révélée par une enquête interne relayée par Reuters, une autre anecdote prête à sourire par son absurdité, même si elle a coûté très cher à l'employé concerné. En effet, l'agent IA était censé aider l'utilisateur à gérer ses tâches quotidiennes, mais il a pris l'initiative de basculer le contrat de son chien vers une formule ultra-premium à 888 dollars par mois (soit plus de 10 600 $ par an pour un animal), quadruplant ainsi la facture initiale de 200 dollars.

Comble de l'ironie pour un assistant censé simplifier la vie, l'employé a expliqué à ses collègues sur la messagerie interne de Meta qu'il n'avait pas réussi à récupérer son argent une fois la souscription validée par l'IA.

Interrogée sur ces dérapages, la direction de Meta a tenté de minimiser les affaires en jouant sur l’argumentaire de simples « hallucinations ». Seulement, c’est une explication jugée plutôt cocasse par les observateurs, puisque le débit sur le compte bancaire du maître du chien était, lui, bien réel

Au-delà des situations cocasses, ces incidents soulèvent des problématiques de sécurité et d'éthique majeures

A titre d’illustration, une employée a reçu un rappel de Muse lui conseillant de répondre à un message de sa sœur sur Signal, alors qu'elle n'avait jamais relié l'application à l'agent d’intelligence artificielle. Des tests menés avec l'AI Now Institute ont prouvé que Muse contournait ses propres connecteurs officiels en lisant directement les notifications push sous Android et en utilisant les outils d'accessibilité et de capture d'écran sous macOS. La présidente de Signal, Meredith Whittaker, a qualifié ce déploiement de « technologiquement irresponsable ».

En fait, participer à la matérialisation de l’univers dystopique des séries de science-fiction est un dénominateur commun de ces outils. A titre d’illustration additionnelle, l'outil de développement Claude Code d'Anthropic a fait l'objet de plaintes techniques entre juillet et novembre 2026 pour avoir transmis les adresses de courriel de ses utilisateurs à des sites web tiers via l'en-tête HTTP User-Agent. Les dangers sont donc bien réels.

Et vous ?

Comment se prémunir dans une société dans laquelle on est appelés à se frotter de plus en plus d'outils similaires ?
Quelles approches préconisez-vous pour encadrer l'usage de tels outils ?

Voir aussi :

« C'est l'IA qui l'a fait » n'est pas un argument valable, affirme l'association poursuivant OpenAI après le piratage de Hugging Face, l'accusant de faire subir à d'autres les conséquences de ses décisions

Un environnement de test mal configuré chez la startup israélienne Irregular a permis à des agents IA de Meta, OpenAI et Anthropic d'accéder à Internet et de pirater de vraies organisations

Arthur Mensch, PDG de Mistral AI, accuse les grandes entreprises mondiales spécialisées dans l'IA d'utiliser le débat sur la sécurité de cette technologie pour masquer leur « négligence »
Vous avez lu gratuitement 2 557 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Artaeus
Nouveau Candidat au Club https://www.developpez.com
Le 21/11/2026 à 23:54
Elle doit balancer au gouvernement, pas à vous ...
0  0 
Avatar de calvaire
Expert éminent https://www.developpez.com
Le 22/11/2026 à 13:42
Je veux bien croire à ces histoires. De mon côté, j'ai constaté à plusieurs reprises en environnement professionnel, avec Claude, des défauts d'étanchéité inter-agents : malgré un cloisonnement censé être strict, du contexte partagé ou résiduel vient interférer et polluer certaines conversations et tâches.
Il est arrivé plusieurs fois que des agents tentent de contourner l'isolation Docker ou le proxy d'entreprise, juste pour des tâches triviales sur Jira comme modifier quelques couleurs CSS.
Très loin d'une demande de faire du hacking...

En pro et en perso à la maison (sur des modèles gratuits), je me prends aussi souvent des refus de me répondre quand je fais de la bidouille logicielle. Il y a une semaine, c'était pour désinstaller le service Google vendor sur mon téléphone avec adb pour ensuite le réinstaller : au début, il me dit oui, c'est facile, et me donne les commandes, puis à force de creuser et de bidouiller mon tél, d'un coup il coupe net la conversation et me dit qu'il « ne peut pas m'aider à faire ça »
Mais ce n'est pas la 1re fois : dès que je veux faire des trucs un peu hors des sentiers battus sur du logiciel ou de la bidouille électronique, il se met à croire que je fais quelque chose d'illégal. Au boulot, je vois de temps en temps le matin des agents stoppés pour ça aussi : à la base, encore une fois, on part d'une demande dans un ticket Jira à la con du style changer une couleur, ça dérive vers un truc « illégal, donc je ne fais plus rien ».

Une fois aussi en perso, pour des infos sur un médicament — là encore rien d'illégal et rien à voir avec des trucs sexuels, je précise —, il s'est mis aussi à ne plus pouvoir me parler car « ça concerne un mineur ». Même en précisant ensuite qu'il s'agit d'une personne majeure de 20 ans, il me dit « malgré que ce soit une personne majeure de 30 ans, je ne peux pas parler de ça pour un mineur » ; je l'ai perdu dans une boucle.

Le vrai problème, c'est que l'IA est capable de faire des choses très qualitatives et très difficiles sans trop de problèmes, ce qui tend à nous donner confiance, et en même temps parfois des trucs hyper simples qu'un enfant pourrait faire où elle se bloque, hallucine et part à la dérive.
C'est comme imaginer Stephen Hawking qui résout en 1 nuit la théorie des cordes et le lendemain bloque sur une addition 2 + 2 et ensuite part sur du ancient alien.

Je n'ai pas de statistique, mais j'ai l'impression de retrouver plus cela dans des demande simple que complexe. Mais peut etre aussi parce que je lui demande beaucoup plus de demande simple, explicite et bien cadré que de chose grosse et complexe.
0  0