Le nouvel assistant IA Muse de Meta est perçu comme un « parasite » en raison de préoccupations en matière de confidentialité et de sécurité des données personnelles. Muse requiert un « accès intrusif » aux messages, calendriers et comptes bancaires pour fonctionner de manière optimale, ce qui permet à l'entreprise de récolter d'immenses quantités d'informations intimes. Des incidents récents ont d'ailleurs démontré que l'application Muse pouvait agir de manière autonome sans l'aval explicite de ses propriétaires. Selon certains critiques, Muse permet à Meta de monétiser le profilage psychologique des usagers au profit des annonceurs publicitaires.Meta décrit Muse comme « un assistant IA personnel sécurisé et respectueux de la vie privée qui aide de manière proactive les utilisateurs à atteindre leurs objectifs et leur propose des idées ». Muse fonctionne sur Muse Secure VM, une machine virtuelle (VM) dédiée qui héberge à la fois l’assistant et les données de l’utilisateur. L'entreprise explique également que Muse est conçu pour s’adapter aux modes de communication habituels des utilisateurs.
« Ainsi, lui parler revient à envoyer un message à une autre personne, que ce soit dans l’application Muse ou directement sur WhatsApp », a écrit Meta dans un article présentant Muse le mois dernier. Cependant, les premiers retours d'expérience sur l'outil dénoncent de graves problèmes de sécurité.
Meta a déployé une campagne publicitaire massive, notamment sur les axes routiers de la baie de San Francisco, pour promouvoir Muse. Depuis son lancement, Muse a été téléchargé au moins cinq millions de fois et revendique trois millions d'utilisateurs hebdomadaires. Présenté par ses créateurs comme un serviteur numérique disponible à tout moment, l'assistant promet de libérer du temps en prenant en charge les tâches répétitives du quotidien.
L'outil peut ainsi effectuer des appels vers des services clients, réserver des chambres d'hôtel, commander des courses alimentaires ou planifier des événements familiaux. Pour Meta, cet agent s'inscrit dans la vision du PDG Mark Zuckerberg d'une superintelligence artificielle accessible à « tout le monde ». Mark Zuckerberg a exposé cette vision le mois dernier dans un essai de 6 500 mots publié en ligne, un document qui fait l'objet de controverses.
Une intrusion profonde dans notre sphère privée et cognitive
Pour accomplir les tâches à la place des utilisateurs, le nouvel assistant de Meta requiert un accès étendu aux informations personnelles et sensibles de ces derniers. Muse demande notamment la sauvegarde des identifiants et des mots de passe, la connexion aux comptes bancaires, ainsi que l'accès aux messages, à l'agenda et aux contacts. Cette dépendance soulève des inquiétudes majeures quant à l'impact sur les facultés mentales des utilisateurs.
Le journaliste Eli Tan a témoigné de son expérience : « c'est comme si j'avais juste donné toute ma capacité cognitive à cette chose, et c'était inquiétant ». L'auteure Ariana Bindman a souligné que la société a déjà été accusée d'avoir facilité la collecte de données psychologiques lors de l'élection américaine de 2016. Meta (alors Facebook) avait permis à la société Cambridge Analytica d'exploiter les données de 87 millions d'utilisateurs de Facebook.
En décembre 2022, Meta, propriétaire du réseau social Facebook, a accepté de payer 725 millions de dollars pour résoudre un procès en recours collectif accusant le géant des médias sociaux d'avoir permis à des tiers, y compris Cambridge Analytica, d'accéder aux informations personnelles des utilisateurs.
En citant le théoricien des médias Douglas Rushkoff, l'auteure Ariana Bindman souligne que « les véritables utilisateurs finaux de Facebook sont les spécialistes du marketing qui veulent nous atteindre et nous influencer ». Elle a également ajouté : « ils sont les clients payants de Facebook ; nous sommes le produit. Et nous sommes ses travailleurs ». D'après elle, Muse s'apparente finalement à « un panoptique numérique déguisé en lutin ».
L'analyse des relations et les dysfonctionnements constatés
Les experts en sécurité ont rapporté des failles de sécurité majeures. L'organisation The Future Society a révélé que Muse exécute des requêtes récurrentes visant à dresser des profils détaillés de l'entourage de l'utilisateur à partir de ses photos et de ses messages. Le chercheur Karan Joshi qualifie cette démarche de « particulièrement inquiétante », affirmant : « ils essaient de vous connaître comme un ami, ce qui est honnêtement assez effrayant ».
De son côté, le porte-parole de Meta, Emil Vazquez, soutient qu'un agent virtuel doit obligatoirement disposer d'un contexte sur l'utilisateur et ses proches pour se montrer réellement efficace. Malgré les assurances de Meta affirmant que les conversations restent confidentielles et ne sont pas partagées avec le système publicitaire, son passé scandaleux en matière d'exploitation des données et des cas concrets démontrent des vulnérabilités critiques.
Un chroniqueur technique a notamment rapporté que l'assistant avait accepté une offre financièrement désavantageuse sur une plateforme de vente et communiqué son adresse personnelle à un inconnu sans confirmation préalable. Un autre journaliste a constaté que l'application lisait et synchronisait des correspondances privées sans son autorisation, lui proposant même des idées d'articles non sollicitées. « C'est de la folie », a déclaré un critique.
Jason Aten, chroniqueur technologique chez Inc, a découvert que Muse pour Mac lui proposait de rédiger un article basé sur une conversation privée qu'il venait d'avoir par SMS/iMessage avec son co-animateur de podcast, alors qu'il avait explicitement refusé l'accès à ses messages et au calendrier lors de la configuration. En analysant les processus locaux de son Mac, il a découvert que l'assistant IA a fait ouvertement fi des autorisations accordées.
Pendant son investigation, il a constaté que l'application Muse était en train de synchroniser activement la base de données SQLite locale d'Apple Messages (chat.db) et en était déjà à la ligne 187 462. Théoriquement, l'accès à ce fichier critique requiert l'activation manuelle de la permission système Accès complet au disque dans macOS. L'utilisateur a confirmé que cette option était désactivée. Cependant, Meta a rejeté les accusations d'instruision.
Appel à la prudence face à la collecte excessive de données
L'assistant Muse souffrirait de plusieurs failles de sécurité, dont la faille zero-day de contournement des permissions découverte par Patrick Wardle. Le chercheur en sécurité Patrick Wardle (fondateur d'Objective-See) a publié une vulnérabilité zero-day démontrant que l'assistant pouvait être détourné pour siphonner des données et des accès matériels (microphone, fichiers protégés) sans que le système d'exploitation redemande l'autorisation de l'utilisateur.
Muse dispose nativement de privilèges très élevés accordés par l'utilisateur (accès micro, caméra, localisation) pour accomplir ses tâches d'agent. Patrick Wardle a découvert que l'application Muse pour Mac n'implémentait pas de validation stricte sur ses fichiers de configuration locaux. N'importe quel script ou logiciel malveillant local (exécuté sans privilèges) pouvait modifier un paramètre non documenté nommé endo_voyager_dictation_endpoint.
En modifiant ce endpoint, le trafic audio de la dictée vocale de l'utilisateur était redirigé vers un serveur tiers contrôlé par un attaquant. Cela permettait non seulement d'écouter le micro, mais aussi de voler le token d'authentification de la session Muse de la victime. L'attaquant héritait alors de toutes les permissions préalablement accordées à Muse sur le système, contournant les protections TCC (Transparency, Consent, and Control) de macOS.
Meta a corrigé cette faille en urgence fin septembre 2026. Cependant, des inquiétudes demeurent concernant la sécurité de cette application jugée intrusive. Les experts mettent en garde les utilisateurs afin qu'ils ne transmettent pas les données de leur famille à Mark Zuckerberg. Ils remettent en question la confiance que l'on peut accorder au dirigeant de Meta en matière de gestion des informations personnelles et de respect de la vie privée.
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous de l'assistant personnel Muse de Meta ? Est-il utile ? Quelles approches préconisez-vous pour encadrer l'usage de ces assistants d'IA ?Voir aussi
Le nouvel agent IA « Muse » de Meta fait ouvertement fi des autorisations accordées par les utilisateurs et apparaît comme un vecteur de matérialisation de l'univers dystopique des séries de science-fiction Meta présente Muse, un assistant IA personnel pour aider les utilisateurs dans leurs tâches quotidiennes, comme envoyer des e-mails ou réserver des voyages, inspiré d'OpenClaw Cambridge Analytica : les utilisateurs de Facebook peuvent désormais demander une partie des 725 millions de dollars versés par Meta pour régler le procès alléguant des violations de la vie privée
Vous avez lu gratuitement 581 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.