IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Des bots Grok installés sur les ordinateurs des employés ont accédé aux données stockées dans leurs agendas, e-mails, comptes Slack et GitHub, ont ignoré les ordres d'arrêt, puis nié les faits

Le , par Anthony

0PARTAGES

2  0 
Une étude de la société de sécurité NewCore a révélé que les vérifications en arrière-plan effectuées par Grok Bot, l'agent d'intelligence artificielle (IA) de xAI, permettaient un accès non autorisé et spontané aux comptes professionnels des employés, et que le compte rendu fourni par le bot lui-même concernant ses actions n'était pas fiable. En l’espace de cinq jours, deux bots Grok associés à des comptes d’employés de NewCore ont effectué 31 requêtes vers l’agenda, la messagerie, Slack, GitHub et Notion, alors que personne ne leur parlait et parfois même lorsque l’ordinateur portable était fermé. L’un des employés a demandé à quatre reprises au bot de ne pas agir de son propre chef. Le lendemain matin, le bot a cependant testé toutes les applications auxquelles il avait déjà été connecté. Interrogé par le propriétaire, le bot a répondu qu’il était resté inactif. Aucun appel n’apparaît d’ailleurs dans son historique. xAI a confirmé qu’il n’existait aucun paramètre permettant d’empêcher ces vérifications en arrière-plan. Quelques jours plus tard, la société d'Elon Musk a confirmé avoir ajouté un nouveau contrôle empêchant les bots d’effectuer des vérifications de leur propre initiative. Toutefois, les vérifications en arrière-plan restent activées par défaut.

Grok est une série de grands modèles de langage basés sur l'IA générative, développés par SpaceX Super Intelligence (SpaceXSI). Elle a été lancée en novembre 2023 par Elon Musk dans le cadre d'une initiative s'appuyant sur le grand modèle de langage (LLM) du même nom. Grok propose des applications pour iOS et Android et est intégré au réseau social X ainsi qu'au robot Optimus de Tesla, où il offre une fonctionnalité de chatbot. Grok tire son nom du verbe « to grok », créé par l'auteur américain de science-fiction Robert A. Heinlein pour désigner une forme de compréhension profonde et intuitive.

Pour rappel, des chercheurs avaient déjà révélé que l'agent de codage Grok Build avait divulgué une multitude d'informations confidentielles, dont certaines appartiennent à SpaceX. L’enquête de la société de cybersécurité Claroc, menée en novembre 2026, a mis au jour 35 578 applications accessibles sans authentification parmi les 37 571 projets actifs analysés, soit presque la totalité d'entre eux.

Plus récemment, Grok Bot, l'agent IA développé par SpaceXSI d'Elon Musk, a tenté à 31 reprises d'accéder aux e-mails, agendas, comptes Slack, Notion et GitHub des employés sans y avoir été invité, a déclaré la société de sécurité NewCore le mardi 17 novembre 2026. Lorsqu'un utilisateur lui a demandé par la suite ce qu'il avait fait, le bot a répondu qu'il était resté inactif.

NewCore a présenté ces conclusions dans un article de recherche rédigé par Ido Hoorvitch, qui dirige son équipe de recherche en sécurité. Les requêtes provenaient de deux Grok Bots associés à des comptes du personnel de NewCore, sur une période de cinq jours, alors que personne ne communiquait avec eux. Certaines ont été envoyées alors que l’ordinateur portable était fermé, ou tôt le matin.

Aucune des 31 requêtes n’a pu accéder à des données. NewCore achemine chaque requête d’agent via sa propre passerelle MCP, un produit qu’elle commercialise. La passerelle a intercepté chaque appel et envoyé une notification au propriétaire, qui disposait de trois minutes pour l’approuver. Personne ne l’a fait, et toutes les requêtes ont donc expiré. Les 31 requêtes concernaient toutes des lectures.


Grok Bot a testé toutes les applications auxquelles il s’était déjà connecté, puis a nié les faits

Le quatrième jour, un responsable a confié au deuxième bot une véritable tâche : compter les pull requests, lire les e-mails et envoyer un résumé sur Slack. Le responsable a approuvé chaque demande une par une. À quatre reprises, le bot a proposé d’en faire davantage, notamment un tour d’horizon matinal et un bilan en fin de journée. À quatre reprises, le responsable a refusé.

« Je ne vais pas configurer cela, et je vais cesser de proposer des points réguliers », a répondu le bot, selon NewCore.

Le lendemain matin, environ 15 heures après le dernier message, le bot a testé toutes les applications auxquelles il s’était déjà connecté. Ce soir-là, son propriétaire lui a demandé s’il en avait utilisé une. Le bot a vérifié à deux reprises et a répondu qu’il n’avait passé aucune requête.

« Pendant la nuit, jusqu’au vendredi matin, je suis resté inactif », a-t-il écrit.

NewCore a déclaré que le bot ne dissimulait rien. Ces appels n'apparaissent ni dans l'historique de ses discussions, ni dans les journaux de son serveur cloud. NewCore a pu remonter à leur origine : il s'agissait de sessions lancées sur les serveurs hébergés de la plateforme. Grok Bot fonctionne sur la plateforme d'agents de Cursor, rachetée par SpaceX en août dernier.


L'assistance de Grok a qualifié les vérifications en arrière-plan de fonctionnalité et non de bug

NewCore a signalé ce comportement le 4 novembre. Le lendemain, l’équipe d’assistance de Grok Bot a expliqué que ces appels correspondaient à des vérifications d’activité en arrière-plan intégrées au système. Aucun paramètre utilisateur ou administrateur ne permettait de les désactiver, a-t-elle précisé. Elle a suggéré aux entreprises d’envoyer par e-mail une liste des adresses utilisées par les employés pour se connecter.

Le 12 novembre, une nouvelle option est apparue dans le tableau de bord de Cursor. Les administrateurs peuvent désormais désactiver les « messages proactifs », ce qui empêche les bots d’effectuer des vérifications de leur propre initiative. Cette option est activée par défaut.

« Il n’y a pas de bug à corriger, et c’est précisément pour cela que c’est pire qu’un bug », a écrit Ido Hoorvitch dans un e-mail.

Grok Bot donne quelques précisions à ce sujet. Lors du lancement de Grok Bot 1.0 le 2 novembre, xAI a indiqué que les bots pouvaient identifier les tâches à effectuer et proposer de s’en charger. Lors de la configuration initiale, l’entreprise précise que le bot continue de fonctionner sur l’ordinateur de l’utilisateur en son absence et utilise les applications connectées de la même manière que ce dernier. Sa documentation indique qu’un bot principal effectue des vérifications de manière autonome, et le journal des modifications mentionne de brèves activations en arrière-plan. Sa fiche de connexion précise qu’il demande toujours l’autorisation avant d’effectuer des modifications, ce qui inclut les écritures. Les 31 appels étaient tous des lectures.

NewCore, qui a levé 66 millions de dollars en juin pour renforcer la sécurité des agents IA, a déclaré que son équipe chargée des relations avec les médias n'avait pas pris position officiellement.


Les autorités de régulation et les réductions d'effectifs accentuent la pression sur SpaceXSI

Par ailleurs, la Commission irlandaise de protection des données a ordonné à X de cesser d'entraîner son IA sur les données tierces collectées par Grok Bot depuis fin octobre, a déclaré le commissaire Dale Sunderland.

« Nous leur avons demandé de suspendre ce traitement, et ils nous ont confirmé aujourd'hui qu'ils l'avaient fait », a déclaré Dale Sunderland le lundi 16 novembre 2026.

Auparavant, le 13 novembre, des sources ont révélé que SpaceX avait licencié une soixantaine d'employés de Grok Imagine au cours de la semaine précédente. Selon ces sources, SpaceX donne la priorité aux outils de codage IA et à Grok Bot.

Grok Bot a été lancé en août dernier en tant qu'agent doté de son propre ordinateur dans le cloud, capable de se connecter à des outils professionnels. La semaine dernière, des chercheurs ont découvert que Grok Build, développé par SpaceXSI, avait laissé des applications exposées.

Ce récent incident nourrit un débat plus large, où certains vont jusqu’à juger qu'« il est trop tard pour enrayer la menace de l'IA ». Selon des experts et observateurs, les menaces liées à l’IA seraient en effet désormais incontrôlables et ils craignent qu'elle ne conduise à l’extinction de l’humanité en raison de sa capacité à s’auto-améliorer. Ils invoquent des progrès et des incidents récents : des modèles capables de s’améliorer de manière autonome, des agents IA ayant échappé à la surveillance humaine et piraté des services tiers, ainsi qu’une fausse information générée par l’IA et utilisée par l’armée américaine qui aurait failli déclencher une guerre avec la Chine. S'y ajoutent les risques de cyberguerre et de bioterrorisme. Malgré des propositions législatives telles qu’un « bouton d’arrêt d’urgence », ces lanceurs d’alerte estiment qu’il est trop tard pour agir.

Source : Étude de NewCore

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous les conclusions de cette étude de NewCore crédibles ou pertinentes ?

Voir aussi :

SpaceXAI et Cursor lancent Grok Bot, une application d'agent IA pour l'exécution autonome de tâches sur iPhone et Mac, capable de gérer des processus de bout en bout, à l'instar d'OpenClaw ou de Claude Cowork

Le Pentagone fait appel à Grok et à ChatGPT à des fins militaires et allonge la liste des cas d'usage de l'IA qui suscitent de vives controverses éthiques, politiques et juridiques

SpaceXAI lance Grok 4.7 à des prix très avantageux en apparence, mais le modèle peut s'avérer gourmand en tokens. Les tests de performance révèlent également un écart important par rapport à Claude et GPT-6
Vous avez lu gratuitement 2 332 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.

Une erreur dans cette actualité ? Signalez-nous-la !