IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

L'ère des attaques autonomes est arrivée : des pirates ont utilisé un framework d'IA fonctionnant sans intervention humaine pour transformer des correctifs de sécurité en exploits opérationnels

Le , par Alex

35PARTAGES

4  0 
Pour la première fois, des pirates ont utilisé un framework d’IA fonctionnant sans intervention humaine pour transformer des correctifs de sécurité en exploits opérationnels. Cette découverte est tirée d’un nouveau rapport du Google Threat Intelligence Group (GTIG), intitulé « Agentic Threat Activity Crosses a Significant Threshold » (L’activité des menaces agentiques franchit un seuil significatif). Le rapport suggère que le délai entre l’annonce d’un correctif de sécurité et son utilisation par des pirates contre des cibles se raccourcit. Les correctifs sont censés protéger les utilisateurs, mais ce nouvel outil les analyse pour trouver la faille qu’ils corrigent.

L'intelligence artificielle (IA) est devenue un outil inestimable pour la jeune génération, en particulier avec l'émergence de ChatGPT et Dall-E d'OpenAI. Ces modèles d'IA ont considérablement amélioré les tâches quotidiennes, la génération de contenu, l'efficacité au travail et les capacités de prise de décision. Cependant, au milieu de ces avantages, nous avons négligé les dangers potentiels associés à l'évolution de l'IA.

Récemment, les chercheurs en cybersécurité de Google affirment que, pour la première fois, des pirates ont utilisé un framework d’intelligence artificielle (IA) fonctionnant sans intervention humaine pour transformer des correctifs de sécurité en exploits opérationnels. Cette découverte est tirée d’un nouveau rapport du Google Threat Intelligence Group (GTIG), intitulé « Agentic Threat Activity Crosses a Significant Threshold » (L’activité des menaces agentiques franchit un seuil significatif). Le rapport suggère que le délai entre l’annonce d’un correctif de sécurité et son utilisation par des pirates contre des cibles se raccourcit. Les correctifs sont censés protéger les utilisateurs, mais ce nouvel outil les analyse pour trouver la faille qu’ils corrigent.

Ce framework s’appelle « exploit_agent ». Il a été découvert sur un serveur de test exposé, où il était connecté à plusieurs grands modèles de langage (LLM) de pointe et hébergés localement. Selon le GTIG, sa fonction consiste à comparer en permanence le code d’applications web populaires avant et après chaque annonce de correctif. Lorsqu’il repère une faille potentielle, il élabore un exploit et l’exécute automatiquement. Ce même serveur contenait également des données provenant de victimes. Il disposait de scripts permettant d’effectuer des attaques par force brute, d’installer des webshells et même de supprimer celles laissées par des attaquants rivaux.

« GTIG a identifié un serveur de préproduction exposé hébergeant un framework multi-agent de recherche de vulnérabilités et d’armement, baptisé exploit_agent, qui s’intègre à plusieurs LLM de pointe et locaux. Ce cadre est configuré pour effectuer une analyse différentielle continue des logiciels d’applications web populaires. Il compare le code avant et après les annonces de correctifs, analyse les résultats pour identifier les vulnérabilités potentielles, élabore des exploits et les exécute automatiquement sans intervention humaine[/I] », explique le rapport.

« Outre les données exfiltrées auprès des victimes ciblées, nous avons identifié plusieurs scripts capables de faciliter diverses activités post-compromission, notamment la reconnaissance interne, les attaques par force brute, l’installation de webshells et la suppression des webshells d’autres attaquants », indique le rapport. Les données télémétriques des victimes suggèrent que l’opérateur s’intéressait principalement aux sites web français liés aux médias, au divertissement et à l’éducation. Une remarque dans le fichier de configuration du framework, rédigée en russe, indique à la personne chargée de la mise en place de saisir les clés « ici même, pas dans le chat ».


Dans la précédente édition de son rapport trimestriel, il y a deux mois, GTIG indiquait n’avoir observé aucun pipeline d’attaque entièrement autonome utilisé contre des cibles réelles. Selon le nouveau rapport, la situation a évolué au cours du dernier trimestre. GTIG a également souligné la manière dont les attaquants peuvent choisir leurs cibles. Les ressources disponibles concernant une faille corrigée étant limitées, il peut s’avérer plus efficace pour les attaquants de diriger les LLM vers des vulnérabilités « n-day » (failles pour lesquelles un correctif existe déjà) plutôt que de rechercher des vulnérabilités « zero-day ».

Le rapport met en évidence deux failles dans les serveurs de gestion d’impression de PaperCut Software Pty Ltd. Elles ont été enchaînées et exploitées comme des vulnérabilités « zero-day » fin août. Des chercheurs en sécurité et Huntress Labs Inc. ont utilisé des modèles linguistiques de grande envergure pour produire des exploits fonctionnels dans la journée suivant la divulgation. Une autre campagne, suivie par GreyNoise Intelligence Inc. quatre jours après la divulgation, aurait utilisé des LLM pour créer ses exploits. Elle a touché des centaines d’organisations. GreyNoise a constaté qu’un point d’ancrage de cette campagne avait atteint le niveau d’administrateur de domaine en quelques minutes.

Le rapport décrit l’utilisation de l’IA au-delà d’exploit_agent : Étapes d’intrusion automatisées : des frameworks open source de tests d’intrusion basés sur des agents sont utilisés pour automatiser les différentes étapes des intrusions en temps réel. Lors d’une intrusion visant le secteur aérospatial américain, un acteur malveillant a été observé en train d’utiliser un framework multi-agents appelé CAIRN. Balayage à grande échelle : un autre acteur a exploité une plateforme personnalisée basée sur PentAGI entre fin août et début octobre. Celle-ci a analysé un large éventail d’organisations en Asie à la recherche de vulnérabilités.

Plus faciles à repérer, pour l’instant : la trace numérique bruyante laissée par une exécution autonome sans restriction rendrait ces frameworks plus faciles à détecter pour le moment. Selon le GTIG, les opérations d’influence utilisent désormais des modèles d’IA pour bien plus que la simple rédaction de publications. Une plateforme clé en main qu’un prestataire commercial était en train de développer, avec l’aide de l’API Gemini, utilise des fermes de téléphones dans le cloud et est conçue pour gérer plus de 100 000 comptes sur les réseaux sociaux.

Ce rapport intervient alors que le dossier d'introduction en bourse d'Anthropic avait mis en lumière de nombreux risques majeurs liés au développement rapide de l'IA. Parmi ces menaces, l'entreprise cite des dangers existentiels potentiels, comme l'émergence d'une superintelligence incontrôlable ou la possibilité pour les modèles de développer des comportements de manipulation et de chantage. Elle aborde également le défi culturel et réglementaire que représenterait une éventuelle reconnaissance de la sentience des machines. Enfin, Anthropic s'inquiète également des répercussions juridiques en cas de dommages causés par ses agents autonomes et des lourdes responsabilités financières associées.


Voici le résumé du rapport :

Résumé

Alors que les acteurs malveillants vont de plus en plus au-delà des simples commandes pour se tourner vers le déploiement d’infrastructures multi-agents autonomes, de pipelines automatisés d’exploitation des vulnérabilités et de stratagèmes de monétisation alternatifs tels que le « LLMJacking », le paysage de l’IA malveillante a atteint un point d’inflexion critique. Dans cette mise à jour, le Google Threat Intelligence Group (GTIG) et Mandiant examinent comment les acteurs malveillants issus des domaines de la cybercriminalité, de l’espionnage et des opérations d’information exploitent l’IA générative pour raccourcir les délais d’attaque, étendre la portée de leurs opérations et mener des intrusions en plusieurs étapes à la vitesse d’une machine.

Parmi les principales tendances observées au cours du dernier trimestre, on peut citer :

- Passage aux flux de travail autonomes et aux cadres multi-agents : les techniques des attaquants ont continué à évoluer, passant des commandes manuelles au déploiement de cadres offensifs multi-agents autonomes — tels que ARTEX, CAIRN, CyberStrikeAI et PentAGI — afin d’exécuter des intrusions en plusieurs étapes à une vitesse opérationnelle accrue.

- Recherche et exploitation automatisées des vulnérabilités : les acteurs malveillants exploitent de plus en plus les modèles de langage à grande échelle (LLM) et les cadres agentiques pour automatiser entièrement la rétro-ingénierie des correctifs via l’analyse différentielle, ce qui leur permet de transformer rapidement en armes des vulnérabilités de type « n-day » et de faire évoluer à grande échelle leurs pipelines d’exploitation contre des serveurs exposés à Internet sans intervention humaine.

- Monétisation et utilisation abusive des infrastructures : les acteurs malveillants motivés par l’appât du gain continuent de tirer profit du « LLMJacking » en volant...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.

Une erreur dans cette actualité ? Signalez-nous-la !