L'IA générative pour les tests d'intrusion : le bon, le mauvais et le laid

Les tests de pénétration explorent les avantages, les défis et les risques associés aux applications de cybersécurité

Des chercheurs ont utilisé l'IA générative pour des tests de pénétration pour trouver les points faibles d'un système. Selon l'étude, ChatGPT s'avère efficace dans les tests de cybersécurité, mais soulève des inquiétudes quant à l'exploitation des vulnérabilités.

Une étude de l'université Charles Darwin a montré que l'intelligence artificielle (IA) peut être d'une grande aide dans la lutte contre la cybercriminalité. L'étude a été réalisée par des professeurs de l'Institut de l'énergie et des ressources de la CDU, qui ont publié leurs travaux dans l'International Journal of Information Security (Journal international de la sécurité de l'information).

Les chercheurs de l'université ont utilisé l'IA générative pour des tests de pénétration connus sous le nom de "pentesting". Le pentesting est souvent utilisé par les services de cybersécurité pour trouver les points faibles d'un système. Les tests de pentesting ont été effectués sur l'IA en lui donnant quelques évaluations et activités, puis en demandant à ChatGPT d'identifier les menaces. Le test consistait à pénétrer dans une machine informatique pour télécharger des fichiers, à analyser leur code source dans des pages web et à trouver des failles antérieures ou cachées.

Bharanidharan Shanmugam, qui a participé à cette recherche, a déclaré que cette étude avait pour but de déterminer si une IA générative telle que ChatGPT pouvait être utile pour détecter des piratages nuisibles, et que les résultats de l'étude étaient plutôt satisfaisants. Selon M. Shanmugam, ChatGPT est capable de détecter les cybercrimes menés par des systèmes et des organisations spécifiques. Pendant la période d'analyse, ChatGPT peut facilement effectuer une analyse approfondie de la cible et peut ensuite identifier les vulnérabilités et les activités de cybercriminalité dans un système.

Même si ChatGPT s'est avéré être un excellent outil durant les phases susmentionnées, il est également capable d'exploiter les vulnérabilités des machines. ChatGPT est un outil révolutionnaire pour le pentesting, mais il doit également être surveillé. Si ChatGPT doit être utilisé comme outil de cybersécurité, il doit être adopté après avoir suivi certaines pratiques et lignes directrices. En utilisant ChatGPT et d'autres outils d'IA générative, il est possible de maintenir un environnement numérique sûr.


Les chercheurs résument l'étude en déclarant :

L'importance de la cybersécurité dans le paysage numérique actuel

Alors que le monde devient de plus en plus interconnecté et dépendant des technologies numériques, l'importance de la cybersécurité s'est accrue de manière exponentielle en raison du coût de la cybercriminalité, qui devrait atteindre 8 000 milliards de dollars en 2023 et 10 500 milliards de dollars en 2025. Les cybermenaces, telles que les violations de données, les attaques par ransomware et le vol d'identité, sont devenues plus complexes et présentent des risques importants pour les particuliers, les entreprises et les pouvoirs publics. Les conséquences de ces attaques peuvent être graves, entraînant des pertes financières, des atteintes à la réputation, voire des atteintes à la vie humaine.

Il est donc essentiel d'aborder et d'atténuer ces risques de manière proactive en mettant en œuvre des mesures de cybersécurité solides, notamment des outils et des techniques avancés capables de détecter et de contrer les cybermenaces. Un test de pénétration, ou pentest, peut être effectué pour évaluer les risques ou les vulnérabilités du réseau d'une organisation ou des applications en contact avec le public.

Au départ, il s'agissait d'un processus banal, mais des progrès et une automatisation ont été introduits dans le pentest au fur et à mesure de l'évolution de la technologie. L'avènement de l'IA générative (GenAI) a suscité un grand intérêt dans le secteur de la cybersécurité, en particulier pour ses capacités à améliorer le processus de test de pénétration. Sa capacité à reproduire des scénarios du monde réel facilite le développement d'outils avancés capables de détecter un plus large éventail de vulnérabilités de type "zero-day".

Durant l'étude, ChatGPT d'OpenAI a été utilisé pour tester GenAI, bien que d'autres outils similaires puissent servir d'alternative. Enraciné dans un grand modèle de langage fondamental qui est entraîné sur un corpus massif de texte, ChatGPT a démontré son efficacité pour les applications de test de pénétration.


Contributions de l'étude

La recherche vise à étudier les avantages potentiels, les limites et l'impact de l'intégration des outils de la GenAI dans les cadres de test de pénétration traditionnels, offrant ainsi une voie structurée pour explorer, expérimenter et discuter des contributions de la GenAI à la cybersécurité. Elle veut répondre à la question : "Comment les outils de la GenAI peuvent-ils être appliqués pour améliorer l'efficacité des méthodologies de test de pénétration dans le domaine de la cybersécurité ?"

Les contributions sont donc les suivantes :

• Premièrement, examiner les avantages, les défis et les conséquences potentielles de l'utilisation de la GenAI dans le domaine de la cybersécurité, et plus particulièrement des tests de pénétration.
• Deuxièmement, les applications de la GenAI dans un engagement de pentesting simulé sont démontrées, ce qui permet de vérifier que la GenAI peut produire des commandes qui peuvent être utilisées pour mener un test de pénétration complet.
• Enfin, la GenAI peut être utilisé pour produire un rapport de test de pénétration excellent et précis qui ne manque aucun résultat clé.

Voici quelques exemples :

• Scanner la machine distante
  
  
• Déchiffrer le message codé
  
  

Conclusion

Les GenAI et les LLM ont le potentiel de révolutionner le pentesting, en offrant de nombreux avantages tels qu'une meilleure efficacité, une plus grande créativité, des environnements de test personnalisés, ainsi qu'un apprentissage et une adaptation continus. Toutefois, les applications dans ce domaine sont à double tranchant et présentent de nouveaux défis et limites, tels qu'une dépendance excessive à l'égard de l'IA, un biais de modèle potentiel ou des problèmes d...