L'utilisation de l'IA par les entreprises connaît une croissance annuelle de 3000 %, soulignant l'adoption rapide de l'IA

Mais avec des risques de sécurité tels que la fuite de données ou l'accès non autorisé

Le nouveau rapport de Zscaler sur la sécurité de l'IA révèle une augmentation de plus de 3 000 % de l'utilisation des outils d'IA/ML par les entreprises. ChatGPT est l'application d'IA/ML la plus populaire, représentant près de la moitié de toutes les transactions d'IA/ML (45,2 %) et est également l'application d'IA la plus bloquée, suivie par Grammarly et Microsoft Copilot en tant que deuxième et troisième applications les plus bloquées, respectivement. En outre, l'IA agentique et le modèle open-source DeepSeek créent de nouvelles opportunités pour les acteurs de la menace d'utiliser l'IA, d'automatiser et d'étendre leurs attaques.

L'intelligence artificielle (IA) est rapidement passée du statut de phénomène de mode à celui de nécessité commerciale au cours de l'année 2024. Pour rappel, l'IA désigne la capacité des systèmes informatiques à effectuer des tâches typiquement associées à l'intelligence humaine, telles que l'apprentissage, le raisonnement, la résolution de problèmes, la perception et la prise de décision.

L'IA changeant fondamentalement le mode de fonctionnement des entreprises et la façon dont les cybercriminels attaquent, les organisations doivent maintenir une compréhension actuelle et complète du paysage de l'IA d'entreprise. Un nouveau rapport de Zscaler, le "ThreatLabz 2025 AI Security Report", révèle une croissance de 3 000 % d'une année sur l'autre dans l'utilisation des outils d'IA/ML par les entreprises, soulignant l'adoption rapide des technologies d'IA à travers les industries pour débloquer de nouveaux niveaux de productivité, d'efficacité et d'innovation.

Cette montée en puissance de l'adoption s'accompagne toutefois de préoccupations accrues en matière de sécurité. Selon l'étude, les entreprises ont bloqué 59,9 % de toutes les transactions d'IA/ML, ce qui indique une prise de conscience des risques potentiels associés aux outils d'IA/ML, notamment les fuites de données, les accès non autorisés et les violations de la conformité. Les acteurs de la menace exploitent également de plus en plus l'IA pour amplifier la sophistication, la vitesse et l'impact des attaques -- ce qui oblige les entreprises à repenser leurs stratégies de sécurité.

Les entreprises envoient d'importants volumes de données aux outils d'IA, pour un total de 3 624 To. ChatGPT apparaît comme l'application d'IA/ML la plus utilisée, à l'origine de 45,2 % des transactions d'IA/ML identifiées dans le Zscaler Zero Trust Exchange. Cependant, il s'agit également de l'outil le plus bloqué en raison des préoccupations croissantes des entreprises concernant l'exposition des données sensibles et l'utilisation non autorisée. Parmi les autres applications fréquemment bloquées figurent Grammarly, Microsoft Copilot, QuillBot et Wordtune, qui témoignent d'une large utilisation de l'IA pour la création de contenu et l'amélioration de la productivité.


D'autres rapports permettent de mieux comprendre le rapport de Zscaler. Un rapport de Legit Security a, par exemple, révélé que 96 % des professionnels de la sécurité et du développement de logiciels déclarent que leurs entreprises utilisent des solutions basées sur l'IA générative pour créer ou fournir des applications. Cependant, la plupart des développeurs (85 %) et des équipes de sécurité (75 %) ont des inquiétudes en matière de sécurité quant au fait de s'appuyer sur l'IA générative (GenAI) pour développer des logiciels.

Une autre rapport avait remis en cause les affirmations selon lesquelles les outils d'IA de codage améliorent la productivité des développeurs, le cas d'utilisation le plus observé en entreprise. Elle révèle que l'utilisation de GitHub Copilot a entraîné une augmentation de 41 % des bogues, soulevant des inquiétudes quant à la qualité du code. Malgré la diminution des heures de travail pour les groupes de contrôle et de test, ceux qui ont utilisé GitHub Copilot n'ont pas été soulagés de l'épuisement professionnel, ce qui indique l'efficacité limitée de l'outil dans la réduction du stress lié au travail. Les développeurs passent désormais plus de temps à examiner le code généré par l'IA, ce qui pourrait contrebalancer tout gain de temps.

Pour revenir au rapport "ThreatLabz 2025 AI Security Report", voici les points clés du rapport :

5 résultats clés : Utilisation de l'IA et tendances des menaces

L'équipe de recherche de ThreatLabz a analysé l'activité de plus de 800 applications IA/ML connues entre février et décembre 2024. Les résultats suivants révèlent des tendances notables - et des préoccupations - autour de l'utilisation de l'IA :

1. L'utilisation de l'IA/ML a augmenté de façon exponentielle : Les transactions d'IA/ML dans le cloud de Zscaler ont été multipliées par 36 (+3 464,6 %) d'une année sur l'autre, soulignant la croissance explosive de l'adoption de l'IA par les entreprises. Cette augmentation a été alimentée par ChatGPT, Microsoft Copilot, Grammarly et d'autres outils d'IA générative, qui ont représenté la majorité du trafic lié à l'IA à partir d'applications connues.
   
   
   
2. Les entreprises ont bloqué une grande partie des transactions liées à l'IA : 59,9 % des transactions d'IA/ML ont été bloquées, ce qui témoigne des préoccupations liées à la sécurité des données et à l'utilisation incontrôlée des applications d'IA. Alors que les organisations s'efforcent d'établir des cadres de gouvernance de l'IA, nombre d'entre elles adoptent une approche prudente, limitant l'accès à certaines applications d'IA à mesure qu'elles affinent les politiques relatives à la protection des données.
3. Les États-Unis et l'Inde génèrent le plus de trafic IA/ML : Les États-Unis et l'Inde ont enregistré le plus grand volume de transactions IA/ML dans le cloud de Zscaler, ce qui reflète une forte adoption par les entreprises et un intérêt croissant pour l'innovation axée sur l'IA. Les autres principaux contributeurs sont le Royaume-Uni, l'Allemagne et le Japon, chacun affichant des niveaux d'activité IA/ML différents, reflétant des approches distinctes pour équilibrer l'utilisation de l'IA avec la sécurité, la conformité et les considérations réglementaires régionales.
4. Les secteurs de la finance et de l'assurance et de l'industrie manufacturière dominent l'adoption de l'IA : Les secteurs de la finance et de l'assurance (28,4 %) et de l'industrie manufacturière (21,6 %) sont ceux qui ont généré le plus de trafic IA/ML. Ensuite, les secteurs de la technologie, de la santé et du gouvernement intègrent l'IA à des rythmes différents, tout en naviguant entre l'adoption et l'appréhension.
   
   
   
5. Les cyberrisques liés à l'IA s'intensifient : Les acteurs de la menace tirent parti de l'IA pour améliorer les campagnes de phishing, les attaques automatisées et créer des contenus réalistes de type « deepfake ». Les chercheurs de ThreatLabz ont démontré comment DeepSeek peut être manipulé pour générer rapidement des pages de phishing qui imitent des marques de confiance. En outre, ThreatLabz a découvert une campagne de logiciels malveillants dans laquelle les attaquants ont créé une fausse plateforme d'IA pour exploiter l'intérêt pour l'IA et inciter les victimes à télécharger des logiciels malveillants.

Évolution des risques liés à l'IA dans les entreprises

Actuellement, les entreprises sont confrontées à un double défi croissant : (1) sécuriser l'adoption inévitable et rapide de l'IA/ML dans leurs environnements et (2) se défendre contre les cybermenaces de plus en plus sophistiquées basées sur l'IA. Il est essentiel de rester informé des derniers risques de sécurité liés à l'IA et de leurs conséquences commerciales considérables.

Parmi les risques liés à l'IA, le rapport cite :

• L'IA fantôme et fuite de données : Les questions clés que les entreprises doivent se poser pour contrôler l'utilisation non autorisée d'outils d'IA susceptibles d'exposer des données sensibles.
• Les campagnes de phishing générées par l'IA : Une étude de cas de ThreatLabz montre comment DeepSeek peut créer une page de phishing en seulement cinq invites.
• L'ingénierie sociale pilotée par l'IA : Un aperçu de l'utilisation croissante de l'IA dans le domaine de l'ingénierie sociale, des vidéos « deepfake » à l'usurpation d'identité vocale utilisée pour escroquer les entreprises.
• Les campagnes de logiciels malveillants exploitant l'intérêt pour l'IA : l'enquête de ThreatLabz sur une campagne de logiciels malveillants révèle comment les attaquants attirent les victimes avec une fausse plateforme d'IA pour leur livrer le voleur d'informations Rhadamanthys.
• Les dangers de l'IA open source : comment les modèles non restreints comme DeepSeek introduisent des risques de sécurité, de l'exposition accidentelle de données à l'exfiltration de données.
• L'essor de l'IA agentique : les défis et les risques associés aux systèmes d'IA autonomes capables d'exécuter des tâches avec une supervision humaine minimale.

Alors que l'adoption de l'IA continue de gagner du terrain et devient essentielle, les entreprises doivent renforcer de manière proactive leurs postures de sécurité pour protéger les outils d'IA/ML, appliquer des politiques de gouvernance et se défendre contre les menaces liées à l'IA.

Sécuriser l'IA et écarter les menaces liées à l'IA grâce à l'IA

Deepen Desai, Chief Security Officer chez Zscaler, présente notamment le rapport :