L'utilisation de l'IA par les entreprises connaît une croissance annuelle de 3000 %, soulignant l'adoption rapide de l'IA, mais avec des risques de sécurité tels que la fuite de données ou l'accès non autoriséLe nouveau rapport de Zscaler sur la sécurité de l'IA révèle une augmentation de plus de 3 000 % de l'utilisation des outils d'IA/ML par les entreprises. ChatGPT est l'application d'IA/ML la plus populaire, représentant près de la moitié de toutes les transactions d'IA/ML (45,2 %) et est également l'application d'IA la plus bloquée, suivie par Grammarly et Microsoft Copilot en tant que deuxième et troisième applications les plus bloquées, respectivement. En outre, l'IA agentique et le modèle open-source DeepSeek créent de nouvelles opportunités pour les acteurs de la menace d'utiliser l'IA, d'automatiser et d'étendre leurs attaques.
L'intelligence artificielle (IA) est rapidement passée du statut de phénomène de mode à celui de nécessité commerciale au cours de l'année 2024. Pour rappel, l'IA désigne la capacité des systèmes informatiques à effectuer des tâches typiquement associées à l'intelligence humaine, telles que l'apprentissage, le raisonnement, la résolution de problèmes, la perception et la prise de décision.
L'IA changeant fondamentalement le mode de fonctionnement des entreprises et la façon dont les cybercriminels attaquent, les organisations doivent maintenir une compréhension actuelle et complète du paysage de l'IA d'entreprise. Un nouveau rapport de Zscaler, le "ThreatLabz 2025 AI Security Report", révèle une croissance de 3 000 % d'une année sur l'autre dans l'utilisation des outils d'IA/ML par les entreprises, soulignant l'adoption rapide des technologies d'IA à travers les industries pour débloquer de nouveaux niveaux de productivité, d'efficacité et d'innovation.
Cette montée en puissance de l'adoption s'accompagne toutefois de préoccupations accrues en matière de sécurité. Selon l'étude, les entreprises ont bloqué 59,9 % de toutes les transactions d'IA/ML, ce qui indique une prise de conscience des risques potentiels associés aux outils d'IA/ML, notamment les fuites de données, les accès non autorisés et les violations de la conformité. Les acteurs de la menace exploitent également de plus en plus l'IA pour amplifier la sophistication, la vitesse et l'impact des attaques -- ce qui oblige les entreprises à repenser leurs stratégies de sécurité.
Les entreprises envoient d'importants volumes de données aux outils d'IA, pour un total de 3 624 To. ChatGPT apparaît comme l'application d'IA/ML la plus utilisée, à l'origine de 45,2 % des transactions d'IA/ML identifiées dans le Zscaler Zero Trust Exchange. Cependant, il s'agit également de l'outil le plus bloqué en raison des préoccupations croissantes des entreprises concernant l'exposition des données sensibles et l'utilisation non autorisée. Parmi les autres applications fréquemment bloquées figurent Grammarly, Microsoft Copilot, QuillBot et Wordtune, qui témoignent d'une large utilisation de l'IA pour la création de contenu et l'amélioration de la productivité.
D'autres rapports permettent de mieux comprendre le rapport de Zscaler. Un rapport de Legit Security a, par exemple, révélé que 96 % des professionnels de la sécurité et du développement de logiciels déclarent que leurs entreprises utilisent des solutions basées sur l'IA générative pour créer ou fournir des applications. Cependant, la plupart des développeurs (85 %) et des équipes de sécurité (75 %) ont des inquiétudes en matière de sécurité quant au fait de s'appuyer sur l'IA générative (GenAI) pour développer des logiciels.
Une autre rapport avait remis en cause les affirmations selon lesquelles les outils d'IA de codage améliorent la productivité des développeurs, le cas d'utilisation le plus observé en entreprise. Elle révèle que l'utilisation de GitHub Copilot a entraîné une augmentation de 41 % des bogues, soulevant des inquiétudes quant à la qualité du code. Malgré la diminution des heures de travail pour les groupes de contrôle et de test, ceux qui ont utilisé GitHub Copilot n'ont pas été soulagés de l'épuisement professionnel, ce qui indique l'efficacité limitée de l'outil dans la réduction du stress lié au travail. Les développeurs passent désormais plus de temps à examiner le code généré par l'IA, ce qui pourrait contrebalancer tout gain de temps.
Pour revenir au rapport "ThreatLabz 2025 AI Security Report", voici les points clés du rapport :
5 résultats clés : Utilisation de l'IA et tendances des menaces
L'équipe de recherche de ThreatLabz a analysé l'activité de plus de 800 applications IA/ML connues entre février et décembre 2024. Les résultats suivants révèlent des tendances notables - et des préoccupations - autour de l'utilisation de l'IA :
- L'utilisation de l'IA/ML a augmenté de façon exponentielle : Les transactions d'IA/ML dans le cloud de Zscaler ont été multipliées par 36 (+3 464,6 %) d'une année sur l'autre, soulignant la croissance explosive de l'adoption de l'IA par les entreprises. Cette augmentation a été alimentée par ChatGPT, Microsoft Copilot, Grammarly et d'autres outils d'IA générative, qui ont représenté la majorité du trafic lié à l'IA à partir d'applications connues.
- Les entreprises ont bloqué une grande partie des transactions liées à l'IA : 59,9 % des transactions d'IA/ML ont été bloquées, ce qui témoigne des préoccupations liées à la sécurité des données et à l'utilisation incontrôlée des applications d'IA. Alors que les organisations s'efforcent d'établir des cadres de gouvernance de l'IA, nombre d'entre elles adoptent une approche prudente, limitant l'accès à certaines applications d'IA à mesure qu'elles affinent les politiques relatives à la protection des données.
- Les États-Unis et l'Inde génèrent le plus de trafic IA/ML : Les États-Unis et l'Inde ont enregistré le plus grand volume de transactions IA/ML dans le cloud de Zscaler, ce qui reflète une forte adoption par les entreprises et un intérêt croissant pour l'innovation axée sur l'IA. Les autres principaux contributeurs sont le Royaume-Uni, l'Allemagne et le Japon, chacun affichant des niveaux d'activité IA/ML différents, reflétant des approches distinctes pour équilibrer l'utilisation de l'IA avec la sécurité, la conformité et les considérations réglementaires régionales.
- Les secteurs de la finance et de l'assurance et de l'industrie manufacturière dominent l'adoption de l'IA : Les secteurs de la finance et de l'assurance (28,4 %) et de l'industrie manufacturière (21,6 %) sont ceux qui ont généré le plus de trafic IA/ML. Ensuite, les secteurs de la technologie, de la santé et du gouvernement intègrent l'IA à des rythmes différents, tout en naviguant entre l'adoption et l'appréhension.
- Les cyberrisques liés à l'IA s'intensifient : Les acteurs de la menace tirent parti de l'IA pour améliorer les campagnes de phishing, les attaques automatisées et créer des contenus réalistes de type « deepfake ». Les chercheurs de ThreatLabz ont démontré comment DeepSeek peut être manipulé pour générer rapidement des pages de phishing qui imitent des marques de confiance. En outre, ThreatLabz a découvert une campagne de logiciels malveillants dans laquelle les attaquants ont créé une fausse plateforme d'IA pour exploiter l'intérêt pour l'IA et inciter les victimes à télécharger des logiciels malveillants.
Évolution des risques liés à l'IA dans les entreprises
Actuellement, les entreprises sont confrontées à un double défi croissant : (1) sécuriser l'adoption inévitable et rapide de l'IA/ML dans leurs environnements et (2) se défendre contre les cybermenaces de plus en plus sophistiquées basées sur l'IA. Il est essentiel de rester informé des derniers risques de sécurité liés à l'IA et de leurs conséquences commerciales considérables.
Parmi les risques liés à l'IA, le rapport cite :
- L'IA fantôme et fuite de données : Les questions clés que les entreprises doivent se poser pour contrôler l'utilisation non autorisée d'outils d'IA susceptibles d'exposer des données sensibles.
- Les campagnes de phishing générées par l'IA : Une étude de cas de ThreatLabz montre comment DeepSeek peut créer une page de phishing en seulement cinq invites.
- L'ingénierie sociale pilotée par l'IA : Un aperçu de l'utilisation croissante de l'IA dans le domaine de l'ingénierie sociale, des vidéos « deepfake » à l'usurpation d'identité vocale utilisée pour escroquer les entreprises.
- Les campagnes de logiciels malveillants exploitant l'intérêt pour l'IA : l'enquête de ThreatLabz sur une campagne de logiciels malveillants révèle comment les attaquants attirent les victimes avec une fausse plateforme d'IA pour leur livrer le voleur d'informations Rhadamanthys.
- Les dangers de l'IA open source : comment les modèles non restreints comme DeepSeek introduisent des risques de sécurité, de l'exposition accidentelle de données à l'exfiltration de données.
- L'essor de l'IA agentique : les défis et les risques associés aux systèmes d'IA autonomes capables d'exécuter des tâches avec une supervision humaine minimale.
Alors que l'adoption de l'IA continue de gagner du terrain et devient essentielle, les entreprises doivent renforcer de manière proactive leurs postures de sécurité pour protéger les outils d'IA/ML, appliquer des politiques de gouvernance et se défendre contre les menaces liées à l'IA.
Sécuriser l'IA et écarter les menaces liées à l'IA grâce à l'IA
Deepen Desai, Chief Security Officer chez Zscaler, présente notamment le rapport :
Le rapport ThreatLabz 2025 AI Security Report fournit des conseils détaillés aux entreprises qui cherchent à adopter l'IA en toute sécurité tout en minimisant les risques et en stoppant les cybermenaces alimentées par l'IA.
À un niveau élevé, à mesure que les organisations intègrent davantage d'IA dans leurs flux de travail, elles doivent également repenser les stratégies de sécurité pour tenir compte des nouvelles vulnérabilités, des surfaces d'attaque élargies et des attaques assistées par l'IA. Les approches de sécurité traditionnelles reposant sur les pare-feu et les VPN ne peuvent pas suivre la vitesse et la sophistication des menaces alimentées par l'IA. Les entreprises doivent adopter la confiance zéro comme fondement, en éliminant la confiance implicite, en appliquant l'accès au moindre privilège et en vérifiant en permanence toutes les interactions avec l'IA.
L'architecture de confiance zéro de Zscaler offre une confiance zéro partout - sécurisant les communications des utilisateurs, des charges de travail et de l'IoT/OT - infusée avec des capacités d'IA complètes. Ses modèles d'IA détectent et perturbent les menaces avancées, bloquant des millions d'attaques chaque jour pour améliorer les résultats de sécurité de l'entreprise et atténuer les risques émergents.
Le rapport détaille comment arrêter les menaces alimentées par l'IA avec Zscaler, y compris ces mesures de sécurité fondamentales :
- Architecture de confiance zéro : Réduire la surface d'attaque en cachant les applications et les adresses IP aux attaquants et en appliquant l'accès au moindre privilège.
- Protection contre les cybermenaces alimentées par l'IA : Détecter et bloquer en temps réel les campagnes de phishing générées par l'IA, les exploits adverses et les logiciels malveillants pilotés par l'IA.
- Classification des données et DLP pilotées par l'IA : utilisez la classification pilotée par l'IA pour détecter et protéger les données sensibles dans la Data Fabric de Zscaler.
- Segmentation des applications alimentée par l'IA : Stoppez les mouvements latéraux au sein des réseaux, en veillant à ce que les attaquants ne puissent pas facilement escalader leurs privilèges ou accéder aux systèmes critiques.
- Prédiction des brèches alimentée par l'IA : Prévenir les scénarios de violation potentiels à l'aide de l'IA générative et de modèles prédictifs multidimensionnels.
- Informations en temps réel sur l'IA : Utiliser l'IA prédictive et générative pour obtenir des informations exploitables qui améliorent les opérations de sécurité et les performances numériques.
- Visibilité de l'IA : Obtenez une visibilité approfondie sur les tendances et les interactions des applications d'IA grâce à des tableaux de bord interactifs.
Au-delà de la défense contre les menaces induites par l'IA, les entreprises doivent également s'assurer que l'adoption de l'IA est sécurisée et contrôlée.
Source : Zscaler ThreatLabz 2025 AI Security Report
Et vous ?
Pensez-vous que ce rapport est crédible ou pertinent ? Quel est votre avis sur le sujet ?Voir aussi :
L'utilisation de l'IA par les entreprises a explosé de 595 % d'avril 2023 à janvier 2024 : L'IA devenant également un moteur pour les cybermenaces avec des attaques plus sophistiquées et plus efficaces L'engouement pour l'IA s'essouffle : pour la première fois, les taux d'adoption plafonnent et l'enthousiasme s'essouffle parmi la main-d'œuvre mondiale. Les employés cachent leur utilisation de l'IA Les dépenses mondiales en intelligence artificielle (IA) devraient atteindre 632 milliards de dollars en 2028 avec une croissance annuelle de 29 %, selon IDC
Vous avez lu gratuitement 3 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.