Une nouvelle étude de Netskope Threat Labs a révélé que 94 % des organisations utilisent désormais des applications d'intelligence artificielle (IA) générative, mais il est intéressant de noter que plus de 99 % d'entre elles ont mis en place des contrôles pour atténuer les risques qu'elles posent.L'intelligence artificielle générative (IA générative ou GenAI) est, rappelons-le, un sous-ensemble de l'IA qui utilise des modèles génératifs pour produire du texte, des images, des vidéos ou d'autres formes de données. Ces modèles apprennent les motifs et structures sous-jacents de leurs données d'apprentissage et les utilisent pour produire de nouvelles données sur la base de l'input, qui se présentent souvent sous la forme d'instructions génératives en langage naturel.
D'après une étude d'Appsbroker et de CTS publiée en 2023, 83 % des responsables informatiques pensent que la GenAI va transformer toutes les facettes de la société et de l'entreprise. L'étude indique en outre que 78 % d'entre elles considèrent qu'une meilleure compréhension des effets potentiellement perturbateurs de cette technologie est une priorité absolue.
Le récent rapport de Netskope révèle que l'utilisation d'applications d'IA générative a continué d'augmenter tout au long de l'année 2024 en termes de trois métriques clés.
- Adoption par les organisations - 94 % des organisations utilisent désormais des apps GenAI, contre 81 % il y a un an.
- Nombre d'utilisateurs - 7,8 % des personnes d'une organisation utilisent en moyenne des apps GenAI, soit le triple de la moyenne de 2,6 % à la fin de 2023.
- Adoption des applications - Les organisations utilisent en moyenne 9,6 applications GenAI, contre 7,6 il y a un an.
En résumé, le nombre d'organisations utilisant la GenAI, le nombre d'utilisateurs de la GenAI et le nombre d'organisations utilisant des applications de GenAI sont plus élevés qu'il y a un an. En outre, ces trois indicateurs devraient continuer à augmenter tout au long de l'année 2025 à mesure que les applications de GenAI consolident leur position en tant que pilier de l'entreprise, précise l'étude.
Adoption par les organisations
L'étude révèle que le pourcentage d'organisations utilisant des applications de GenAI continue de croître, passant de 81 % à la fin de 2023 à 94 % à la fin de l'année 2024. Alors que l'adoption approche des 100 %, ce taux de croissance a considérablement ralenti.
Sur la trajectoire actuelle, 96 % des organisations utiliseront des applications de GenAI d'ici la fin 2025, prévoit Netskope. Les secteurs où les taux d'adoption de l'IA sont les plus faibles et qui connaîtront des augmentations l'année prochaine comprennent les banques, les gouvernements d'État, les administrations locales et l'éducation. Même dans ces secteurs, l'adoption est déjà élevée, à 85 % ou plus.
Nombre d'utilisateurs
Le nombre de personnes utilisant des applications de GenAI a triplé au cours de l'année écoulée, passant de 2,6 % à 7,8 % dans l'organisation moyenne, indique le rapport de Netskope. Les 25 % d'organisations les plus performantes comptaient au moins 21 % de personnes utilisant des applications de GenAI, tandis que les 1 % les moins performantes n'en comptaient que 1,7 %.
Au rythme de croissance actuel, Netskope prévoit que le nombre d'utilisateurs de GenAI doublera au cours de l'année 2025. Les organisations ayant les nombres moyens d'utilisateurs les plus élevés comprennent les secteurs de la vente au détail et de la technologie, avec en moyenne plus de 13 % de leurs employés utilisant des applications de GenAI.
D'après l'étude, les 25 % d'organisations les plus importantes dans le secteur de la vente au détail comptaient au moins 34 % de personnes utilisant des applications de GenAI, tandis que les 25 % d'organisations les plus importantes dans le secteur de la technologie étaient en tête de tous les autres secteurs avec au moins 41 % de personnes utilisant des applications de GenAI. À l'autre extrémité du spectre, le secteur bancaire est à la traîne avec seulement 3 % des utilisateurs de l'organisation moyenne utilisant la GenAI.
Adoption des applications
D'après l'étude de Netskope, l'organisation moyenne utilise 9,6 applications de GenAI, contre 7,6 il y a un an. Les 25 % d'organisations les plus performantes utilisent aujourd'hui au moins 24 applications, tandis que les 25 % d'organisations les moins performantes utilisent au maximum quatre applications. Au rythme actuel, Netskope prévoit que la moyenne augmentera modestement de deux applications supplémentaires en 2025, de même que les premier et troisième quartiles.
Les quatre applications de GenAI populaires qui ont tiré l'augmentation du nombre d'applications par organisation sont Google Gemini, Microsoft Copilot, Perplexity AI et GitHub Copilot, dont la popularité a bondi en 2024. Bien qu'elles n'aient pas pu rattraper ChatGPT et Grammarly, qui ont conservé leur statut d'applications les plus populaires, elles ont dépassé toutes les autres. Sur la base de leur trajectoire actuelle, ces quatre applications sont sur le point de dépasser Grammarly en 2025.
La figure ci-dessous montre la série chronologique de l'adoption des 10 principales applications au cours de l'année écoulée. ChatGPT, Google Gemini et Perplexity AI ont augmenté d'environ 20 points de pourcentage au cours de l'année. Les deux seules applications ayant enregistré des gains plus importants sont Microsoft Copilot et GitHub Copilot, de nouvelles offres de Microsoft, qui ont toutes deux connu une croissance substantielle immédiatement après leur mise à disposition générale. Leurs taux de croissance ont depuis ralenti, mais les deux applications sont toujours prêtes à poursuivre leur ascension jusqu'en 2025. Toutes les applications de GenAI figurant dans le top 10 ont vu leur adoption augmenter d'au moins six points de pourcentage au cours de l'année écoulée et continueront à faire des gains supplémentaires en 2025.
Contrôles pour atténuer les risques posés par les applications de GenAI
L'étude a mis en évidence le fait que l'utilisation personnelle des applications de GenAI présente un risque pour la sécurité des données. L'étude souligne notamment les défis auxquels les organisations sont confrontées en matière de sécurité des données et la manière dont elles contrôlent ce risque.
Les principaux risques sont présentés sur la figure ci-dessous, qui montre la répartition des violations de politiques pour les données envoyées aux applications de GenAI. Le code source, les données réglementées (telles que les données personnelles, financières ou de santé), la propriété intellectuelle, les mots de passe et les clés (généralement divulgués dans le code source) représentent tous un pourcentage important des violations. Les données chiffrées, un défi pour les applications personnelles en général, ne le sont pas pour les applications de GenAI, où le téléchargement de données chiffrées n'a pas de valeur.
Alors que 94 % des organisations utilisent des applications de GenAI, plus de 99 % d'entre elles ont mis en place des contrôles pour atténuer les risques que posent les applications de GenAI. Selon l'étude, les trois des contrôles les plus courants pour gérer les risques liés aux données de la GenAI sont :
- Le blocage : Le blocage est courant, 73 % des organisations bloquant au moins une application et l'ampleur des blocages augmentant dans les organisations les plus agressives.
- Coaching : L'accompagnement interactif en temps réel des utilisateurs est utilisé dans 34 % des organisations pour contrôler le risque lié aux données GenAI en donnant aux individus les moyens de prendre des décisions éclairées sur le risque lié à l'IA en temps réel.
- DLP : L'adoption de la protection contre la perte de données (DLP) continue d'augmenter, avec 45 % des organisations qui utilisent la DLP pour contrôler le flux de données dans les applications GenAI.
Le blocage
Le blocage est une stratégie efficace pour les applications qui n'ont pas d'utilité professionnelle et qui ne devraient en aucun cas être utilisées. Le rapport montre que 73 % des organisations bloquent au moins une application de GenAI, avec un taux constant de 2,4 applications bloquées en moyenne d'une année sur l'autre. En revanche, le nombre d'applications bloquées par les 25 % d'organisations les plus importantes a considérablement augmenté, puisqu'il a plus que doublé, passant de 6,3 à 14,6 au cours de l'année écoulée.
Les secteurs qui bloquent le plus d'applications sont les secteurs très réglementés de la banque, des services financiers, des soins de santé et des télécommunications. À l'autre extrémité du spectre, les industries manufacturières, de la vente au détail et de la technologie sont celles qui bloquent le moins d'applications GenAI en moyenne.
La liste des 10 applications d'IA les plus bloquées révèle plusieurs catégories, dont les assistants d'écriture, les chatbots, les générateurs d'images et les générateurs audio. Cette liste est restée sensiblement la même depuis l'été 2024, à une exception notable près : Perplexity AI est devenue moins souvent bloquée au fur et à mesure qu'elle gagnait en popularité.
L’accompagnement interactif en temps réel
Le coaching ou l'accompagnement interactif en temps réel aide les utilisateurs à prendre des décisions éclairées sur la sécurité des données lorsqu'ils sont confrontés à des choix difficiles. Par exemple, il peut rappeler à un utilisateur que l'appli GenAI qu'il s'apprête à utiliser n'est pas approuvée pour les données sensibles et lui demander s'il souhaite quand même l'utiliser. Cette stratégie permet à l'individu, qui comprend généralement les données et le contenu de l'entreprise, de prendre la bonne décision. L'accompagnement des utilisateurs en temps réel réduit le risque de la GenAI dans 34 % des organisations dans le monde. Le coaching des utilisateurs en temps réel est populaire dans tous les secteurs d'activité, le commerce de détail étant le secteur où le taux d'adoption est le plus élevé.
L'accompagnement des utilisateurs en temps réel est un outil très efficace pour aider à façonner le comportement des utilisateurs. L'introduction du rapport de Netskope a souligné que les individus ont tendance à prendre des décisions relatives à la cybersécurité sous la contrainte (par exemple, lorsqu'ils travaillent sur un projet dont l'échéance est urgente) et en disposant d'informations limitées (par exemple, lorsqu'ils ne sont pas pleinement conscients des politiques de l'organisation et des risques qu'elles impliquent). L'accompagnement en temps réel de l'utilisateur permet de relever le défi de l'information limitée : « Vous êtes sur le point de poster un fichier qui semble contenir des noms de patients sur ChatGPT, ce qui violerait les politiques de notre entreprise. Voulez-vous continuer ? »
Le rapport de Netskope indique que dans 27 % des cas seulement, l'utilisateur poursuit sa démarche lorsqu'il reçoit un message de coaching en temps réel. Dans les 73 % restants, l'utilisateur décide de ne pas continuer sur la base des informations fournies dans l'invite de coaching. Le coaching est un équilibre délicat : trop de coaching entraînera une fatigue cognitive et les utilisateurs cliqueront automatiquement sur « oui ». Un taux de poursuite élevé indique une fatigue cognitive et un coaching inefficace. Les organisations qui tirent parti du coaching des utilisateurs devraient donc régulièrement examiner les taux auxquels les utilisateurs choisissent de poursuivre et utiliser les réactions au coaching pour élaborer des politiques plus nuancées.
La protection contre la perte de données (DLP)
La DLP peut inspecter en temps réel les instructions génératives et autres données envoyées aux applications GenAI et prendre des décisions d'autorisation ou de blocage en fonction de leur contenu. Elle peut également être utilisée dans le cadre de l'accompagnement des utilisateurs en temps réel, en notifiant à un utilisateur qu'une invite qu'il affiche contient des informations sensibles et en lui demandant s'il souhaite tout de même l'envoyer. La DLP en tant que stratégie d'atténuation du risque de la GenAI gagne en popularité à l'échelle mondiale à des taux modestes, passant de 42 % à l'été 2024 à 45 % à la fin de l'année. L'adoption de la DLP varie considérablement selon les secteurs, le secteur des télécommunications étant en tête de tous les autres avec 64 % d'adoption de la DLP pour la GenAI.
« Le point commun des organisations qui s'efforcent de permettre l'utilisation en toute sécurité des applications dans l'entreprise et d'atténuer les défis du paysage des menaces est la nécessité d'une sécurité des données moderne », déclare Ray Canzanese, directeur de Netskope Threat Labs. « L'époque où la sécurité des données n'était qu'un pis-aller est révolue. Elle doit être intégrée de manière transparente dans tous les aspects des opérations d'une organisation. Qu'il s'agisse de se défendre contre le phishing, de protéger les applications personnelles ou de gérer la GenAI, la sécurité des données n'est plus une simple défense périmétrique. Il s'agit d'un cadre dynamique et proactif avec un coaching des utilisateurs en temps réel, un DLP et des contrôles spécifiques aux applications pour garder une longueur d'avance sur un paysage de menaces en constante évolution. »
Bien que le rapport de Netskope indique une augmentation d'une année sur l'autre de l'utilisation des applications GenAI par les organisations, les préoccupations concernant les risques de la technologie persistent. Selon une étude menée par Cisco auprès de 2 600 professionnels de la protection de la vie privée et de la sécurité, les craintes liées à la sécurité ont conduit 27 % des entreprises à interdire l'utilisation de l'IA générative.
Source : Etude de Netskope
Et vous ?
Quel est votre avis sur le sujet ? Trouvez-vous les conclusions de cette étude de Netskope crédibles ou pertinentes ? Qu'en est-il au sein de votre entreprise ?Voir aussi :
D'ici 2027, 70 % des sociétés qui adopteront la GenAI citeront la durabilité et la souveraineté numérique comme principaux critères de choix entre les services de GenAI du cloud public, selon Gartner Seulement 11% des entreprises françaises ont pleinement déployé des modèles d'IA générative, elles sont néanmoins 55% à prévoir un déploiement futur, d'après SAS Les entreprises ont du mal à mettre en œuvre la GenAI : 61 % admettent que la plupart des utilisateurs ignorent comment tirer parti de la GenAI et 51 % signalent un manque d'employés qualifiés dans ce domaine 
