L'enquête menée auprès de 249 cadres supérieurs des risques d'entreprise révèle les 5 principaux risques émergents au deuxième trimestre 2023. La disponibilité massive de l'IA générative, telle que ChatGPT d'OpenAI et Google Bard, est devenue l'une des principales préoccupations des responsables des risques d'entreprise au deuxième trimestre 2023, selon l'enquête de Gartner."L'IA générative est le deuxième risque le plus souvent cité dans notre enquête du deuxième trimestre, apparaissant dans le top 10 pour la première fois", a déclaré Ran Xu, directeur de la recherche au sein de Gartner Risk & Audit Practice. "Cela reflète à la fois la croissance rapide de la sensibilisation du public et de l'utilisation des outils d'IA générative, ainsi que l'étendue des cas d'utilisation potentiels, et donc des risques potentiels, que ces outils engendrent."
En mai 2023, Gartner a interrogé 249 cadres supérieurs des risques d'entreprise afin de fournir aux dirigeants une vue comparative de 20 risques émergents. Le rapport trimestriel sur les risques émergents comprend des informations détaillées sur l'impact possible, le calendrier, le niveau d'attention et les opportunités perçues pour ces risques.
La viabilité des tiers est le risque émergent le plus important que les entreprises surveillent le plus étroitement dans l'enquête du 2e trimestre 23 (voir tableau 1). L'incertitude de la planification financière est le troisième risque classé, suivi par le risque de concentration des nuages. Les tensions commerciales avec la Chine ont complété les cinq principaux risques, répartis entre des questions symptomatiques de la volatilité macroéconomique et géopolitique actuelle et des préoccupations liées à la technologie.
Disponibilité de l'IA génératrice de masse
Gartner a déjà identifié six risques liés à l'IA générative et quatre domaines de réglementation de l'IA qui sont pertinents pour les fonctions d'assurance. En termes de gestion du risque d'entreprise, trois aspects principaux doivent être abordés, selon les experts de Gartner :
- Propriété intellectuelle
"Les informations entrées dans un outil d'IA générative peuvent faire partie de son ensemble d'entraînement, ce qui signifie que des informations sensibles ou confidentielles pourraient se retrouver dans les résultats destinés à d'autres utilisateurs", a déclaré Xu. "En outre, l'utilisation des résultats de ces outils pourrait bien aboutir à une violation involontaire des droits de propriété intellectuelle des autres utilisateurs."
Il est important de sensibiliser les dirigeants d'entreprise à la nécessité de faire preuve de prudence et de transparence dans l'utilisation de ces outils afin que les risques liés à la propriété intellectuelle puissent être correctement atténués, tant en ce qui concerne les données d'entrée que les données de sortie des outils d'IA générative. - Confidentialité des données
Les outils d'IA générative peuvent éventuellement partager des informations sur les utilisateurs avec des tiers, tels que des fournisseurs ou des prestataires de services, sans avis préalable. Cela pourrait constituer une violation de la législation sur la protection de la vie privée dans de nombreuses juridictions. Par exemple, une réglementation a déjà été mise en œuvre en Chine et dans l'UE, et des propositions de réglementation sont en cours d'élaboration aux États-Unis, au Canada, en Inde et au Royaume-Uni, entre autres. - La cybersécurité
"Les pirates informatiques testent toujours les nouvelles technologies pour trouver des moyens de les détourner à leurs propres fins, et l'IA générative n'échappe pas à la règle", a déclaré M. Xu. "Nous avons vu des exemples de logiciels malveillants et de codes de ransomware que l'IA générative a été amenée à produire, ainsi que des attaques par 'prompt injections' qui peuvent amener ces outils à donner des informations qu'ils ne devraient pas. Cela conduit à l'industrialisation des attaques d'hameçonnage avancées."
Causes et implications du risque de viabilité des tiers
"La persistance d'une inflation moins sensible aux hausses de taux d'intérêt et plus longue que prévu a entraîné une escalade des coûts et des pressions sur les marges des tiers", a déclaré Xu. "Lorsque les banques centrales augmentent les taux d'intérêt pour lutter contre l'inflation, cela entraîne également un processus de resserrement du crédit qui peut obliger les fournisseurs à suspendre leurs activités ou à devenir insolvables en raison de l'augmentation des coûts d'emprunt."
Si les conditions économiques se détériorent de manière générale, cela peut entraîner une baisse inattendue de la demande qui pourrait affecter la viabilité des fournisseurs ou leur capacité à fournir des biens et des services en temps voulu. Les experts de Gartner ont identifié trois conséquences potentielles sur la viabilité des tiers que les gestionnaires de risques doivent surveiller au fur et à mesure de l'évolution de la situation :
- Perte d'entrée et de matériaux clés :
Si les tiers augmentent leurs prix en raison de la situation économique générale, il y a un risque évident de perdre l'accès aux intrants et matériaux clés, car les tiers favoriseraient les clients disposés à payer des prix plus élevés. - Hypothèses de planification financière erronées :
Les hypothèses de coûts ne seront plus valables si les fournisseurs augmentent leurs prix ou font faillite, ce qui entraînera des coûts de changement et une augmentation des prix pour l'obtention de biens et de services. - Défis extérieurs à la chaîne d'approvisionnement :
Les partenaires, tels que les fournisseurs de services gérés ou les partenaires commerciaux, les créanciers ou les vendeurs de technologie peuvent cesser ou réduire leurs activités.
Source : Gartner
Et vous ?
Pensez-vous que cette enquête est crédible ou pertinente ? Selon vous, l'IA générative est-elle réellement une menace ?Voir aussi :
Les dépenses en IA générative devraient atteindre 1 300 milliards de dollars d'ici 2032, soit un taux de croissance annuel de 42 % au cours de la prochaine décennie, selon un rapport de Bloomberg L'intelligence artificielle générative va révolutionner l'efficacité au travail : 72 % des répondants déclarent qu'elle améliorera la productivité de manière significative, d'après une enquête de KPMG Les vols d'identité restent la principale menace en cybersécurité et continuent de provoquer des violations massives. L'accès non autorisé est la principale cause des brèches, selon ForgeRock