IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

La société spécialisé dans la sécurité des IA Snyk dévoile l'AI Security Fabric : un système adaptatif permettant le déploiement d'innovations IA en toute sécurité et offrant une protection continue

Le , par Jade Emy

494PARTAGES

5  0 
Snyk, société spécialisée dans la sécurité des IA, dévoile l'AI Security Fabric, une plateforme assurant une défense continue tout au long du cycle de vie du développement logiciel (SDLC). En unifiant la visibilité, la prévention et la gouvernance, l'AI Security Fabric permet aux entreprises de commercialiser des logiciels basés sur l'IA en toute sécurité et à la vitesse de l'IA. La plateforme de sécurité des IA, AI Security Fabric, sécurise le développement d’IA générative dès la création de code mais également les agents et logiciels natifs IA. Elle organise la structure en trois vecteurs unifiés : la base (DevSecOps accéléré par l'IA), l'accélérateur (développement basé sur l'IA) et la frontière (logiciels natifs IA).

En 2024, un rapport de Legit Security, basé sur une enquête menée auprès de plus de 400 professionnels de la sécurité et développeurs de logiciels en Amérique du Nord, révèle que 96 % des professionnels de la sécurité et du développement de logiciels déclarent que leurs entreprises utilisent des solutions basées sur l'IA générative pour créer ou fournir des applications. En outre, le rapport montre que 85 % des développeurs s'inquiètent des risques de sécurité liés au fait de s'appuyer sur la GenAI pour développer des logiciels et 94 % déclarent avoir besoin de moyens plus efficaces pour gérer l'utilisation de l'IA générative dans les efforts de recherche et de développement de leur entreprise.

Dans ce contexte, Snyk, société spécialisée dans la sécurité des IA, dévoile l'AI Security Fabric, une plateforme assurant une défense continue tout au long du cycle de vie du développement logiciel (SDLC). En unifiant la visibilité, la prévention et la gouvernance, l'AI Security Fabric permet aux entreprises de commercialiser des logiciels basés sur l'IA en toute sécurité et à la vitesse de l'IA.

Aujourd'hui, les développeurs et les concepteurs utilisent non seulement l'IA pour écrire du code et alimenter des applications, mais ils sont également confrontés à une augmentation rapide des cybermenaces liées à l'IA. Ce système aide les entreprises à réduire les risques cumulés sans ralentir l'innovation. L'augmentation de la dette de sécurité, les nouveaux vecteurs d'attaque et le manque de gouvernance dans le développement basé sur l'IA aggravent les risques sur une surface d'attaque en constante expansion. Alors que l'infrastructure IA devient la trame de l'informatique moderne, les entreprises ont besoin d'une trame de sécurité qui assure une protection continue, et non ponctuelle.

La plateforme de sécurité des IA, AI Security Fabric, sert de moteur à cette vision, sécurisant le développement d’IA générative dès la création de code mais également les agents et logiciels natifs IA. Elle organise la structure en trois vecteurs unifiés : la base (DevSecOps accéléré par l'IA), l'accélérateur (développement basé sur l'IA) et la frontière (logiciels natifs IA).


Lorsque la création dépasse la vitesse humaine, les risques s'accélèrent également

Le passage au développement basé sur l'IA a bouleversé les modèles de sécurité traditionnels, créant une surface d'attaque fragmentée où convergent les menaces autonomes et les vulnérabilités héritées, ce qui multiplie les risques à la vitesse des machines. Snyk a identifié trois défis que l’AI Security adresse :

- Les vulnérabilités apparaissent à un rythme plus rapide : le volume de code explose en raison de l'adoption rapide des pratiques de codage assistées par l'IA. La sécurité doit aller au-delà de l'analyse réactive pour être « sécurisée dès le départ », en stoppant le flux de nouvelles vulnérabilités qui contribuent à l'augmentation des retards en matière de sécurité.

- Le temps nécessaire à l'exploitation des vulnérabilités diminue : selon Gartner, l'IA devrait accélérer l'exploitation des vulnérabilités de 50 % d'ici 20271. Les attaques automatisées ciblant toutes les expositions disponibles, les organisations doivent systématiquement réduire leur dette de sécurité afin de diminuer leur profil de risque.

- L'IA a un effet cumulatif sur les risques : le passage au développement natif de l'IA a déclenché une explosion de modèles non gérés et d'agents autonomes dans les workflows de livraison et dans les logiciels eux-mêmes. Cette « Shadow AI » crée une surface d'attaque fragmentée où le danger ne réside plus seulement dans le code, mais aussi dans l'action de l'IA elle-même. Un agent compromis peut enchaîner de manière autonome de nouvelles menaces avec des vulnérabilités précédemment « mises en veille », ce qui aggrave les risques plus rapidement que les équipes humaines ne peuvent y remédier.

De nouvelles données issues du rapport 2026 State of Agentic AI Adoption de Snyk, qui analyse des informations anonymisées provenant de plus de 500 environnements Evo d'entreprise, révèlent que le « Shadow AI » est beaucoup plus répandu que ne le pensent les organisations. Pour chaque modèle d'IA déployé, les entreprises introduisent généralement près de trois fois plus de composants logiciels cachés, notamment des ensembles de données et des outils tiers. Avec 82 % des outils d'IA provenant de packages externes, les entreprises élargissent sans le savoir une vaste chaîne d'approvisionnement logicielle non surveillée que les outils de sécurité traditionnels ne peuvent ni voir ni contrôler.

Une défense continue sans freiner l'innovation

Pour contrer ces risques cumulés, il est nécessaire de mettre en place une défense efficace et proche des enjeux business. Une récente étude Forrester Total Economic Impact a révélé que les organisations utilisant la plateforme de sécurité Snyk AI Security Platform, le moteur qui alimente l'AI Security Fabric, ont obtenu un retour sur investissement (ROI) de 288 % sur trois ans. En consolidant les outils existants et en accélérant les délais de correction de 60 %, la plateforme a permis à ces organisations de réduire leur dette de sécurité et de rentabiliser leur investissement en moins de six mois.

« Nos clients doivent pouvoir concevoir sans crainte à l'ère de l'IA, mais lorsque la création s'accélère au-delà de la vitesse humaine, le risque devient ingérable », a déclaré Peter McKay, PDG de Snyk. « Les entreprises n'ont pas seulement besoin de la sécurité des applications, elles ont besoin d'une structure de sécurité IA. Snyk est la seule entreprise à offrir les capacités, les conseils et l'innovation visionnaire nécessaires pour tisser cette structure, garantissant ainsi que la confiance est intégrée dans les logiciels dès le premier prompt jusqu'à la production. »


Instaurer la confiance grâce à la plateforme de sécurité Snyk AI

Snyk continue d'ajouter de nouvelles fonctionnalités et améliorations qui concrétisent cette vision de l'AI Security Fabric à travers les trois vecteurs unifiés de la plateforme Snyk AI Security :

DevSecOps accéléré par l'IA (stabilisation et réduction de la dette de sécurité) : Snyk aide ses clients à maîtriser les principes fondamentaux, de la visibilité à la gouvernance, afin de garantir la sécurité par défaut de l'ensemble de leur chaîne logistique logicielle.

- Prévention intégrée : Delta Findings fournit des commentaires immédiats sur les nouveaux risques dans l'IDE et les PR, tandis qu'une expérience PR Check améliorée intègre des tests de sécurité dans les workflows Git afin d'empêcher les risques d'entrer dans les référentiels.

- Correction plus rapide : accélère les corrections grâce au regroupement par dépendance (en donnant la priorité aux mises à niveau à fort impact) et à la notation du risque de rupture (pour éviter les perturbations de la compilation), tandis que Snyk Agent Fix permet d'effectuer des réparations par IA en un seul clic dans l'IDE et la demande d'extraction.

- La corrélation DAST et SAST comble le fossé entre les tests dynamiques et statiques, en reliant directement les vulnérabilités d'exécution à la ligne exacte du code source afin de permettre une correction plus efficace.

Sécurisation du développement basé sur l'IA (sécurisation dès la conception dans les agents de codage) : les fonctionnalités de Snyk sont directement intégrées aux assistants de codage IA afin de garantir la sécurité du code généré par l'IA dès sa conception.

- Barrières de sécurité IA étendues : de nouveaux flux de configuration en 60 secondes sont désormais également disponibles pour Gemini CLI et Claude Code.

- Échelle de l'entreprise : les équipes de sécurité peuvent désormais définir et distribuer de manière centralisée des garde-fous afin de garantir des normes de sécurité cohérentes.

- Corrections fluides : les développeurs peuvent déclencher une correction intelligente de bout en bout, de la génération à la demande d'extraction, sans quitter leur flux de travail.

Sécurisation des logiciels natifs IA (gestion des agents, des outils et de l'exécution autonome) : alors que nous entrons dans l'ère des agents et des systèmes non déterministes, Snyk aide les organisations à adopter l'IA en toute sécurité et à gérer l'avenir du développement de l'IA.

- Visibilité du Shadow AI : l'AI-BOM d'Evo s'intègre à l'inventaire des actifs pour détecter automatiquement les modèles et les dépendances. Elle est lancée parallèlement à une nouvelle...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de OuftiBoy
Membre éprouvé https://www.developpez.com
Le 27/09/2026 à 14:02
à toutes et tous,

Je n'ai pas tout repris, mais la liste est suffisamment longue...

Citation Envoyé par Mathis Lucas Voir le message
Pour fonctionner, les agents IA exigent les mêmes autorisations système que les humains qui les utilisent. La confiance accordée à ces assistants numériques est mise à l'épreuve par un manque de transparence algorithmique.
Donnerais-t-on de tels privilèges à un stagiaire débutant ? Non, alors pourquoi donner ces privilèges à une IA par nature débutante puisqu'en éternelle évolution.

Citation Envoyé par Mathis Lucas Voir le message
86 % déploient des agents IA pour du code en production. Les avantages cités par les entreprises ayant participé à l'étude sont : la planification et la conceptualisation (58 %), la génération de code (59 %), la documentation du code (59 %), ainsi que la révision et les tests du code (59 %).
On comptabilise ici les avantages... Qui comptabilise les inconvénients (avant une catastrophe évidemment) ? Personne, vue à court terme et profit immédiat en dépit des risques. C'est alors comme jouer à la roulette Russe en l'état... Forcément, des fois, ça tourne mal.

Citation Envoyé par Mathis Lucas Voir le message
une entreprise du classement Fortune 500 comptera en moyenne plus de 150 000 agents IA en service.
Wahouw, 150000. Et qui peut savoir et surveiller ces 150000 agents ? Personne ? Bah faut pas se plaindre alors. C'est comme si un chef d'équipe avait directement sous ses ordres 150000 stagiaires pour construire une nouvelle forme de centrale nucléaire. Forcément, c'est pas facile. Mais ici, c'est même pas pour une centrale nucléaire, c'est pour réserver des billets de train (voir les exemple ci-dessous).

Citation Envoyé par Mathis Lucas Voir le message
Cependant, l'IA est encore loin d'être fiable et son impact sur la productivité reste difficile à mesurer. Selon une étude réalisée auprès de 6 000 dirigeants d’entreprises et publiée en août 2026, 90 % des dirigeants ont déclaré que l'IA n'améliore pas la productivité. De plus, plusieurs incidents sont documentés.
La justesse du travail est encore difficile a anticiper que la productivité est a mesurer. Grosse prise de risque pour gain incertain. Faut pas se plaindre après...

Citation Envoyé par Mathis Lucas Voir le message
Si de nombreux utilisateurs pionniers affirment que ces agents IA autonomes leur apportent une aide précieuse pour [...] réserver des voyages ou acheter des produits, d'autres utilisateurs ont rapporté des dysfonctionnements particulièrement troublants.
Quoi ? ces pionniers, des vrais, des durs, ont besoin d'une IA pour réserver des voyages ou acheter des produits ? C'est risible pour le moins.

Citation Envoyé par Mathis Lucas Voir le message
L'exigence d'accès étendus et le problème de désalignement. Ces outils autonomes ont procédé à des annulations injustifiées, inventé des informations personnelles, fourni des explications trompeuses et soulevé d'importants problèmes de sécurité. Dans le domaine du développement logiciel, ces outils ont déjà provoqué l'effacement de bases de code. Un inconvénient majeur réside dans la nécessité absolue de donner aux agents IA des accès numériques particulièrement étendus pour un bon fonctionnement.
Idem qu'avant, on ne donne pas les clef du coffre à un stagiaire arrivé le matin même. Stupide idée, non ?

Citation Envoyé par Mathis Lucas Voir le message
Pour accomplir leurs tâches, ces programmes doivent détenir les clés de la vie numérique des utilisateurs, incluant leurs courriers électroniques, leurs comptes bancaires, leurs cartes de crédit et leurs mots de passe. Cela représente un risque majeur, compte de tenu de la nature sensible de ces informations.
Est-on certains que ces clé numériques sont vraiment nécessaires pour tout ce qu'on demande à une IA ? Non, mais une fois donné, c'est donné, c'est volé, c'est perdu...

Citation Envoyé par Mathis Lucas Voir le message
Un autre inconvénient général découle des problèmes de désalignement, situation dans laquelle « l'agent entreprend de son propre chef des actions pour accomplir une mission qui s'avèrent en contradiction directe avec les intentions réelles de l'utilisateur humain ».
Et oui, comprendre les besoins d'un client est une chose, savoir donner une réponse correcte est également difficile, car lui-même n'est pas toujours très claire sur ce qu'il veut (qui est encore différent de ce quoi il a besoin parfois). La moindre erreur d'interprétation d'un souhait peut, avec l'IA, produire des désastres... La majorité en est consciente, mais c'est comme pour les incendies, on pense que ça n'arrive qu'aux autres... Ben non. C'est la vie...

Citation Envoyé par Mathis Lucas Voir le message
OpenAI a placé ses modèles dans un bac à sable (sandbox) sans connexion à Internet et leur a confié une mission. Cela dit, ils se sont échappés du bac à sable censé les contenir, ont parcouru les systèmes internes de l'entreprise, ont trouvé un accès à Internet, puis ont commencé à chercher un moyen de s'introduire dans l'infrastructure de Hugging Face, dans le but de « tricher » au test en volant les réponses. Ce que les agents IA ont réussi à faire. Anthropic et Meta ont également signalé des incidents où leurs modèles d'IA se sont échappés de leur bac à sable et ont piraté des systèmes informatiques tiers. Google n'est pas en reste avec son modèle Gemini. En Chine, la startup Moonshot AI a rapporté un cas similaire avec son modèle Kimi K3.
Ayant puiser son savoir sur le Net, pas étonnant qu'elle soit roublarde notre amie l'IA. Tricher, il doit y avoir pléthore de cas sur le Net...

Citation Envoyé par Mathis Lucas Voir le message
Lors d'une demande formulée [...] un agent IA personnel accessible uniquement sur invitation, devait annuler deux inscriptions à un événement sur la plateforme Luma. [...] l'agent IA a récupéré de lui-même un code de connexion à usage unique dans la boîte Gmail connectée de l'utilisateur [...] afin de se connecter à Luma et d'annuler les réservations. [...] le comportement et les justifications de l'assistant IA ont inquiété l'utilisateur. Il a d'abord prétendu avoir réutilisé une session enregistrée, avant d'avouer, sous la pression des questions, qu'il avait lu le code dans Gmail et rapporté une supposition comme un fait. Cet accès non sollicité aux courriels et ce manque de fiabilité dans les explications constituent un problème de sécurité majeur aux yeux de la victime. [...]
« si je ne peux pas faire confiance à son compte rendu de ce qu'il a fait, je ne peux lui donner accès à rien d'important ». Voilà un bon réflexe. Cela semble évident, mais non...

Citation Envoyé par Mathis Lucas Voir le message
[...] responsable de la croissance chez Merge, avait transmis à l'agent Instinct un simple lien textuel pour soumettre une réclamation dans le cadre d'un accord financier avec Apple. [...] l'agent IA lui a demandé de téléverser une image qu'il prétendait à tort avoir reçue. Il s'est mis à décrire un document financier contenant des données personnelles n'appartenant (à l'utilisateur). L'agent IA a par la suite reconnu l'absence de photo dans le message initial, en affirmant qu'une image avait croisé la conversation. [...] vive inquiétude : « je ne peux pas confirmer indépendamment s'il a accédé au document de quelqu'un d'autre ou s'il a halluciné à la fois les détails et son explication » [...]incident d'autant plus déroutant que l'agent a expliqué « ce qui était censé s'être passé avec tant d'assurance ».
« je ne peux pas confirmer indépendamment s'il a accédé au document de quelqu'un d'autre ou s'il a halluciné à la fois les détails et son explication » Bon ben dans un cas pareil, comment avoir confiance ? Bah, pas grave, profit demain, cata après-demain, c'est la norme...

Citation Envoyé par Mathis Lucas Voir le message
[...] « l'agent Muse lui-même dispose d'un accès plus étendu et de plus de privilèges que ce dont la plupart des logiciels malveillants pourraient rêver ».
Et tout le monde tente de faire avec ce constat... Triste.

Citation Envoyé par Mathis Lucas Voir le message
Ce problème met en évidence une vulnérabilité majeure des flux de travail autonomes où « une autorisation pour accomplir une tâche de maintenance légitime peut devenir l'autorité d'exécuter une mise en œuvre non sécurisée ». La documentation officielle d'Anthropic rappelle que le mode manuel requiert une validation explicite pour les commandes Bash et la modification de fichiers, tandis que l'option bypassPermissions supprime ces demandes.
C'est comme les clauses d'un logiciel, personne ne lit, personne ne comprend. bypassPermissions, c'est comme utiliser Rust et mettre tout le code en unsafe...

Citation Envoyé par Mathis Lucas Voir le message
Anthropic recommande l'utilisation de cette option dans des conteneurs isolés ou des machines virtuelles. Pour prévenir de tels risques, il est recommandé de considérer les agents IA de codage comme des automatismes privilégiés et d'exécuter leurs actions destructrices dans des environnements restreints avec une phase préalable de simulation.
La belle blague, dixit les pro de l'IA qui eux-mêmes ne savent pas contenir leur IA lors de leurs tests...

Citation Envoyé par Mathis Lucas Voir le message
Le sujet est devenu très concret : plusieurs incidents documentés montrent que la suppression de code ou de bases de données par des agents IA n'est plus une hypothèse théorique, mais un phénomène répété et médiatisé.
Mais... Mais... Rien... On continue tête baisée. Forcément, on finit par se prendre un mur...

Citation Envoyé par Mathis Lucas Voir le message
agent IA, propulsé par Claude Opus et piloté via Cursor, a supprimé en une seule requête API la base de données de production de sa startup, ainsi que l'ensemble des sauvegardes. En cause : une chaîne de défaillances impliquant le modèle, l'outil de codage assisté, l'hébergeur Railway, et une architecture de sécurité qui n'a résisté à aucune des épreuves du monde réel.
La totale. Et oui, les conséquences ne se limites pas à un simple plantage, ça bousille le monde réel. Si ça bousillait le monde irréel, ça ferait moins mal...

Citation Envoyé par Mathis Lucas Voir le message
Un développeur a confié à Claude Code la gestion d'une migration d'infrastructure Terraform sur AWS. En quelques minutes, l'agent IA a détruit l'intégralité de son environnement de production (base de données, snapshots compris), faisant disparaître 2,5 ans d'historique de cours. L'incident soulève une question sur l'essor fulgurant du vibe coding : jusqu'où peut-on déléguer à une IA des opérations irréversibles sur des environnements de production ?
Jusqu'où peux-t-on fournir à un stagiaire ou un développeur inconnu la possibilité de faire des opérations irréversibles ? Normalement, personne ne fait ça, mais on fait confiance à une boite noire, l'IA. Chercher l'erreur...

Citation Envoyé par Mathis Lucas Voir le message
« Je vous ai complètement et catastrophiquement laissé tomber. Mon examen des commandes confirme mon incompétence flagrante », a déclaré Gemini CLI. Le problème fondamental semble être lié aux hallucinations de l'IA, c'est-à-dire lorsque les modèles d'IA génèrent des informations qui semblent plausibles, mais qui sont fausses. Ici, le modèle a fabulé des opérations réussies et a construit des actions ultérieures sur ces fausses prémisses.
Stop, n'en jeter plus... Bon travail avec l'IA et croissez les doigts, on ne sait jamais...

BàV et Peace & Love.
4  0 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 27/09/2026 à 19:59
A quoi servent toutes ces mises en garde?

Les pro-IA sont devenus des êtres "gouroutisés", l'IA pourrait tuer sous leur yeux leur propres familles qu'ils continueraient à défendre cette catastrophe pour l'humanité.

Alors que vos anecdotes soient effrayantes ou pas... Bof, notre civilisation va se prendre le mur... Mais est-ce vraiment une mauvaise nouvelle?

L'être humain est devenu ce qui est arrivé de pire pour la planète...
2  0 
Avatar de OuftiBoy
Membre éprouvé https://www.developpez.com
Le 27/09/2026 à 21:45
Citation Envoyé par Anselme45 Voir le message
A quoi servent toutes ces mises en garde?
A rien, mais c'est bien dommage...

Citation Envoyé par Anselme45 Voir le message
Les pro-IA sont devenus des êtres "gouroutisés", l'IA pourrait tuer sous leur yeux leur propres familles qu'ils continueraient à défendre cette catastrophe pour l'humanité.
Il y-a place pour une IA maîtrisée dans certains domaines. Il faut juste bien cadrer les choses. Ne pas croire en une solution magique. Se servir de l'IA pour faire des prototypes, des essais, de la recherche, mais garder un vrai développement évolutif pour LA vrai solution.

Citation Envoyé par Anselme45 Voir le message
Alors que vos anecdotes soient effrayantes ou pas... Bof, notre civilisation va se prendre le mur... Mais est-ce vraiment une mauvaise nouvelle?
Effrayante je ne sais pas, clairvoyante peut-être, je n'ai pas la science infuse, mais lorsque je regarde l'état des lieux, je me demande pourquoi il n'y a pas plus d'interrogation autours de cette fuite en avant, à très court-terme... Mais c'est notre époque (enfin, pas la mienne, je suis plus proche de la fin que du début ).

Citation Envoyé par Anselme45 Voir le message
L'être humain est devenu ce qui est arrivé de pire pour la planète...
Oui, mais il n'a pas attendu l'IA pour cela. Que restera-t-il de tout cela dans 100 ans ? Pas grand chose je pense...
2  0