Anthropic annonce qu'il ne commercialiserait pas son dernier modèle, Mythos, car celui-ci s'avère trop efficace pour détecter des failles de cybersécurité de gravité élevée dans les systèmes d'exploitation

Anthropic annonce qu'il ne commercialiserait pas son dernier modèle, Mythos, car celui-ci s'avère trop efficace pour détecter des failles de cybersécurité de gravité élevée dans les systèmes d'exploitation

Anthropic a annoncé qu'il ne commercialiserait pas son tout dernier modèle, Mythos, au grand public, invoquant la crainte qu'il ne soit trop efficace pour détecter des failles de cybersécurité de gravité élevée dans les principaux systèmes d'exploitation et navigateurs web. « L'augmentation considérable des capacités de Claude Mythos Preview nous a amenés à décider de ne pas le rendre accessible au grand public. Nous l'utilisons plutôt dans le cadre d'un programme de cybersécurité défensive avec un groupe restreint de partenaires », a écrit Anthropic dans la fiche technique du modèle.

Fin mars, le dernier modèle d'IA d'Anthropic a fait l'objet d'une fuite avant même son lancement et a fait grand bruit sur les réseaux sociaux. Le nouveau modèle, dont le nom de code est « Claude Mythos », a été révélé accidentellement après que des descriptions du modèle ont été stockées dans un cache de données accessible au public. La start-up spécialisée dans l'IA aurait laissé le brouillon de l'article de blog annonçant Mythos dans un lac de données public et non sécurisé. Un porte-parole d'Anthropic a déclaré : « Nous développons un modèle polyvalent présentant des avancées significatives en matière de raisonnement, de codage et de cybersécurité. »

Récemment, le géant de l'IA Anthropic a annoncé qu'il ne commercialiserait pas son tout dernier modèle, Mythos, au grand public, invoquant la crainte qu'il ne soit trop efficace pour détecter des failles de cybersécurité de gravité élevée dans les principaux systèmes d'exploitation et navigateurs web. « L'augmentation considérable des capacités de Claude Mythos Preview nous a amenés à décider de ne pas le rendre accessible au grand public. Nous l'utilisons plutôt dans le cadre d'un programme de cybersécurité défensive avec un groupe restreint de partenaires », a écrit Anthropic dans la fiche technique du modèle. Mythos sera donc utilisé dans le cadre d'un programme de cybersécurité défensive avec un groupe restreint de partenaires.

Anthropic a révélé que Mythos était capable de s'échapper d'un bac à sable virtuel lorsqu'on le lui demandait, allant même jusqu'à envoyer un e-mail inattendu à un chercheur pour prouver son évasion. Dans un autre cas, le modèle a publié des détails de son exploit sur des sites web obscurs mais accessibles au public sans qu’on le lui demande. La société a également mentionné que Mythos avait même redécouvert une vulnérabilité vieille de 27 ans dans OpenBSD, longtemps considéré comme l’un des systèmes d’exploitation les plus sécurisés. Des ingénieurs sans formation officielle en sécurité auraient demandé à Mythos de trouver des vulnérabilités d’exécution de code à distance pendant la nuit et se sont réveillés avec des exploits complets et fonctionnels.


Pour l’instant, Mythos ne sera accessible qu’à 11 organisations sélectionnées, dont Google, Microsoft, Amazon Web Services, Nvidia et JPMorgan Chase, dans le cadre d’une initiative de cybersécurité baptisée « Project Glasswing ». Anthropic fournit jusqu’à 100 millions de dollars de crédits d’utilisation pour ce programme, qui tire son nom du papillon transparent « glasswing », une métaphore pour exposer les vulnérabilités cachées tout en évitant de causer du tort.

Anthropic a déclaré que son objectif à long terme était de commercialiser des « modèles de classe Mythos » une fois que des mesures de sécurité auront été mises au point pour bloquer les résultats dangereux. « Notre objectif final est de permettre à nos utilisateurs de déployer en toute sécurité des modèles de classe Mythos à grande échelle, à des fins de cybersécurité mais aussi pour profiter de la myriade d’autres avantages que ces modèles hautement performants apporteront », a écrit la société.

Cette annonce intervient quelques semaines seulement après qu’Anthropic a assoupli un engagement de sécurité antérieur et lancé Claude Opus 4.6, son modèle public le plus puissant à ce jour. Elle a également coïncidé avec une panne majeure affectant Claude et Claude Code, soulignant les difficultés liées à l’ascension rapide d’Anthropic. En outre, les récentes avancées dans le domaine des outils, comme ceux proposés par le développeur d'IA Anthropic, suscitent désormais une attention accrue. Les craintes des investisseurs quant au fait que les nouveaux développements en matière d'intelligence artificielle puissent supplanter les logiciels ont eu des répercussions sur le marché boursier, faisant chuter les actions des entreprises qui développent, concèdent sous licence et même investissent dans des codes et des systèmes.

Voici l'annonce d'Anthropic :

Projet Glasswing : Sécuriser les logiciels critiques à l'ère de l'IA

Nous annonçons aujourd’hui le lancement du projet Glasswing, une nouvelle initiative qui rassemble Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, la Linux Foundation, Microsoft, NVIDIA et Palo Alto Networks dans le but de sécuriser les logiciels les plus critiques au monde.

Nous avons créé le projet Glasswing en raison des capacités que nous avons observées dans un nouveau modèle de pointe formé par Anthropic et qui, selon nous, pourrait révolutionner la cybersécurité. Claude Mythos Preview est un modèle de pointe polyvalent, non encore commercialisé, qui révèle une réalité frappante : les modèles d’IA ont atteint un niveau de capacité de codage tel qu’ils peuvent surpasser tous les humains, sauf les plus compétents, dans la détection et l’exploitation des vulnérabilités logicielles.

Mythos Preview a déjà détecté des milliers de vulnérabilités de gravité élevée, dont certaines dans tous les principaux systèmes d'exploitation et navigateurs web. Compte tenu du rythme des progrès de l'IA, ces capacités ne tarderont pas à se généraliser, potentiellement au-delà des acteurs qui s'engagent à les déployer en toute sécurité. Les répercussions — sur les économies, la sécurité publique et la sécurité nationale — pourraient être graves. Le projet Glasswing est une initiative urgente visant à mettre ces capacités au service de la défense.

Dans le cadre du projet Glasswing, les partenaires de lancement mentionnés ci-dessus utiliseront Mythos Preview dans le cadre de leurs activités de sécurité défensive ; Anthropic partagera les enseignements tirés afin que l'ensemble du secteur puisse en bénéficier. Nous avons également étendu l'accès à un groupe de plus de 40 organisations supplémentaires qui développent ou gèrent des infrastructures logicielles critiques, afin qu'elles puissent utiliser le modèle pour analyser et sécuriser à la fois les systèmes propriétaires et open source. Anthropic s'engage à fournir jusqu'à 100 millions de dollars de crédits d'utilisation pour Mythos Preview dans le cadre de ces efforts, ainsi que 4 millions de dollars de dons directs à des organisations de sécurité open source.

Le projet Glasswing est un point de départ. Aucune organisation ne peut résoudre seule ces problèmes de cybersécurité : les développeurs d'IA de pointe, les autres éditeurs de logiciels, les chercheurs en sécurité, les responsables de la maintenance open source et les gouvernements du monde entier ont tous un rôle essentiel à jouer. Le travail de défense de l'infrastructure cybernétique mondiale pourrait prendre des années ; les capacités de l'IA de pointe sont susceptibles de progresser considérablement au cours des prochains mois. Pour que les cyberdéfenseurs prennent l'avantage, nous devons agir maintenant.


La cybersécurité à l’ère de l’IA

Les logiciels sur lesquels nous comptons tous au quotidien — chargés de faire fonctionner les systèmes bancaires, de stocker les dossiers médicaux, de relier les réseaux logistiques, de maintenir les réseaux électriques en état de marche, et bien plus encore — ont toujours contenu des bogues. Beaucoup sont mineurs, mais certains constituent de graves failles de sécurité qui, si elles étaient découvertes, pourraient permettre à des cyberattaquants de détourner des systèmes, de perturber les opérations ou de voler des données.

Nous avons déjà constaté les graves conséquences des cyberattaques sur les réseaux d'entreprises importants, les systèmes de santé, les infrastructures énergétiques, les nœuds de transport et la sécurité de l'information des agences gouvernementales à travers le monde. À l'échelle mondiale, les attaques commanditées par des États, menées par des acteurs tels que la Chine, l'Iran, la Corée du Nord et la Russie, ont menacé de compromettre les infrastructures qui sous-tendent à la fois la vie civile et la préparation militaire. Même les attaques à plus petite échelle, comme celles qui ciblent des hôpitaux ou des écoles individuels, peuvent causer des dommages économiques considérables, exposer des données sensibles et même mettre des vies en danger. Le coût financier mondial actuel de la cybercriminalité est difficile à estimer, mais pourrait s'élever à environ 500 milliards de dollars chaque année.

De nombreuses failles logicielles passent inaperçues pendant des années, car leur détection et leur exploitation nécessitaient une expertise que seuls quelques experts en sécurité possédaient. Grâce aux modèles d’IA de pointe, le coût, l’effort et le niveau d’expertise requis pour détecter et exploiter les vulnérabilités logicielles ont tous considérablement diminué. Au cours de l'année écoulée, les modèles d'IA sont devenus de plus en plus efficaces pour lire et analyser le code ; ils font notamment preuve d'une capacité remarquable à repérer les vulnérabilités et à trouver des moyens de les exploiter. Claude Mythos Preview illustre une avancée considérable dans ces compétences cybernétiques : les vulnérabilités qu'il a détectées ont, dans certains cas, échappé à des décennies d'examen humain et à des millions de tests de sécurité automatisés, et les exploits qu'il développe sont de plus en plus sophistiqués.

Dix ans après le premier DARPA Cyber Grand Challenge, les modèles d’IA de pointe rivalisent désormais avec les meilleurs experts humains pour détecter et exploiter les vulnérabilités. Sans les mesures de protection nécessaires, ces puissantes capacités cybernétiques pourraient être utilisées pour exploiter les nombreuses failles existantes dans les logiciels les plus importants au monde. Cela pourrait rendre les cyberattaques de toutes sortes beaucoup plus fréquentes et destructrices, et renforcer les adversaires des États-Unis et de leurs alliés. La résolution de ces problèmes constitue donc une priorité sécuritaire majeure pour les États démocratiques.

Bien que les risques liés aux cyberattaques assistées par l'IA soient réels, il y a des raisons d'être optimiste : les mêmes capacités qui rendent les modèles d'IA dangereux entre de mauvaises mains les rendent inestimables pour détecter et corriger les failles dans les logiciels essentiels, ainsi que pour développer de nouveaux logiciels comportant bien moins de failles de sécurité. Le projet Glasswing constitue une étape importante pour offrir aux défenseurs un avantage durable dans la future ère de la cybersécurité axée sur l'IA.


Identification des vulnérabilités et des exploits avec Claude Mythos Preview

Au cours des dernières semaines, nous avons utilisé Claude Mythos Preview pour identifier des milliers de vulnérabilités « zero-day » (c'est-à-dire des failles jusqu'alors inconnues des développeurs du logiciel), dont beaucoup sont critiques, dans tous les principaux systèmes d'exploitation et navigateurs Web, ainsi que dans toute une série d'autres logiciels importants.

Dans un article publié sur notre blog Frontier Red Team, nous fournissons des détails techniques sur un sous-ensemble de ces vulnérabilités qui ont déjà été corrigées et, dans certains cas, sur les moyens que Mythos Preview a trouvés pour les exploiter. Il a été capable d'identifier la quasi-totalité de ces vulnérabilités — et de développer de nombreux exploits associés — de manière entièrement autonome, sans aucune intervention humaine. Voici trois exemples :

- Mythos Preview a découvert une vulnérabilité vieille de 27 ans dans OpenBSD — qui a la réputation d’être l’un des systèmes d’exploitation les plus sécurisés au monde et qui est utilisé pour faire fonctionner des pare-feu et d’autres infrastructures critiques. Cette vulnérabilité permettait à un attaquant de provoquer à distance le plantage de n’importe quelle machine exécutant ce système d’exploitation, simplement en s’y connectant ;

- Il a également découvert une vulnérabilité vieille de 16 ans dans FFmpeg — utilisé par d’innombrables logiciels pour encoder et décoder des vidéos — dans une ligne de code que les outils de test automatisés avaient parcourue cinq millions de fois sans jamais détecter le problème ;

- Le modèle a détecté de manière autonome et mis en relation plusieurs vulnérabilités du noyau Linux — le logiciel qui fait fonctionner la plupart des serveurs dans le monde — permettant à un attaquant de passer d'un accès d'utilisateur ordinaire au contrôle total de la machine.

Nous avons signalé les vulnérabilités ci-dessus aux responsables de la maintenance des logiciels concernés, et elles ont toutes été corrigées. Pour de nombreuses autres vulnérabilités, nous fournissons aujourd’hui un hachage cryptographique des détails (voir le blog Red Team), et nous en dévoilerons les spécificités une fois qu’un correctif aura été mis en place.

Des benchmarks d'évaluation tels que CyberGym soulignent la différence substantielle entre Mythos Preview et notre deuxième meilleur modèle, Claude Opus 4.6 :


Les puissantes capacités cybernétiques de Claude Mythos Preview résultent de ses solides compétences en matière de codage et de raisonnement. Par exemple, comme le montrent les résultats d’évaluation ci-dessous, le modèle obtient les scores les plus élevés de tous les modèles développés à ce jour pour diverses tâches de codage logiciel.


Vous trouverez plus d’informations sur les capacités du modèle, ses propriétés de sécurité et ses caractéristiques générales dans la fiche technique de Claude Mythos Preview.

Nous ne prévoyons pas de rendre Claude Mythos Preview accessible au grand public, mais notre objectif final est de permettre à nos utilisateurs de déployer en toute sécurité des modèles de classe Mythos à grande échelle — à des fins de cybersécurité, mais aussi pour profiter de la myriade d’autres avantages que ces modèles hautement performants apporteront. Pour ce faire, nous devons progresser dans le développement de mesures de sécurité (notamment en matière de cybersécurité) capables de détecter et de bloquer les résultats les plus dangereux du modèle. Nous prévoyons de lancer de nouvelles mesures de sécurité avec le prochain modèle Claude Opus, ce qui nous permettra de les améliorer et de les affiner à l'aide d'un modèle ne présentant pas le même niveau de risque que Mythos Preview.

Les grandes lignes du projet Glasswing

L'annonce faite aujourd'hui marque le début d'une initiative à long terme. Pour aboutir, celle-ci nécessitera une large participation de l'ensemble du secteur technologique et au-delà.

Les partenaires du projet Glasswing auront accès à Claude Mythos Preview afin d'identifier et de corriger les vulnérabilités ou les faiblesses de leurs systèmes fondamentaux — des systèmes qui représentent une très grande partie de la surface d'attaque cybernétique mondiale. Nous prévoyons que ce travail se concentrera sur des tâches telles que la détection locale des vulnérabilités, les tests de type « boîte noire » des binaires, la sécurisation des terminaux et les tests d'intrusion des systèmes.

L'engagement d'Anthropic, qui consiste à offrir 100 millions de dollars de crédits d'utilisation du modèle au projet Glasswing et aux autres participants, couvrira une utilisation substantielle tout au long de cette phase de prévisualisation de la recherche. Par la suite, Claude Mythos Preview sera accessible aux participants au tarif de 25 $ ou 125 $ par million de jetons d'entrée/sortie (les participants peuvent accéder au modèle via l'API Claude, Amazon Bedrock, Vertex AI de Google Cloud et Microsoft Foundry).

En plus de notre engagement en crédits d'utilisation de modèles, nous avons fait un don de 2,5 millions de dollars à Alpha-Omega et à l'OpenSSF par l'intermédiaire de la Linux Foundation, et de 1,5 million de dollars à l'Apache Software Foundation afin de permettre aux responsables de la maintenance des logiciels open source de s'adapter à ce paysage en mutation (les responsables intéressés peuvent postuler via le programme Claude for Open Source).

Nous avons l’intention d’étendre la portée de ce travail et de le poursuivre pendant de nombreux mois, et nous partagerons autant d’informations que possible afin que d’autres organisations puissent appliquer ces enseignements à leur propre sécurité. Les partenaires partageront, dans la mesure de leurs moyens, des informations et des bonnes pratiques entre eux ; dans un délai de 90 jours, Anthropic rendra compte publiquement de ce que nous avons appris, ainsi que des vulnérabilités corrigées et des améliorations apportées qui peuvent être divulguées. Nous collaborerons également avec des organisations de sécurité de premier plan afin de produire un ensemble de recommandations pratiques sur la manière dont les pratiques de sécurité devraient évoluer à l’ère de l’IA. Cela inclura potentiellement :

- Les processus de divulgation des vulnérabilités ;
- Les processus de mise à jour logicielle ;
- La sécurité de l’open source et de la chaîne d’approvisionnement ;
- Le cycle de vie du développement logiciel et les pratiques de sécurité dès la conception ;
- Les normes pour les secteurs réglementés ;
- La mise à l’échelle et l’automatisation du triage ; et
- L’automatisation des correctifs.

Anthropic est également en discussion permanente avec des responsables du gouvernement américain au sujet de Claude Mythos Preview et de ses capacités cybernétiques offensives et défensives. Comme nous l’avons souligné plus haut, la sécurisation des infrastructures critiques est une priorité absolue en matière de sécurité nationale pour les pays démocratiques — l’émergence de ces capacités cybernétiques est une raison supplémentaire pour laquelle les États-Unis et leurs alliés doivent conserver une avance décisive dans le domaine des technologies d’IA. Les gouvernements ont un rôle essentiel à jouer pour aider à maintenir cette avance, ainsi que pour évaluer et atténuer les risques pour la sécurité nationale associés aux modèles d’IA. Nous sommes prêts à collaborer avec les représentants locaux, régionaux et fédéraux pour contribuer à ces tâches.

Nous espérons que le projet Glasswing pourra donner naissance à une initiative plus large impliquant l'industrie et le secteur public, toutes les parties contribuant à répondre aux questions les plus importantes concernant l'impact des modèles puissants sur la sécurité. Nous invitons les autres acteurs du secteur de l'IA à se joindre à nous pour aider à définir les normes de l'industrie. À moyen terme, un organisme tiers indépendant, capable de rassembler des organisations des secteurs privé et public, pourrait constituer le cadre idéal pour poursuivre les travaux sur ces projets de cybersécurité à grande échelle.

Source : Annonce d'Anthropic

Et vous ?

Pensez-vous que cette annonce est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

La société spécialisé dans la sécurité des IA Snyk dévoile l'AI Security Fabric : un système adaptatif permettant le déploiement d'innovations IA en toute sécurité et offrant une protection continue

Les dépenses mondiales en matière de sécurité devraient augmenter de 11,8 % pour dépasser les 300 milliards $ en 2026, alors que l'adoption des plateformes de sécurité basées sur l'IA s'accélère, d'après IDC

Une faille critique dans Claude Code est apparue après la fuite du code source : Anthropic a d'abord divulgué le code source de Claude Code, puis une faille critique a été découverte par Adversa AI