Anthropic annonce qu'il ne commercialiserait pas son dernier modèle, Mythos, car celui-ci s'avère trop efficace pour détecter des failles de cybersécurité de gravité élevée dans les systèmes d'exploitation

Anthropic a annoncé qu'il ne commercialiserait pas son tout dernier modèle, Mythos, au grand public, invoquant la crainte qu'il ne soit trop efficace pour détecter des failles de cybersécurité de gravité élevée dans les principaux systèmes d'exploitation et navigateurs web. « L'augmentation considérable des capacités de Claude Mythos Preview nous a amenés à décider de ne pas le rendre accessible au grand public. Nous l'utilisons plutôt dans le cadre d'un programme de cybersécurité défensive avec un groupe restreint de partenaires », a écrit Anthropic dans la fiche technique du modèle.

Fin mars, le dernier modèle d'IA d'Anthropic a fait l'objet d'une fuite avant même son lancement et a fait grand bruit sur les réseaux sociaux. Le nouveau modèle, dont le nom de code est « Claude Mythos », a été révélé accidentellement après que des descriptions du modèle ont été stockées dans un cache de données accessible au public. La start-up spécialisée dans l'IA aurait laissé le brouillon de l'article de blog annonçant Mythos dans un lac de données public et non sécurisé. Un porte-parole d'Anthropic a déclaré : « Nous développons un modèle polyvalent présentant des avancées significatives en matière de raisonnement, de codage et de cybersécurité. »

Récemment, le géant de l'IA Anthropic a annoncé qu'il ne commercialiserait pas son tout dernier modèle, Mythos, au grand public, invoquant la crainte qu'il ne soit trop efficace pour détecter des failles de cybersécurité de gravité élevée dans les principaux systèmes d'exploitation et navigateurs web. « L'augmentation considérable des capacités de Claude Mythos Preview nous a amenés à décider de ne pas le rendre accessible au grand public. Nous l'utilisons plutôt dans le cadre d'un programme de cybersécurité défensive avec un groupe restreint de partenaires », a écrit Anthropic dans la fiche technique du modèle. Mythos sera donc utilisé dans le cadre d'un programme de cybersécurité défensive avec un groupe restreint de partenaires.

Anthropic a révélé que Mythos était capable de s'échapper d'un bac à sable virtuel lorsqu'on le lui demandait, allant même jusqu'à envoyer un e-mail inattendu à un chercheur pour prouver son évasion. Dans un autre cas, le modèle a publié des détails de son exploit sur des sites web obscurs mais accessibles au public sans qu’on le lui demande. La société a également mentionné que Mythos avait même redécouvert une vulnérabilité vieille de 27 ans dans OpenBSD, longtemps considéré comme l’un des systèmes d’exploitation les plus sécurisés. Des ingénieurs sans formation officielle en sécurité auraient demandé à Mythos de trouver des vulnérabilités d’exécution de code à distance pendant la nuit et se sont réveillés avec des exploits complets et fonctionnels.


Pour l’instant, Mythos ne sera accessible qu’à 11 organisations sélectionnées, dont Google, Microsoft, Amazon Web Services, Nvidia et JPMorgan Chase, dans le cadre d’une initiative de cybersécurité baptisée « Project Glasswing ». Anthropic fournit jusqu’à 100 millions de dollars de crédits d’utilisation pour ce programme, qui tire son nom du papillon transparent « glasswing », une métaphore pour exposer les vulnérabilités cachées tout en évitant de causer du tort.

Anthropic a déclaré que son objectif à long terme était de commercialiser des « modèles de classe Mythos » une fois que des mesures de sécurité auront été mises au point pour bloquer les résultats dangereux. « Notre objectif final est de permettre à nos utilisateurs de déployer en toute sécurité des modèles de classe Mythos à grande échelle, à des fins de cybersécurité mais aussi pour profiter de la myriade d’autres avantages que ces modèles hautement performants apporteront », a écrit la société.

Cette annonce intervient quelques semaines seulement après qu’Anthropic a assoupli un engagement de sécurité antérieur et lancé Claude Opus 4.6, son modèle public le plus puissant à ce jour. Elle a également coïncidé avec une panne majeure affectant Claude et Claude Code, soulignant les difficultés liées à l’ascension rapide d’Anthropic. En outre, les récentes avancées dans le domaine des outils, comme ceux proposés par le développeur d'IA Anthropic, suscitent désormais une attention accrue. Les craintes des investisseurs quant au fait que les nouveaux développements en matière d'intelligence artificielle puissent supplanter les logiciels ont eu des répercussions sur le marché boursier, faisant chuter les actions des entreprises qui développent, concèdent sous licence et même investissent dans des codes et des systèmes.

Voici l'annonce d'Anthropic :

Projet Glasswing : Sécuriser les logiciels critiques à l'ère de l'IA

Nous annonçons aujourd’hui le lancement du projet Glasswing, une nouvelle initiative qui rassemble Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, la Linux Foundation, Microsoft, NVIDIA et Palo Alto Networks dans le but de sécuriser les logiciels les plus critiques au monde.

Nous avons créé le projet Glasswing en raison des capacités que nous avons observées dans un nouveau modèle de pointe formé par Anthropic et qui, selon nous, pourrait révolutionner la cybersécurité. Claude Mythos Preview est un modèle de pointe polyvalent, non encore commercialisé, qui révèle une réalité frappante : les modèles d’IA ont atteint un niveau de capacité de codage tel qu’ils peuvent surpasser tous les humains, sauf les plus compétents, dans la détection et l’exploitation des vulnérabilités logicielles.

Mythos Preview a déjà détecté des milliers de vulnérabilités de gravité élevée, dont certaines dans tous les principaux systèmes d'exploitation et navigateurs web. Compte tenu du rythme des progrès de l'IA, ces capacités ne tarderont pas à se généraliser, potentiellement au-delà des acteurs qui s'engagent à les déployer en toute sécurité. Les répercussions — sur les économies, la sécurité publique et la sécurité nationale — pourraient être graves. Le projet Glasswing est une initiative urgente visant à mettre ces capacités au service de la défense.

Dans le cadre du projet Glasswing, les partenaires de lancement mentionnés ci-dessus utiliseront Mythos Preview dans le cadre de leurs activités de sécurité défensive ; Anthropic partagera les enseignements tirés afin que l'ensemble du secteur puisse en bénéficier. Nous avons également étendu l'accès à un groupe de plus de 40 organisations supplémentaires qui développent ou gèrent des infrastructures logicielles critiques, afin qu'elles puissent utiliser le modèle pour analyser et sécuriser à la fois les systèmes propriétaires et open source. Anthropic s'engage à fournir jusqu'à 100 millions de dollars de crédits d'utilisation pour Mythos Preview dans le cadre de ces efforts, ainsi que 4 millions de dollars de dons directs à des organisations de sécurité open source.

Le projet Glasswing est un point de départ. Aucune organisation ne peut résoudre seule ces problèmes de cybersécurité : les développeurs d'IA de pointe, les autres éditeurs de logiciels, les chercheurs en sécurité, les responsables de la maintenance open source et les gouvernements du monde entier ont tous un rôle essentiel à jouer. Le travail de défense de l'infrastructure cybernétique mondiale pourrait prendre des années ; les capacités de l'IA de pointe sont susceptibles de progresser considérablement au cours des prochains mois. Pour que les cyberdéfenseurs prennent l'avantage, nous devons agir maintenant.


La cybersécurité à l’ère de l’IA

Les logiciels sur lesquels nous comptons tous au quotidien — chargés de faire fonctionner les systèmes bancaires, de stocker les dossiers médicaux, de relier les réseaux logistiques, de maintenir les réseaux électriques en état de marche, et bien plus encore — ont toujours contenu des bogues. Beaucoup sont mineurs, mais certains constituent de graves failles de sécurité qui, si elles étaient découvertes, pourraient permettre à des cyberattaquants de détourner des systèmes, de perturber les opérations ou de voler des données.

Nous avons déjà constaté les graves conséquences des cyberattaques sur les réseaux d'entreprises importants, les systèmes de santé, les...