Les modèles d'IA « dangereux » dotés de capacités de piratage avancées sont inéluctables et deviendront bientôt la norme,

Selon des experts opposés à l'interdiction de Fable 5 d'Anthropic

Les modèles d’IA « dangereux » dotés de capacités de piratage avancées sont inéluctables et deviendront bientôt la norme
selon des experts opposés à l'interdiction de Fable 5 d'Anthropic

L'administration Trump a restreint l'accès aux nouveaux modèles Mythos 5 et Fables 5 d'Anthropic par peur que leurs capacités avancées en cybersécurité ne profitent à des acteurs malveillants. Les autorités fédérales craignent que les modèles d'IA dotés de capacités de piratage avancées ne deviennent bientôt la norme. Toutefois, de nombreux experts soulignent que ces mesures sont vaines face aux progrès technologiques inévitables. Selon eux, des outils aussi puissants seront bientôt accessibles mondialement via d'autres entreprises ou des projets open source. Le jour même de l'interdiction, la startup Z.ai a publié un modèle open source de pointe, GML-5.2.

Le gouvernement américain a ordonné à Anthropic de bloquer l'accès à Fable 5 et Mythos 5 pour l'ensemble des ressortissants étrangers, y compris ses propres employés. Anthropic n'a pas eu d'autres choix que de s'exécuter, déclenchant ainsi un tollé mondial. La Maison-Blanche justifie ce blocage par « des impératifs de sécurité nationale », notamment en raison de soupçons selon lesquels un groupe affilié à la Chine aurait accédé à Mythos 5.

Cette coupure brutale a mis en lumière la domination écrasante des États-Unis sur le marché de l'IA de pointe, tout en soulignant le pouvoir unilatéral dont dispose le gouvernement américain pour restreindre l'accès mondial à ces technologies critiques. « Nous y voilà ! Au lieu de développer des alternatives européennes souveraines, nous avons passé le temps à négocier des accords qui s'avèrent finalement improductifs », a déclaré un critique.

Face à cette situation, Anthropic a entamé des discussions avec la Maison Blanche dans l'espoir de pouvoir réactiver ses services. Ce blocage a suscité un débat international sur la souveraineté numérique, rappelant aux gouvernements que la dépendance aux technologies américaines peut coûter très cher.

Le dilemme du double usage et les risques de cybersécurité

Ces interdictions illustrent le défi posé par les technologies dites à « double usage ». Lors du lancement de ses modèles, Anthropic a elle-même averti que ses IA possédaient des capacités très avancées en matière de cybersécurité. Si ces outils peuvent aider les spécialités de la cybersécurité à détecter et corriger des vulnérabilités logicielles, ils peuvent tout autant être utilisés par des acteurs malveillants pour créer et exploiter des vulnérabilités.


Consciente de ces enjeux, l'entreprise avait initialement réservé l'accès à son modèle Mythos 5 à un groupe de travail restreint baptisé Project Glasswing, tandis que la version publique (Claude Fable 5) intégrait des blocages stricts l'empêchant de répondre à des questions liées à la cybersécurité et à la biologie.

« Pour nous, il s’agit vraiment de ce que nous appelons la “course vers le sommet”, c’est-à-dire être en mesure de fournir cette technologie de manière utile, tout en mettant en place les garde-fous de sécurité appropriés afin qu’elle apporte, de manière asymétrique, plus d’avantages que d'inconvénients », a expliqué Dianne Penn, responsable de la gestion des produits de recherche chez Anthropic, lors d’une récente interview accordée à CNBC.

Toutefois, cela n'a pas empêché le gouvernement américain d'émettre un avis de contrôle à l'exportation. L'ironie de la situation n'a pas échappé aux observateurs. Yann LeCun a rappelé que les discours alarmistes du PDG Dario Amodei sur la dangerosité de ses propres modèles ont fini par porter leurs fruits : en insistant sur les risques catastrophiques de l'IA de pointe, Anthropic a lui-même fourni les arguments qui ont convaincu Washington d'agir.

Une tendance technologique jugée inévitable par les experts

Malgré les tentatives de restriction du gouvernement américain, les experts estiment que l'émergence de ces modèles est inévitable. Selon eux, Washington ne fait que retarder l'échéance, tout en privant les experts d'un puissant outil de travail. Tarah Wheeler, experte en cybersécurité, souligne qu'il est très probable que d'autres entreprises concurrentes possèdent déjà des capacités similaires, mais préfèrent les garder en réserve pour le moment.

Selon elle, ces entreprises observent l'évolution du climat réglementaire. Anthropic avait d'ailleurs anticipé cette évolution en prévenant que ces technologies seraient largement accessibles d'ici six à vingt-quatre mois, tandis qu'OpenAI testait déjà discrètement un modèle axé sur la cybersécurité en avril.

« Il est très réducteur de penser qu’aucun autre concurrent d’Anthropic ne développera de capacités similaires à celles de Mythos, voire qu’ils ne l’ont pas déjà fait. D’autres entreprises talonnent Anthropic ; elles disposent probablement elles aussi de ces capacités, mais les gardent en réserve pour voir comment Anthropic est traité dans le contexte réglementaire actuel », a déclaré Tarah Wheeler, directrice de la sécurité du cabinet TPO Group.

Le chercheur Bruce Schneier fait valoir qu'il s'agit d'une tendance technologique générale, où même des modèles open source, plus petits et moins coûteux, finiront par égaler les performances de Claude Mythos 5 et Fable 5 d'ici quelques mois. C'est pourquoi de nombreux spécialistes, ainsi qu'un collectif de leaders en cybersécurité ayant adressé une lettre ouverte à l'administration, considèrent cette directive gouvernementale comme inadaptée.

Ils estiment que « les décideurs politiques devraient plutôt se concentrer sur l'élaboration de plans transparents pour gérer ces avancées inéluctables », en se demandant si de telles restrictions réduisent réellement les risques ou si elles ne font que ralentir les experts qui cherchent à sécuriser les systèmes. Katie Moussouris, fondatrice et PDG de Luta Security et figure dans le domaine de la cybersécurité, qualifie cette décision de contre-productive.

Les conséquences négatives pour les défenseurs informatiques

Face à cette interdiction, plus d'une centaine de leaders de la cybersécurité, dont Katie Moussouris elle-même, ont signé une lettre ouverte exhortant l'administration à annuler ces restrictions et à restaurer l'accès à ces modèles avancés pour les entreprises de sécurité. Les experts estiment qu'il est très dangereux de retirer leurs meilleures capacités de défense aux professionnels de la sécurité alors que les adversaires continuent de progresser.

De plus, Katie Moussouris prévient que les États-Unis ne peuvent de toute façon pas étendre ces contrôles d'exportation aux modèles à poids ouverts ou aux systèmes développés par des pays concurrents comme la Chine, qui atteindront bientôt des capacités équivalentes à celles de Fable 5 ou Mythos.

Dans un billet de blogue publié récemment, la fondatrice de Luta Security a fait valoir qu’il n’y a eu ni contournement des mesures de sécurité ni jailbreak. Au final, cette interdiction pénalisera beaucoup plus les professionnels de la sécurité que les cybercriminels, car la défense informatique repose sur la capacité des défenseurs à trouver et à corriger les failles plus rapidement que les attaquants grâce aux meilleurs outils de détection disponibles.

« Les responsables de la sécurité devraient pouvoir demander aux systèmes d’IA de détecter et de corriger des bogues, puis d’écrire des tests pour valider le correctif », a-t-elle déclaré. « Les modèles d’Anthropic accomplissaient la tâche la plus précieuse qu’un modèle d’IA puisse réaliser en matière de sécurité défensive : exécuter la boucle de détection, de correction et de test que les responsables de la sécurité effectuent chaque jour ».

Perte de confiance durable dans les entreprises américaines

L'affaire crée un précédent lourd : les grands modèles de langage (LLM) de pointe pourraient désormais être traités comme des actifs stratégiques soumis à des licences d'exportation, à l'image des semiconducteurs avancés. Anthropic lui-même l'a dit explicitement : si cette norme était appliquée à l'ensemble de l'industrie, elle aurait pour effet d'arrêter pratiquement tous les nouveaux déploiements de modèles d'IA de l'ensemble des fournisseurs.

Un gouvernement peut, en quelques heures et sans préavis, couper l'accès à un outil sur lequel des milliers d'entreprises s'appuient en production. Les modèles open source, eux, échappent par nature à ce risque : une fois les poids téléchargés et hébergés localement ou sur une infrastructure souveraine, aucune directive d'exportation ne peut en priver les utilisateurs. La portabilité n'est plus un détail technique, c'est une décision de gouvernance.

Les partisans de l'open source y voient la confirmation que le secret et la concentration des capacités de l'IA de pointe entre quelques mains américaines engendrent davantage de risques qu'ils n'en résolvent. Les modèles open source rattrapent leur retard, avec Gemma 4 12B de Google et LLama 4 de Meta.

Z.ai vient d'annoncer la sortie de GLM-5.2, un nouveau modèle de langage à poids ouverts comptant 744 milliards de paramètres, spécialement conçu pour exceller dans les tâches d’ingénierie et de codage autonome à long terme. GLM-5.2 surpasse GPT-5.5 d'OpenAI dans plusieurs tests de performance en codage à long terme, pour un coût six fois moindre. Il offre une fenêtre de contexte élargie à un million de tokens et une précision accrue.

Sources : Anthropic, lettre ouverte des experts en cybersécurité

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous du blocage de l'accès aux modèles Mythos et Fable d'Anthropic ?
Selon vous, cette mesure est-elle pertinente ? Pensez-vous également qu'elle est contre-productive ?

Voir aussi

Le blocage de l'accès aux modèles Fable 5 et Mythos 5 d'Anthropic par l'administration Trump donne raison aux partisans de l'IA open source et non américaine, « la guerre de l'IA est désormais lancée »

Les chercheurs en cybersécurité sont mécontents des mesures de sécurité mises en place pour le modèle Fable d'Anthropic, elles augmentent le nombre de faux positifs et bloquent même les requêtes banales

Le nouveau modèle GLM-5.2 de Z.ai devient la référence sur le marché des IA open source. Il surpasse GPT-5.5 d'OpenAI sur plusieurs benchmarks de codage à long terme, pour un coût six fois moindre