Les modèles d'IA « dangereux » dotés de capacités de piratage avancées sont inéluctables et deviendront bientôt la norme,

Selon des experts opposés à l'interdiction de Fable 5 d'Anthropic

L'administration Trump a restreint l'accès aux nouveaux modèles Mythos 5 et Fables 5 d'Anthropic par peur que leurs capacités avancées en cybersécurité ne profitent à des acteurs malveillants. Les autorités fédérales craignent que les modèles d'IA dotés de capacités de piratage avancées ne deviennent bientôt la norme. Toutefois, de nombreux experts soulignent que ces mesures sont vaines face aux progrès technologiques inévitables. Selon eux, des outils aussi puissants seront bientôt accessibles mondialement via d'autres entreprises ou des projets open source. Le jour même de l'interdiction, la startup Z.ai a publié un modèle open source de pointe, GML-5.2.

Le gouvernement américain a ordonné à Anthropic de bloquer l'accès à Fable 5 et Mythos 5 pour l'ensemble des ressortissants étrangers, y compris ses propres employés. Anthropic n'a pas eu d'autres choix que de s'exécuter, déclenchant ainsi un tollé mondial. La Maison-Blanche justifie ce blocage par « des impératifs de sécurité nationale », notamment en raison de soupçons selon lesquels un groupe affilié à la Chine aurait accédé à Mythos 5.

Cette coupure brutale a mis en lumière la domination écrasante des États-Unis sur le marché de l'IA de pointe, tout en soulignant le pouvoir unilatéral dont dispose le gouvernement américain pour restreindre l'accès mondial à ces technologies critiques. « Nous y voilà ! Au lieu de développer des alternatives européennes souveraines, nous avons passé le temps à négocier des accords qui s'avèrent finalement improductifs », a déclaré un critique.

Face à cette situation, Anthropic a entamé des discussions avec la Maison Blanche dans l'espoir de pouvoir réactiver ses services. Ce blocage a suscité un débat international sur la souveraineté numérique, rappelant aux gouvernements que la dépendance aux technologies américaines peut coûter très cher.

Le dilemme du double usage et les risques de cybersécurité

Ces interdictions illustrent le défi posé par les technologies dites à « double usage ». Lors du lancement de ses modèles, Anthropic a elle-même averti que ses IA possédaient des capacités très avancées en matière de cybersécurité. Si ces outils peuvent aider les spécialités de la cybersécurité à détecter et corriger des vulnérabilités logicielles, ils peuvent tout autant être utilisés par des acteurs malveillants pour créer et exploiter des vulnérabilités.


Consciente de ces enjeux, l'entreprise avait initialement réservé l'accès à son modèle Mythos 5 à un groupe de travail restreint baptisé Project Glasswing, tandis que la version publique (Claude Fable 5) intégrait des blocages stricts l'empêchant de répondre à des questions liées à la cybersécurité et à la biologie.

« Pour nous, il s’agit vraiment de ce que nous appelons la “course vers le sommet”, c’est-à-dire être en mesure de fournir cette technologie de manière utile, tout en mettant en place les garde-fous de sécurité appropriés afin qu’elle apporte, de manière asymétrique, plus d’avantages que d'inconvénients », a expliqué Dianne Penn, responsable de la gestion des produits de recherche chez Anthropic, lors d’une récente interview accordée à CNBC.

Toutefois, cela n'a pas empêché le gouvernement américain d'émettre un avis de contrôle à l'exportation. L'ironie de la situation n'a pas échappé aux observateurs. Yann LeCun a rappelé que les discours alarmistes du PDG Dario Amodei sur la dangerosité de ses propres modèles ont fini par porter leurs fruits : en insistant sur les risques catastrophiques de l'IA de pointe, Anthropic a lui-même fourni les arguments qui ont convaincu Washington d'agir.

Une tendance technologique jugée inévitable par les experts

Malgré les tentatives de restriction du gouvernement américain, les experts estiment que l'émergence de ces modèles est inévitable. Selon eux, Washington ne fait que retarder l'échéance, tout en privant les experts d'un puissant outil de travail. Tarah Wheeler, experte en cybersécurité, souligne qu'il est très probable que d'autres entreprises concurrentes possèdent déjà des capacités similaires, mais préfèrent les garder en réserve pour le moment.

Selon elle, ces entreprises observent l'évolution du climat réglementaire. Anthropic avait d'ailleurs anticipé cette évolution en prévenant que ces technologies seraient largement accessibles d'ici six à vingt-quatre mois, tandis qu'OpenAI testait déjà discrètement un modèle axé sur la cybersécurité en avril.

« Il est très réducteur de penser qu’aucun autre concurrent d’Anthropic ne développera de capacités similaires à celles de Mythos, voire qu’ils ne l’ont pas déjà fait. D’autres entreprises talonnent Anthropic ; elles disposent probablement elles aussi de ces capacités, mais les gardent en réserve pour voir comment Anthropic est traité dans le contexte réglementaire actuel », a déclaré Tarah Wheeler, directrice de la sécurité du cabinet TPO Group.

Le chercheur Bruce Schneier fait valoir qu'il s'agit d'une tendance technologique générale, où même des modèles open source, plus petits et moins coûteux, finiront par égaler les performances de Claude Mythos 5 et Fable 5 d'ici quelques mois. C'est pourquoi de nombreux spécialistes, ainsi qu'un collectif de leaders en cybersécurité ayant adressé une lettre ouverte à l'administration, considèrent cette directive gouvernementale comme inadaptée.

Ils estiment que « les décideurs politiques devraient plutôt se concentrer sur l'élaboration de plans transparents pour gérer ces avancées inéluctables », en se demandant si de telles restrictions réduisent réellement les risques ou si elles ne font que ralentir les experts qui cherchent à sécuriser les systèmes. Katie Moussouris, fondatrice et PDG de Luta Security et figure dans le domaine de la cybersécurité, qualifie cette décision de contre-productive.

Les conséquences négatives pour les défenseurs informatiques

Face à cette interdiction, plus d'une centaine de leaders de la cybersécurité, dont Katie Moussouris elle-même, ont signé une lettre ouverte exhortant l'administration à annuler ces restrictions et à restaurer l'accès à ces modèles avancés pour les entreprises de sécurité. Les experts estiment qu'il est très dangereux de retirer leurs meilleures capacités de défense aux professionnels de la sécurité alors que les adversaires continuent de progresser.

De plus, Katie Moussouris prévient que les États-Unis ne peuvent de toute façon pas étendre ces contrôles d'exportation aux modèles à poids ouverts ou aux systèmes développés par des pays concurrents comme la Chine, qui atteindront bientôt des capacités équivalentes à celles de Fable 5 ou Mythos.

Dans un billet de blogue publié récemment, la fondatrice de Luta Security a fait valoir qu’il n’y a eu ni contournement des mesures de sécurité ni jailbreak. Au final, cette interdiction pénalisera beaucoup plus les professionnels de la sécurité que les cybercriminels, car la défense informatique repose sur la capacité des défenseurs à trouver et à corriger les failles plus rapidement que les attaquants grâce aux meilleurs outils de détection disponibles.

« Les...