Le projet de Trump visant à tester les modèles d'IA pose problème : les équipes de sécurité américaines ont été décimées par le DOGE. Le projet est qualifié de « mise en scène sans vision à long terme »

Le projet de Trump visant à tester les modèles d'IA pose problème : les équipes de sécurité américaines ont été décimées par le DOGE. Le projet est qualifié de « mise en scène sans vision à long terme »

Le président Donald Trump a récemment signé un décret exécutif visant à instaurer des tests de sécurité volontaires pour les modèles d'IA les plus avancés. Cette initiative, perçue par certains comme superficielle, réduit le délai d'examen à seulement trente jours afin de ne pas freiner l'innovation technologique. Toutefois, les coupes budgétaires massives opérées par le DOGE au sein des agences de cybersécurité ont considérablement affaibli la capacité de l'État à mener ces analyses techniques complexes. Le succès de ce programme repose désormais sur la transparence des entreprises privées et sur le recrutement rapide de nouveaux experts.

Le président Donald Trump a signé le 2 juin un décret enjoignant les principales entreprises du secteur de l'IA de fournir volontairement leurs modèles les plus avancés au gouvernement fédéral, afin qu'ils soient soumis à des tests de cybersécurité avant d'être mis à disposition du public. Selon les responsables de la Maison Blanche, cette initiative répond aux préoccupations croissantes en matière de sécurité nationale liées aux systèmes d'IA de pointe.

Elle établit un cadre permettant aux agences fédérales et aux entreprises technologiques d'identifier les vulnérabilités potentielles, de renforcer la protection des infrastructures critiques et de coordonner les mesures correctives avant tout déploiement. La mesure suscite toutefois quelques controverses.

Plusieurs ministères fédéraux, notamment ceux du Trésor, de la Défense, du Commerce et de la Sécurité intérieure, sont chargés de conclure des accords de tests volontaires avec les principales entreprises technologiques. Les experts fédéraux disposeraient d'un délai de 30 jours pour tester de manière rigoureuse les modèles d'IA afin de détecter d'éventuelles vulnérabilités numériques et failles de sécurité avant la commercialisation des modèles d'IA.

L'impact des coupes budgétaires sur les capacités fédérales

La Maison Blanche explique que ce décret reflète une volonté claire de ne pas étouffer l'innovation par des réglementations contraignantes et de préserver la domination mondiale des États-Unis dans le domaine de l'IA. Par conséquent, ce cadre ne fixe aucune exigence obligatoire pour les entreprises, reposant entièrement sur leur volonté à collaborer avec les autorités. Cependant, les capacités du gouvernement à mettre en œuvre ce plan interrogent.


De nombreux experts mettent en doute la capacité du gouvernement américain à mener des évaluations de sécurité significatives dans un délai aussi restreint que 30 jours. Cette impréparation technique est largement attribuée aux récentes coupes budgétaires massives imposées par le département de l'efficacité gouvernementale (DOGE). L'Agence de cybersécurité et de sécurité des infrastructures (CISA) a été particulièrement touchée par ces coupes.

La CISA a perdu une grande partie de ses experts en cybersécurité à la suite de licenciements massifs l'année dernière et de l'annulation de contrats. En attendant que le gouvernement fédéral parvienne à recruter de nouveaux experts et à débloquer des fonds pour ce programme, l'administration a prévu, en guise de solution temporaire, d'intensifier les poursuites judiciaires contre les individus exploitant les capacités de l'IA à des fins criminelles.

La CISA est la principale force de cyberdéfense du gouvernement américain. Mais ce statut ne l'a pas protégé pour autant : la CISA a été ravagée par les mesures d'austérité de l'administration Trump. Ces mesures ont entraîné le démantèlement de l'expertise et du leadership de la CISA en matière de cybersécurité et d'IA. Selon les rapports, certains programmes ont été mis en veille ou abandonnés, malgré l'accroissement des menaces cybernétiques.

Mise en place de programmes d'évaluation des modèles

La NSA est chargée de mettre en place un processus d'évaluation classifié visant à déterminer le seuil à partir duquel un modèle d'IA peut être désigné comme « modèle de pointe couvert par le décret » (covered frontier model). L'agence doit également coopérer avec le département du Trésor et la CISA afin de mettre en place « une plateforme de coordination en cybersécurité chargée d’identifier et de corriger les vulnérabilités à grande échelle ».

Le groupe doit également élaborer un cadre volontaire permettant aux développeurs de soumettre leurs modèles à des tests de sécurité. « Ce décret est purement théâtral. Les spécialistes ne peuvent pas examiner profondément la boite noire des modèles d'IA en seulement 30 jours », a écrit un critique.

Donald Trump souhaite que ces procédures soient mises en place dans un délai de 30 jours, mais il semblerait qu’il faille plus de temps au gouvernement pour recruter les talents et développer l’expertise nécessaire à la réalisation de ces tests de sécurité complexes. Le décret donne à l’Office of Personnel Management 60 jours pour « élargir les filières de recrutement et d’affectation des spécialistes en cybersécurité de la United States Tech Force ».

En guise de solution provisoire, Donald Trump prévoit de renforcer les mesures répressives afin d'intimider les personnes susceptibles d'exploiter des modèles d'IA non testés. Le décret charge le ministre de la Justice de « donner la priorité aux poursuites contre les individus qui utilisent l'IA pour accéder illégalement à des systèmes informatiques, les endommager, voler des données ou faciliter d'autres activités criminelles », selon une note interne.

Les défis techniques et la dépendance envers les entreprises

Outre le manque de ressources, la mise en œuvre de ce plan se heurte à un défi technique majeur : la définition de ce qui constitue précisément un modèle d'IA soumis à ces évaluations. Les systèmes de pointe sont probabilistes, de plus en plus autonomes, et leurs capacités réelles peuvent changer de façon imprévisible une fois qu'ils sont intégrés dans des infrastructures réelles. « Ce décret semble avoir rédigé sur un coup de tête », a écrit un détracteur.


Une définition trop stricte de ces modèles risquerait de laisser passer des technologies dangereuses, tandis qu'une définition trop large épuiserait rapidement les ressources gouvernementales déjà limitées. Selon les analystes, il s'agit d'un défi difficile à surmonter. L'efficacité du dispositif souffre également d'un problème fondamental de visibilité, car les autorités ne peuvent évaluer que les éléments que les développeurs d'IA acceptent de leur révéler.

Les détracteurs craignent que ce décret, pris en réponse aux inquiétudes du public concernant les risques de cybersécurité posés par le modèle Mythos d'Anthropic, ne manque de vision à long terme et ne repose trop sur la bonne volonté des entreprises d'IA pour faire passer la sécurité publique avant le profit. Les coupes budgétaires affectant la CISA ont fragilisé ses capacités et pourraient retarder les tests de sécurité envisagés par le décret.

Conclusion

En conclusion, plusieurs critiques craignent que ce décret ne soit qu'une mesure performative, conçue pour rassurer le public face aux risques posés par l'IA, sans offrir de véritables garanties de sécurité. Si ce processus d'évaluation volontaire et de partage d'informations représente un outil dont la communauté du renseignement aura besoin dans les décennies à venir, ses véritables bénéfices à long terme restent pour le moment très incertains.

Pour être réellement protectrices, ces mesures devront s'appuyer sur un échange honnête d'expertises pointues et évoluer aussi rapidement que les modèles qu'elles visent à encadrer, au risque sinon de combattre les menaces d'hier. Le décret laisse également entendre que le financement pourrait constituer un problème à court terme. Les agences fédérales ont été fragilisées par le DOGE et manquent aujourd'hui cruellement de ressources.

En fin de compte, le succès des tests repose donc presque exclusivement sur la transparence et la bonne foi des entreprises privées, qui pourraient être financièrement tentées de chercher une simple approbation de façade plutôt que de collaborer pleinement à la recherche des limites de leurs systèmes.

Sources : décret du président Donald Trump, la Maison Blanche, Council on Foreign Relations (CFR)

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des mesures introduites par le décret de Donald Trump ?
Ces mesures vont-elles permettre de renforcer la sécurité des modèles d'IA commercialisés ?
Certains critiques craignent que ce décret ne soit qu'une mesure performative. Qu'en pensez-vous ?

Voir aussi

Le président Donald Trump signe un décret demandant aux principales entreprises d'IA de fournir au gouvernement leurs plus puissants modèles d'IA pour des tests de cybersécurité avant leur mise sur le marché

L'agence américaine de cybersécurité CISA perd presque tous ses hauts cadres à la suite des mesures d'austérité imposées par l'administration Trump, ce qui suscite des inquiétudes quant à l'avenir de l'agence

La NSA utilise en secret Mythos Preview, le modèle le plus puissant d'Anthropic, l'entreprise officiellement bannie par le Pentagone qui est censée représenter un « risque pour la sécurité nationale »