Le Pentagone fixe à vendredi la date limite pour qu'Anthropic délaisse ses règles éthiques en matière d'IA sous peine de perdre son contrat fédéral

Et d'être qualifié de menace pour la chaîne d'approvisionnem

Le Pentagone fixe à vendredi la date limite pour qu'Anthropic délaisse ses règles éthiques en matière d'IA sous peine de perdre son contrat fédéral
et d'être qualifié de menace pour la chaîne d'approvisionnement

Le secrétaire américain à la Défense Pete Hegseth a donné au PDG d'Anthropic jusqu'au 27 février 2026 à 17h pour ouvrir la technologie d'IA de l'entreprise à une utilisation militaire sans restriction, sous peine de perdre son contrat avec le gouvernement fédéral. Il aurait également menacé de désigner Anthropic comme un risque pour la chaîne d'approvisionnement. Le Pentagone aurait demandé un accès illimité au chatbot Claude d'Anthropic pour le ciblage automatique et la surveillance de masse, mais Anthropic refuse de lever ses garde-fous. Le Pentagone accélère l'intégration de l'IA pour maintenir sa compétitivité face à la Chine.

Anthropic est le créateur du chatbot Claude et est le dernier de ses pairs à ne pas fournir sa technologie à un nouveau réseau interne de l'armée américaine. Le PDG Dario Amodei a clairement exprimé à plusieurs reprises ses préoccupations éthiques concernant l'utilisation incontrôlée de l'IA par le gouvernement, notamment les dangers des drones armés autonomes et des systèmes de surveillance assistée par l'IA pouvant permettre de traquer les dissidents.

Anthropic a élaboré des gardes solides pour empêcher une utilisation militaire de son IA. Mais le Pentagone exige d'Anthropic qu'il lève ces verrous et lui accorde un accès sans restriction à son chatbot Claude. Une réunion a eu lieu ce 24 février entre le secrétaire américain à la Défense Pete Hegseth et le PDG d'Anthropic, Dario Amodei, pour tenter de trouver un terrain d'entente. Mais selon des sources ayant assisté à la réunion, Dario Amodei refuse toujours.

Dario Amodei aurait réaffirmé deux refus fermes : l'utilisation de Claude pour la surveillance de masse des citoyens américains, et le déploiement de l'IA dans des attaques physiques où c'est elle qui prend les décisions de ciblage sans intervention humaine. Ces points restent non négociables pour Anthropic.

Le Pentagone lance un ultimatum à Anthropic pour l'accès à son IA

En réponse au refus catégorique de Dario Amodei, le secrétaire américain à la Défense Pete Hegseth aurait menacé de résilier le contrat liant Anthropic au Pentagone d'ici le 27 février, à moins que la startup accepte les conditions d'utilisation fixées par l'administration Trump. Les négociations ont été décrites comme sensibles. Les sources ont rapporté que Pete Hegseth a menacé de désigner Anthropic comme un risque pour la chaîne d'approvisionnement.


Les responsables de la défense auraient ajouté qu'ils pourraient désigner Anthropic comme un risque pour la chaîne d'approvisionnement ou utiliser la loi sur la production de défense pour donner à l'armée plus de pouvoir pour utiliser ses produits, même s'ils n'approuvent pas la manière dont ils sont utilisés.

Selon un haut responsable, le Pentagone s'oppose aux restrictions éthiques d'Anthropic, car les opérations militaires ont besoin de systèmes qui ne comportent pas de limitations intégrées. Le responsable a fait valoir que le Pentagone n'avait émis que des ordres légaux et a souligné que l'utilisation légale des produits d'Anthropic relèverait de la responsabilité de l'armée. Mais l'IA militaire est controversée et soulève des préoccupations majeures.

La loi sur la production de défense confère au gouvernement des pouvoirs étendus sur les entreprises privées en temps de guerre ou d'urgence nationale. Elle a été utilisée pendant la pandémie de Covid-19 pour imposer la production de fournitures médicales. En 2024, certains conservateurs s'étaient opposés à son utilisation par l'administration Biden pour contraindre les entreprises d'IA à partager avec le gouvernement des données sur leurs modèles.

Anthropic se présente comme une entreprise soucieuse de la sécurité

La relation entre Anthropic et le Pentagone est passée sous les projecteurs à la suite de révélations sur l'utilisation de Claude lors d'une opération militaire en janvier ayant conduit à la capture de l'ancien président vénézuélien Nicolás Maduro. Si Anthropic venait à être qualifié de menace pour la chaîne d'approvisionnement, cela obligerait le gouvernement fédéral ainsi que ses sous-traitants à rompre leurs liens avec l'entreprise dirigée par Dario Amodei.

Dario Amodei a mis en garde contre les dangers potentiellement catastrophiques de l'IA, tout en rejetant l'étiquette de « pessimiste » en matière d'IA. Dans son essai publié en janvier, il a fait valoir que « nous sommes beaucoup plus proches d'un danger réel en 2026 qu'en 2023 », mais que ces risques doivent être gérés de manière « réaliste et pragmatique ». Il a déclaré que les technologies de surveillance basées sur l'IA présentent des risques majeurs.

« Une IA puissante capable d'analyser des milliards de conversations entre des millions de personnes pourrait évaluer l'opinion publique, détecter les poches de déloyauté en formation et les éliminer avant qu'elles ne se développent », a écrit le PDG d'Anthropic, Dario Amodei, dans un essai publié le mois dernier.

Les concurrents d'Anthropic (Meta, Google et xAI) se sont montrés disposés à se conformer à la politique du département concernant l'utilisation de modèles pour toutes les applications légales. Cela signifie que le pouvoir de négociation d'Anthropic est donc limité dans ce domaine, et l'entreprise risque de perdre de son influence dans le cadre des efforts déployés par le Pentagone pour adopter l'IA. Selon certains experts, Anthropic pourrait céder aux pressions.

Les acteurs de l’IA rivalisent pour obtenir des contrats de défense

OpenAI a discrètement révisé ses politiques au début de l'année 2024 afin d'autoriser certaines applications militaires et de sécurité nationale, suscitant des critiques de la part des organisations de défense des libertés civiles. Palantir Technologies, qui opère depuis longtemps à la croisée de la Silicon Valley et de la communauté du renseignement, a vu le cours de son action monter en flèche à mesure que les dépenses publiques en matière d'IA s'accéléraient.

Scale AI, Anduril Industries et un nombre croissant de startups axées sur les technologies de défense se sont également positionnées pour conquérir une part de ce qui, selon les analystes, pourrait devenir un marché annuel de 100 milliards de dollars pour l'IA militaire d'ici la fin de la décennie.

Cette tendance reflète un réalignement fondamental dans les relations entre l'industrie technologique et les institutions chargées de la sécurité nationale. Après des années de tensions, illustrées par le retrait de Google du projet Maven et le mouvement plus large « Tech Won't Build It » (la technologie ne le construira pas), les deux parties ont trouvé un terrain d'entente dans leur perception commune de la menace chinoise en matière d'IA.

Les investissements agressifs de Pékin dans l'IA militaire, notamment dans les drones autonomes, les systèmes de surveillance et les cyberarmes, ont créé un sentiment d'urgence à Washington qui s'est avéré convaincant, même pour les entreprises qui résistaient auparavant aux travaux de défense.

Dangers liés à l'IA militaire et aux outils de surveillance de masse

Un rapport de Francesca Albanese, rapporteuse spéciale sur les territoires palestiniens occupés, adressé au Conseil des droits de l'homme des Nations unies, a critiqué le travail de certaines entreprises, dont Palantir Technologies, avec Israël et les Forces de défense israéliennes. Bloomberg avait précédemment rapporté que les forces de défenses d'Israël (Tsahal) utilisaient un logiciel militaire développé par Palantir pour frapper des cibles à Gaza.

L'entreprise a réfuté ce qu'elle qualifie d'allégation « sans fondement » selon lesquelles elle serait le développeur d'un logiciel de ciblage assisté par l'IA qui aurait été utilisé par Tsahal à Gaza, ou qu'elle serait impliquée dans la base de données « Lavender » utilisée par Tsahal pour le recoupement des cibles. Peter Thiel a donné à l'entreprise le nom des boules de cristal utilisées comme « pierres de voyance » dans Le Seigneur des anneaux.

L'intégration de l'IA dans les systèmes militaires fait l'objet de controverses. Elle engendre des risques profonds et multidimensionnels. Le Comité international de la Croix-Rouge identifie trois grandes catégories de danger : l'augmentation des risques liés aux armes autonomes, l'aggravation des dommages causés par les cyberopérations et la guerre de l'information, et l'impact négatif sur la qualité des décisions humaines en contexte militaire :

• le premier péril tient à la nature même de la machine : contrairement à un soldat qui peut se tromper ponctuellement, un système autonome peut répéter la même erreur indéfiniment jusqu'à ce qu'il soit mis hors fonction, et sa vitesse d'exécution rend difficile toute intervention humaine corrective à temps ;
• sur le plan humanitaire, un système autonome pourrait mal interpréter une situation complexe, confondant des civils avec des combattants, causant des dommages collatéraux considérables sans qu'aucune intervention humaine ne vienne corriger l'erreur ;
• à l'échelle géopolitique, l'IA militaire pourrait exacerber des risques déjà existants : course à l'armement, prolifération, risque nucléaire accru, attaques préventives et recours aux armes de destruction massive ;
• la compétition entre grandes puissances accélère ce développement au point d'augmenter le risque que ces technologies tombent entre les mains de groupes non étatiques tels que des terroristes ou des milices armées.

Les experts et organisations de défenses des droits de l'homme ont exhorté les gouvernements à adopter de nouvelles règles internationales interdisant ou limitant l'emploi de certaines armes autonomes. « L'adoption effrénée de l'IA par le Pentagone montre la nécessité d'une surveillance ou d'une réglementation accrue de l'IA par le Congrès, en particulier si l'IA est utilisée pour surveiller les Américains », a déclaré Amos Toh, dans un billet sur Bluesky.

Amos Toh est conseiller principal au Brennan Center's Liberty and National Security Program de l'université de New York. « La loi ne suit pas le rythme rapide de l'évolution de la technologie. Mais cela ne signifie pas pour autant que le ministère de la Défense dispose d'un chèque en blanc », a-t-il déclaré.

Conclusion

Le Pentagone a annoncé l'été dernier qu'il attribuait des contrats de défense à quatre entreprises d'IA : Anthropic, Google, OpenAI et xAI d'Elon Musk. Chaque contrat peut atteindre 200 millions de dollars. Anthropic a été la première entreprise d'IA à être agréée pour les réseaux militaires classifiés, où elle travaille avec des partenaires tels que Palantir. La société xAI d'Elon Musk, qui développe l'IA controversée Grok, ferait également partir de ce cercle restreint.

Le Pentagone veut aller plus loin en intégrant l'IA plus profondément dans ses systèmes militaires, mais se heurte aux réticences d'Anthropic. L'entreprise de Dario Amodei a soulevé des préoccupations majeures quant à cette évolution, mais s'expose désormais à des sanctions sévères de la part de l'administration.

Les armes létales pilotées par l'IA ne sont pas une œuvre de science-fiction : elles sont déjà là et influencent la façon dont les guerres sont menées. Face aux risques, le consensus des experts est clair : il serait dangereux et inconscient d'aller vers une robotisation intégrale excluant l'humain de la boucle décisionnelle.

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des exigences du Pentagone à l'égard d'Anthropic ?
Anthropic est-il en mesure de gagner ce bras de fer ? Ou l'entreprise va-t-elle céder aux exigences ?
Que pensez-vous de la nouvelle course aux armes autonomes létales ? Quels choix s'offrent à l'industrie technologique ?

Voir aussi

Les militaires américains veulent un accès illimité à la technologie IA Claude pour le ciblage d'armes autonomes et la surveillance domestique, mais Anthropic refuse de lever ses garde-fous

Le Pentagone menace Anthropic de la considérer comme « risque pour la chaîne d'approvisionnement » s'il n'a pas un accès total à son IA Claude pour le ciblage d'armes autonomes et la surveillance de masse

Le PDG de Palantir défend ses technologies de surveillance après les polémiques entourant les résultats exceptionnels du quatrième trimestre, soutenus par ses contrats avec le gouvernement américain