Les militaires américains veulent un accès illimité à la technologie IA Claude pour le ciblage d'armes autonomes et la surveillance domestique, mais Anthropic refuse de lever ses garde-fous

Les militaires américains veulent un accès illimité à la technologie IA Claude pour le ciblage d'armes autonomes et la surveillance domestique, mais Anthropic refuse de lever ses garde-fous

Les responsables du Pentagone veulent un accès illimité à la technologie commerciale d'IA pour des applications militaires, y compris le ciblage d'armes autonomes et la surveillance domestique. Anthropic refuse de lever ses garde-fous, créant une impasse qui a bloqué les négociations contractuelles pendant des semaines. L'issue pourrait déterminer si les entreprises technologiques conservent une influence sur la façon dont leurs systèmes d'IA fonctionnent sur les champs de bataille

Depuis le boom de l'IA, l'armée américaine cherche à intégrer cette technologie. En 2023, le Pentagone a adopté une nouvelle stratégie en ce qui concerne les drones, y compris l'utilisation accrue de l'IA pour se défendre contre les attaques de drones. Un rapport a révélé que le Pentagone explore des solutions innovantes pour protéger ses troupes contre les drones adverses, dont le « Bullfrog », un système d'armement autonome doté d'une mitrailleuse pilotée par IA. Conçu pour neutraliser des drones avec précision et à moindre coût, il surpasse les capacités humaines grâce à des algorithmes avancés et une vision par ordinateur. Ce système, présenté comme adaptable à divers véhicules, pourrait fonctionner de manière autonome à l'avenir.

En mars 2025, le ministère de la défense a également signé un contrat avec la start-up Scale AI afin d'utiliser l'intelligence artificielle (IA) pour la planification et les opérations militaires, marquant ainsi la dernière intégration par le Pentagone de technologies émergentes dans ses flux de travail. Le programme phare, baptisé Thunderforge, intégrera des "agents" d'IA dans les flux de travail militaires afin de rendre le processus de prise de décision plus précoce et plus rapide pour les chefs militaires, a annoncé Scale AI.

Récemment, un conflit discret mais féroce a éclaté entre l'armée américaine et l'une des entreprises d'IA les plus en vue de la Silicon Valley. Le conflit porte sur une question d'une simplicité trompeuse : qui décide de l'utilisation d'une IA puissante dans la guerre ? Anthropic, l'entreprise à l'origine de l'assistant d'IA Claude, a tracé une ligne de démarcation. Les négociateurs du Pentagone veulent que l'entreprise lève les restrictions qui empêchent actuellement sa technologie d'être déployée pour des opérations autonomes de ciblage et de surveillance d'armes à l'intérieur des frontières américaines. Anthropic a refusé.

Anthropic est une entreprise américaine d'intelligence artificielle (IA) fondée en 2021 par d'anciens membres d'OpenAI. Elle développe Claude, une famille de grands modèles de langage, et est aussi connue pour ses recherches en sécurité de l'IA, particulièrement en interprétabilité. Claude est aussi le nom de l'agent conversationnel (chatbot) utilisant ce modèle pour dialoguer avec les utilisateurs. Claude peut analyser des images et différents types de fichiers, et faire des recherches sur internet. Claude est particulièrement connu pour ses performances en programmation informatique, et est intégré dans Claude Code, un agent autonome en ligne de commande.

Le désaccord provient d'un mémo du 9 janvier du département de la défense qui décrit la stratégie de l'armée en matière d'intelligence artificielle. Les responsables du Pentagone interprètent ce document comme leur donnant le pouvoir de déployer des outils d'IA commerciaux comme ils l'entendent, à condition qu'ils restent dans les limites légales. Selon eux, les politiques d'utilisation des entreprises ne devraient pas s'appliquer. Cette position met le ministère de la défense en porte-à-faux avec les entreprises technologiques qui ont mis en place des cadres de sécurité élaborés autour de leurs produits d'IA.


Pendant des années, la Silicon Valley et Washington se sont montrés méfiants l'un envers l'autre. Les géants de la technologie ont résisté aux contrats militaires. Les responsables de la défense ont mis en doute la loyauté des entreprises ayant des activités à l'échelle mondiale. Cette dynamique a changé sous l'administration Trump, qui a rebaptisé le Pentagone « Département de la guerre » et a poussé à une intégration plus étroite avec les développeurs commerciaux d'IA.

Anthropic a reconnu les tensions actuelles dans un communiqué, tout en mettant l'accent sur son travail gouvernemental existant. L'entreprise a noté que son IA est « largement utilisée pour des missions de sécurité nationale par le gouvernement américain » et a décrit « des discussions productives avec le Département de la guerre sur les moyens de poursuivre ce travail. »

Cette prise de bec, qui pourrait menacer les activités d'Anthropic au Pentagone, intervient à un moment délicat pour l'entreprise. La startup basée à San Francisco se prépare à une éventuelle introduction en bourse. Elle a également consacré d'importantes ressources à courtiser les entreprises américaines de sécurité nationale et a cherché à jouer un rôle actif dans l'élaboration de la politique gouvernementale en matière d'IA. Anthropic est l'un des quelques grands développeurs d'IA qui ont obtenu des contrats du Pentagone l'année dernière. Les autres étaient Google (GOOGL.O) d'Alphabet, ouvre un nouvel onglet, xAI et OpenAI d'Elon Musk.

Lors de leurs discussions avec des représentants du gouvernement, les représentants d'Anthropic ont fait part de leurs craintes que ses outils puissent être utilisés pour espionner des Américains ou pour aider au ciblage d'armes sans contrôle humain suffisant, ont déclaré certaines des sources à l'agence Reuters. Le Pentagone s'est insurgé contre les directives de l'entreprise.

Conformément à un mémo du 9 janvier sur la stratégie en matière d'IA, les responsables du Pentagone ont fait valoir qu'ils devraient être en mesure de déployer des technologies d'IA commerciales indépendamment des politiques d'utilisation des entreprises, pour autant qu'elles respectent la législation américaine. Néanmoins, les responsables du Pentagone auraient probablement besoin de la coopération d'Anthropic pour aller de l'avant. Ses modèles sont entraînés à éviter de prendre des mesures qui pourraient être préjudiciables, et les employés d'Anthropic seraient ceux qui réoutilleraient son IA pour le Pentagone.

La prudence d'Anthropic a déjà suscité des conflits avec l'administration Trump. Dans un essai publié sur son blog personnel, le PDG d'Anthropic, Dario Amodei, a averti cette semaine que l'IA devrait soutenir la défense nationale "de toutes les manières, sauf celles qui nous rendraient plus semblables à nos adversaires autocratiques". Amodei faisait partie des cofondateurs d'Anthropic qui ont critiqué les fusillades mortelles de citoyens américains qui protestaient contre les mesures de contrôle de l'immigration à Minneapolis, qu'il a qualifiées d'"horreur". Ces décès ont renforcé les inquiétudes de certains membres de la Silicon Valley quant à l'utilisation de leurs outils par le gouvernement dans un but de violence potentielle.

Depuis sa création, Anthropic s’est positionnée comme l’anti-thèse d’une IA purement utilitariste, optimisée uniquement pour la performance. Avec Claude, l’entreprise revendique une approche dite de « constitutional AI », où le modèle apprend non seulement à répondre, mais aussi à se corriger lui-même en se référant à un corpus de principes explicites. La nouvelle constitution récemment publiée marque une évolution notable : elle n’est plus un simple outil interne d’entraînement, mais un document revendiqué comme central dans l’identité même du modèle.

Ce texte agit comme une sorte de charte fondamentale. Il ne décrit pas des comportements précis à adopter, mais des valeurs, des priorités et des hiérarchies de principes. Claude est entraîné à évaluer ses propres réponses à l’aune de ces règles, à détecter ses dérives potentielles et à reformuler de lui-même ses sorties lorsqu’elles entrent en tension avec la constitution. Là où les premières générations de modèles misaient sur des filtres et des listes d’interdits, la constitution de Claude introduit des notions comme la dignité humaine, la minimisation des préjudices, le respect de l’autonomie individuelle ou encore la prudence face aux conséquences systémiques.

Sources : Pentagone, Anthropic

Et vous ?

Pensez-vous que ce conflit est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Anthropic lance un nouveau service Claude destiné à l'armée et aux services de renseignement. Claude Gov pourrait mieux analyser les informations classifiées et concurrence directement ChatGPT Gov d'OpenAI

Le Pentagone américain adopte le chatbot IA Grok d'Elon Musk alors qu'il suscite un tollé mondial : Grok serait mis en service au sein du département de la Défense car « l'IA du Pentagone ne serait pas woke »

La Maison Blanche mise sur l'IA pour relancer sa croissance, relativisant voire marginalisant les inquiétudes soulevées comme la formation d'une bulle, la perte massive d'emplois et d'autres risques