Une fausse information générée par l'IA utilisée par l'armée américaine a « failli déclencher une guerre avec la Chine »

Après qu'un chatbot a identifié à tort des composants d'armes nucléaires

Une fausse information générée par l'IA utilisée par l'armée américaine a « failli déclencher une guerre avec la Chine ». Des membres de l’armée américaine ont failli arrêter et contrôler un navire chinois au Moyen-Orient, après avoir été informés que celui-ci transportait des composants d’armes nucléaires. Cependant, lorsque les responsables ont examiné le information de plus près, il est apparu qu’un chatbot du programme d’IA avait mal identifié ce qui se trouvait à bord du navire. Le chabot avait combiné les renseignements concernant le manifeste du navire et d’autres signaux secrets. Le rapport était faux, mais « il a failli déclencher une guerre », a déclaré une source.

En août 2026, des drones entièrement autonomes de l’armée ukrainienne ont tué pour la première fois des soldats russes sans aucune intervention humaine. Cet évènement a montré que la guerre à base d’IA et de robots est déjà une réalité sur les champs de bataille et surtout que l’intelligence artificielle (IA) a évolué du rôle d’assistant à celui de décideur de vie ou de mort des humains. Cette opération constitue la preuve la plus catégorique à ce jour que des morts ont été causés au combat uniquement par des décisions prises par une IA. En parallèle les manifestations contre la mise à contribution de l’intelligence artificielle sur les champs de bataille se multiplient.

En effet, l'IA n'est pas infaillible, loin de là. Récemment, il a été révélé qu'un faux rapport généré par l'IA a failli déclencher une guerre avec la Chine. Des membres de l’armée américaine ont failli arrêter et contrôler un navire chinois au Moyen-Orient, après avoir été informés que celui-ci transportait des composants d’armes nucléaires. Des avions militaires se trouvaient également à proximité, selon le rapport.

Cependant, lorsque les responsables ont examiné le information de plus près, il est apparu qu’un chatbot du programme d’IA avait mal identifié ce qui se trouvait à bord du navire. Le chabot avait combiné les renseignements concernant le manifeste du navire, fournis par le Commandement des opérations spéciales du Pacifique (US Special Operations Command Pacific), basé à Hawaï, et d’autres signaux secrets. Le rapport était faux, mais « il a failli déclencher une guerre », a déclaré une source. On craint que l’incident n’ait pu dégénérer de manière dramatique.


Début septembre, le ministère américain de la Défense a annoncé qu’il utilisait des versions de Grok AI d’Elon Musk, et ChatGPT ainsi que Gemini de Google. « Avec ce lancement, nous faisons un pas de géant vers l’adoption massive de l’IA au sein du ministère », a déclaré Pete Hegseth, le secrétaire américain à la Défense. Dans un discours prononcé en janvier, il s’était engagé à accélérer l’utilisation de l’IA dans l’ensemble de l’armée. Cette initiative reposait sur la conviction que l’IA pouvait « renforcer la prise de décision » et traiter rapidement les données du renseignement.

En août, la Fondation Carnegie a déclaré que l’utilisation de l’IA par l’armée « marque le début d’une nouvelle ère, où chaque membre de notre personnel peut être plus efficace et avoir un impact plus important ». Tout en approuvant l’utilisation de l’IA, il a également appelé à la prudence. « Réduire les capacités de test du Pentagone, supprimer des étapes de vérification essentielles dans le processus d’acquisition ou déléguer sans discernement des décisions létales à des systèmes autonomes pourrait décourager l’adoption de cette technologie, mettre en danger la vie des soldats et abaisser le seuil de déclenchement d’un conflit », a-t-il averti.

Ces dernières semaines, des experts de la Silicon Valley ont mis en garde les responsables politiques à Washington contre le risque de voir l’IA échapper à tout contrôle. En début de semaine au Royaume-Uni, des dizaines de membres de la Royal Society ont souligné les dangers d’une « IA super intelligente ». Au début du mois, Jacob Coxon, l’un des architectes de l’IA avancée, a démissionné d’Anthropic, craignant que le système ne mette l’humanité en danger.

« Chaque jour, l’armée américaine surveille, évalue et analyse des centaines de menaces potentielles à travers le monde afin d’assurer la défense de notre nation et de nos alliés », a déclaré un responsable du ministère de la Guerre. « Pour des raisons de sécurité opérationnelle et conformément à notre politique, nous ne commentons pas les rapports de renseignement spécifiques, les prétendues planifications opérationnelles ou les évaluations militaires en cours. « Le ministère de la Guerre reste attaché à la vérification rigoureuse de toutes les données de renseignement et à l’intégration responsable des technologies émergentes afin d’aider nos militaires à prendre des décisions éclairées, précises et sûres dans n’importe quel environnement opérationnel. »

Pourtant en mars, une frappe aérienne américaine aurait tué plus de 165 élèves dans une école primaire de Minab, dans le sud de l'Iran. Selon des sources, une enquête américaine a laissé entrevoir une probable responsabilité des États-Unis dans la frappe contre cette école en Iran. Les mêmes ont noté que le système Claude d'Anthropic, utilisé par le Pentagone pour planifier ses opérations militaires, aurait désigné la cible sur la base de renseignements obsolètes. L'affaire a confirmé les risques mortels d'une IA déployée dans la chaîne de commandement militaire sans garde-fous suffisants, et avait déclenché une crise sans précédent entre l'administration Trump, Anthropic et l'ensemble de l'écosystème de l'intelligence artificielle.

Et vous ?

Pensez-vous que ce rapport est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Le Pentagone fait appel à Grok et à ChatGPT à des fins militaires et allonge la liste des cas d'usage de l'IA qui suscitent de vives controverses éthiques, politiques et juridiques

GPT, Claude et Gemini ont choisi la frappe nucléaire dans 95 % des simulations de guerre et aucun modèle n'a jamais capitulé : une étude qui dérange au moment où Washington veut débrider ses modèles d'IA

Le Pentagone confie la désignation de ses cibles à l'IA de Palantir bien que Maven s'appuie encore en grande partie sur Claude. L'IA d'Anthropic qui a récemment été bannie