IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Une erreur d'IA serait à l'origine d'un bombardement d'une école de filles en Iran : précisément le genre de situation redoutée par Anthropic
Mais le Pentagone veut l'IA sans garde-fous

Le , par Stéphane le calme

70PARTAGES

21  0 
Une frappe aérienne américaine aurait tué plus de 165 élèves dans une école primaire de Minab, dans le sud de l'Iran. Selon des sources, une enquête américaine laisse entrevoir une probable responsabilité des États-Unis dans la frappe contre cette école en Iran. Les mêmes notent que le système Claude d'Anthropic, utilisé par le Pentagone pour planifier ses opérations militaires, aurait désigné la cible sur la base de renseignements obsolètes. L'affaire révèle les risques mortels d'une IA déployée dans la chaîne de commandement militaire sans garde-fous suffisants, et déclenche une crise sans précédent entre l'administration Trump, Anthropic et l'ensemble de l'écosystème de l'intelligence artificielle.

Le samedi 1er mars 2026, des missiles s'abattaient sur l'école de filles Shajareh Tayyebeh, dans la ville de Minab, au sud de l'Iran. La frappe a rasé l'établissement scolaire et tué 165 élèves et membres du personnel, dont la majorité étaient des enfants de primaire âgés de 7 à 12 ans. Au moins 95 autres personnes ont été blessées.

Selon des informations du Wall Street Journal, le Pentagone a utilisé le modèle d'IA Claude, d'Anthropic, pour planifier ses frappes militaires sur l'Iran au cours du week-end — et l'utilisait probablement encore au moment de la publication des informations.

Ce qui retient l'attention des experts n'est pas seulement le bilan humain, mais la mécanique présumée de l'erreur. Selon une source anonyme au sein du département de la Justice interrogée par This Week in Worcester, la théorie immédiate est que le programme d'IA aurait inclus la position de l'école sur la base de renseignements archivés plus anciens. La logique derrière le lancement de la frappe, et les mécanismes qui ont conduit à son autorisation, restent encore flous. En d'autres termes, l'IA aurait confondu l'école — qui occupe ou jouxte un site anciennement associé aux Gardiens de la Révolution islamique (IRGC) — avec une cible militaire légitime, sans que la chaîne de validation humaine n'ait apparemment corrigé cette erreur.

Le Pentagone a refusé de dire si l'attaque avait été suggérée par un système d'IA. Interrogé par Futurism, le commandement américain CENTCOM, qui supervise les opérations au Moyen-Orient, s'est contenté de répondre : « Nous n'avons rien à vous communiquer à ce sujet pour le moment. »


Claude au cœur de la machine de guerre

Pour frapper plus de 1 000 cibles dans les 24 premières heures de son offensive contre l'Iran, l'armée américaine a utilisé les systèmes d'intelligence artificielle les plus avancés jamais déployés en temps de guerre. Un programmeur logistique au sein du département de la Défense, cité par This Week in Worcester, a confirmé que le département avait rapidement intensifié son recours à un système basé sur Claude au cours de l'année écoulée, l'intégrant à de nombreuses décisions opérationnelles fondamentales.

Ce déploiement massif n'est pas le fruit du hasard. En juillet 2025, le département de la Défense avait attribué à des entreprises d'IA un contrat d'une valeur pouvant atteindre 200 millions de dollars pour des services d'intelligence artificielle, incluant Anthropic. Anthropic était également la première entreprise d'IA à avoir intégré ses modèles dans des flux de travail opérationnels sur des réseaux classifiés.

Le Pentagone n'a pas précisé comment exactement l'outil d'IA était déployé, mais son utilisation se poursuivait malgré l'annonce d'une interdiction gouvernementale, survenue après un différend avec Anthropic. Ce différend est au cœur de la crise politique qui a suivi la frappe sur Minab.

La rupture : Anthropic refuse de retirer ses garde-fous

Avant même que les bombes ne tombent sur l'école de Minab, les tensions couvaient entre le Pentagone et Anthropic. Le différend portait sur un point de principe : l'administration Trump exigeait qu'Anthropic modifie son contrat pour permettre une utilisation de Claude à des fins « toutes légales » (all lawful purposes). Les négociations avaient achoppé sur les deux lignes rouges d'Anthropic : l'utilisation de l'IA dans des armes autonomes, et son utilisation pour la surveillance de masse des citoyens américains — deux points que le Pentagone disait ne pouvoir accepter.

Anthropic a tenu bon. Le PDG Dario Amodei avait déclaré ne pas pouvoir, en conscience, accéder aux demandes du Pentagone. En réponse, l'administration Trump a contre-attaqué frontalement. Le Pentagone a officiellement notifié à la direction d'Anthropic que l'entreprise et ses produits étaient désignés comme un « risque pour la chaîne d'approvisionnement », avec effet immédiat. Cette désignation oblige les fournisseurs de défense à...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Artaeus
Nouveau Candidat au Club https://www.developpez.com
Le 10/03/2026 à 10:14
L'IA aura surtout le rôle bien pratique de diluer encore plus les responsabilité (et en réalité, c'est une raison très importante de son utilisation !).
6  0 
Avatar de der§en
Membre expérimenté https://www.developpez.com
Le 10/03/2026 à 11:43
J’adorerais si les conséquences n’avaient pas été aussi catastrophique !

C’est pas moi m’sieur, c’est l’IA, je vais me la mettre sous coude elle me servira
5  0 
Avatar de popo
Expert confirmé https://www.developpez.com
Le 11/03/2026 à 10:16
Citation Envoyé par Anselme45 Voir le message
Ou comment écrire n'importe quoi! Il suffit donc d'écrire dans une page web que les nuages sont de couleur fuchsia pour que tu le crois?

1. L'article a beau dire que c'est des missiles, il s'avère que dans la réalité cela n'a été prouvé par personne ni les américains ni par les iraniens. Il y a eu une explosion... Point-barre!

2. J'ai suffisamment à faire avec des humains pour connaître plein de gens qui n'auraient pas vérifié la validité des données. Pour sans convaincre, il suffit de voir la centaine d'avocats qui ont été pris la main dans le sac aux USA pour avoir utilisé une IA pour préparer leur plaidoirie avec des cas de jurisprudence inventées de tout pièce par l'IA. Pas un n'a vérifié, ce sont les juges qui ont vérifié
1.
Nous ne sommes pas sur un blog complotiste mais sur un forum réservé à des professionnels où les auteurs sont sensé vérifier leurs sources.
D'ailleurs, il existe un reportage sur NBC News.

2.
Il y a une sacrée différence entre un avocat qui va simplement se faire radier et un général d'armée qui va avoir la mort de centaines d'innocents sur la conscience.
Je rajouterai que lors de mon passage dans l'armée (certes un passage éclair mais quand même), on m'a enseigné que lorsque tu cherches à atteindre une cible, il est préférable de t'assurer qu'elle est toujours là où elle est sensé être. Donc oui, je confirme qu'un militaire humain aurai veillé à ce que l'information soit correcte.

PS :
Et au passage, tu n'a pas du voir beaucoup de couchers de soleil.
Quand le soleil est suffisamment bas, le nuage (bien que blanc ou gris clair) peut apparaître fuchsia.
4  1 
Avatar de popo
Expert confirmé https://www.developpez.com
Le 11/03/2026 à 14:38
Citation Envoyé par Anselme45 Voir le message
Ta naïveté me fait sourire... Effectivement, tu n'as pas du rester longtemps sous l'uniforme et surtout tu n'as pas vécu la moindre expérience sur le terrain... Va interroger de vrais combattants en Urkaine pour savoir si il vérifie bien la validité de la cible avant de tirer...

Quand à ta mention de "complotiste", il y a bien longtemps que le terme est "galvaudé" depuis qu'il est utilisé à tous les sauces chaque fois qu'un mec est en manque d'argument pour contrer une réalité qui lui déplait!

Pour ma part, je vais cesser nos échange parce qu'il s'agit effectivement ici d'un site qui parle technologie et pas du sexe des anges...
Tu ne sais rien de mon expérience sur le terrain, tu n'a aucune autorité pour me juger.
Mais, là où tu as raison, c'est qu'il faut que tu as arrête d'essayer d'échanger sur le sujet.
Cela t'évitera de prendre des raccourcis et de raconter n'importe quoi.
Un soldat sur le front en Ukraine et un général d'armée bien planqué derrière son écran, ce n'est pas la même chose.

D'ailleurs, je te retourne la remarque.
Va interroger un vrai combattant en Ukraine qui est sur le terrain et demande lui s'il va tirer sur tout ce qui bouge ou s'il va quand même prendre le temps de s'assurer qu'il n'est pas sur le point de tirer sur son pote.
Va interroger un vrai combattant en Ukraine qui est sur le terrain et demande lui s'il va bombarder un bâtiment alors qu'il constate que sa cible est devenue une école et qu'elle est remplie de gamins.
3  0 
Avatar de popo
Expert confirmé https://www.developpez.com
Le 10/03/2026 à 14:10
Citation Envoyé par Anselme45 Voir le message
1. Je ne crois pas que l'on puisse parler ici d'un "attentat à la bombe". Nous ne sommes pas confronté à une voiture piégée qu'un terroriste a fait exploser devant une école! Il s'agit d'un acte de guerre et que je sache l'auteur n'est pas formellement identifié ni ce qui a fait exploser l'école: Une bombe lâchée par un avion? Un missile? Les débris d'un missile qui aurait été intercepté, etc...
Prend le temps de lire l'article, il est clairement indiqué qu'il s'agit de missiles.

Citation Envoyé par Anselme45 Voir le message
2. On ne peut pas incriminer non plus l'IA dans cette erreur de cible (si c'est une erreur de cible). Avec les données disponibles, un être humain aurait fait la même erreur car selon les explications, l'école en question faisait partie d'un complexe militaire par le passé et ce n'est que récemment que la bâtiment (qui est toujours à proximité de plusieurs autres bâtiments occupés par la troupe) a changé d'affectation pour devenir une école. Donc, il s'agit de l'affectation du bâtiment qui n'a pas été mis à jour correctement et pas d'une erreur de l'IA...
L'IA s'est froidement basé sur les données qu'on lui a fourni.
Un humain qui aurait constaté que les données dataient un peu aurait probablement demandé des données plus récentes avant de prendre une décision.
3  1 
Avatar de JackIsJack
Membre éclairé https://www.developpez.com
Le 11/03/2026 à 7:57
Le fait d'imaginer un LLM provoquer la mort de 150 fillettes dans une de ses hallucinations est insupportable à l'esprit.

Cela devrait nous répugner d'utiliser cette technologie et de payer pour la faire exister.

Mais à la place on va se concentrer sur des excuses, voici celles que j'ai choisi :
- Ce n'est pas le LLM mais les dirigeants qui l'utilisent. Peut-être que sans LLM ils auraient fait encore plus de massacres civils.
- C'est la faute du régime iranien qui place une école de fillettes complètement collée à un bâtiment militaire.

Mais en vérité, je pense que l'on sait tous les conséquences d'une boîte noire hallucinante sur la société, et sur chacun de nous à un moment donné.
3  1 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 10/03/2026 à 10:45
1. Je ne crois pas que l'on puisse parler ici d'un "attentat à la bombe". Nous ne sommes pas confronté à une voiture piégée qu'un terroriste a fait exploser devant une école! Il s'agit d'un acte de guerre et que je sache l'auteur n'est pas formellement identifié ni ce qui a fait exploser l'école: Une bombe lâchée par un avion? Un missile? Les débris d'un missile qui aurait été intercepté, etc...

2. On ne peut pas incriminer non plus l'IA dans cette erreur de cible (si c'est une erreur de cible). Avec les données disponibles, un être humain aurait fait la même erreur car selon les explications, l'école en question faisait partie d'un complexe militaire par le passé et ce n'est que récemment que la bâtiment (qui est toujours à proximité de plusieurs autres bâtiments occupés par la troupe) a changé d'affectation pour devenir une école. Donc, il s'agit de l'affectation du bâtiment qui n'a pas été mis à jour correctement et pas d'une erreur de l'IA...
4  4 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 11/03/2026 à 9:40
Citation Envoyé par JackIsJack Voir le message
Le fait d'imaginer un LLM provoquer la mort de
"Claude Gov" ou pas, des écoles et des hôpitaux allaient être ciblés.

israël fait tout le temps ça, il dit que les terroristes se cachent dans ces bâtiments.
2  2 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 10/03/2026 à 10:58
Citation Envoyé par Stéphane le calme Voir le message
Une frappe aérienne américaine a tué plus de 165 élèves dans une école primaire de Minab, dans le sud de l'Iran.
C'est sympa de le reconnaître
Les israël et les USA auraient pu essayer de faire croire que l'Iran avait lancé un missile US sur une de ses propres écoles.

Bombardement d'une école en Iran: de nouvelles images montrent une frappe américaine sur une base adjacente à l'établissement
Donald Trump affirmait ce week-end que Téhéran était responsable de la frappe de missile qui a tué 168 élèves, selon l'Unicef. Ce dernier correspond en réalité "aux caractéristiques visuelles d'une munition" américaine, selon un expert interrogé par CNN.
1  2 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 10/03/2026 à 16:06
Citation Envoyé par Anselme45 Voir le message
1.
Il y a une vidéo, les experts disent que ça ressemble à un missile Tomahawk.

New video appears to show U.S. tomahawk missile hitting near school in Iran
Experts say new video geolocated and verified by NBC News appears to show a US tomahawk missile over the skies of Minab, Iran. The experts say it is another piece of evidence that it was an American missile that hit the Shajarah Tayyebeh school on February 28, killing more than 170 people. NBC News’ Molly Hunter reports.
Comment les USA ou israël auraient pu placer une bombe à cet endroit ?
C'était forcément un missile :

US missile hit military base near Iran school, video analysis shows
A US Tomahawk missile hit a military base near a primary school in southern Iran where Iranian authorities said 168 people, including around 110 children, were killed, expert video analysis shows.
2  3