« Non » aux systèmes d’armes létaux pleinement autonomes (SALA), parfois résumés sous l’appellation « robots tueurs », mais la porte reste ouverte aux armes robotisées pilotées par l’homme. C’est en substance le contenu d’un avis rendu le 29 avril par le comité d’éthique de la défense, une structure de réflexion adossée au ministère français des Armées pour le conseiller sur les sujets les plus sensibles. Les membres de cette structure indépendante approuvent ainsi l’introduction d’une certaine dose d’autonomie dans les systèmes d’armes, mais pas question d'entériner le principe de « robots tueurs », qui excluent tout contrôle humain. Ces robots, boostés par l’intelligence artificielle, utilisent eux-mêmes un logiciel intégré pour trouver et frapper des cibles. Placé sous la présidence de Bernard Pêcheur, président de section honoraire au Conseil d’État, le comité d’éthique de la défense a pour mission d'entretenir au profit du ministère des Armées une réflexion éthique sur les enjeux liés à l’évolution des armes ou à l’émergence de nouvelles technologies dans le domaine de la défense. L’organisme vient de publier son avis sur l’intégration de l’autonomie des systèmes d’armes létaux, dans un document de 47 pages. C’est le deuxième sujet dont il s’empare après celui du soldat augmenté, en décembre. Pour rappel, le groupe a été mis sur pied en 2019.
Les conclusions du Comité sont claires : l'emploi par les forces armées de systèmes d'armes létales autonomes serait « absolument contraire au principe constitutionnel de nécessaire libre disposition de la force armée et au principe de continuité de la chaîne de commandement ». Par conséquent, l'emploi des SALA ne peut qu’être refusé tout comme la fabrication et l’exportation.
Soit le rejet de l’utilisation, sur un théâtre de guerre, de toute forme d’arme programmée dont l’homme n’aurait pas la maîtrise complète. Ces systèmes sont acceptables à condition qu'ils soient toujours supervisés par l'Homme. En revanche, les systèmes d'armes létales complètement autonomes, qui excluent tout contrôle humain, pourraient donc se révéler dangereux et doivent être interdits. « La France confirme qu’elle ne développera et n’emploiera pas » de SALA, écrivent ainsi les dix-huit membres civils et militaires de ce comité où siège notamment l’ancien chef d’état-major des armées, le général Henri Bentégeat.
Il n'existe pas une définition universellement acceptée des SALA, comme le rappelle le Comité. Il faut croiser plusieurs textes internationaux pour dégager certaines caractéristiques de ces systèmes. Ainsi, les SALA doivent être considérés comme des systèmes pleinement autonomes, c'est-à-dire des systèmes capables de définir le cadre de leur mission, sans validation humaine et de recourir à la force létale sans aucune forme de contrôle ou de supervision humaine.
Dans une précision de taille, le Comité indique que les SALA n'existent pas encore. Mais la conception, la fabrication et l’emploi de telles machines sont toutefois envisageables à moyen terme. En effet, « rien ne permet de penser que des groupes terroristes ou certains États ne partageant pas nos valeurs ne chercheront pas à s’en doter et à en faire usage … », indique le rapport. C'est d'ailleurs la raison pour laquelle le ministère des Armées avait mandaté le Comité pour se pencher sur ce sujet.
Les premières discussions formelles visant à limiter ou interdire l’utilisation des systèmes d’armes létales autonomes ou des robots de guerre se sont tenues au cours des derniers mois de l’année 2017 à Genève sous l’égide de L’ONU. Ces discussions axées autour de la convention sur certaines armes classiques (CCAC) devraient permettre de soumettre ces dispositifs de guerre au droit international en identifiant les « SALA illicites » en fonction du niveau de contrôle attribué à l’homme.
À ce sujet, le gouvernement russe est resté fermement opposé à toute interdiction visant à limiter ou interdire le développement des SALA ou des technologies liées à l’IA à des fins militaires qui serait prise au niveau de l’ONU. La France a proposé d’approfondir la distinction entre les systèmes dotés « d’automatismes » de complexité variable et les systèmes « autonomes » qui ne font appel à aucune mesure de supervision humaine.
Le comité n’est pas contre « les systèmes d'armes létaux intégrant de l'autonomie » (SALIA)
Le comité d’éthique de la défense ne voit ainsi pas d’objection à l’introduction d’une certaine dose d’autonomie et donc de recours aux SALIA (systèmes d’armes létaux intégrant de l’autonomie). Ce qui distinguerait les SALA des SALIA, « c'est une différence de nature qui tient à la place de l'humain dans certaines fonctions critiques », peut-on lire dans le rapport.
Les SALA ont été conçu pour faire évoluer ses propres règles de fonctionnement et redéfinir tout seul sa mission. Ils se passent ainsi de l’appréciation de la situation par le commandement. Les SALIA peuvent se voir attribuer la responsabilité et l’exécution de certaines tâches de façon autonome, mais de manière temporaire et uniquement pour des missions d’identification, de classification, d’interception ou d’engagement. Le comité d’éthique précise bien qu’ils ne peuvent prendre d’initiatives létales sans contrôle humain.
En clair, le comité d’éthique ouvre la voie à des armes ou des robots qui pourront certes tuer, mais seront « incapables d’agir seuls, sans contrôle humain, de modifier leurs règles d’engagement et de prendre des initiatives létales », en s’adaptant de manière indépendante à un théâtre de guerre, par exemple. Cette définition peut concerner diverses catégories d’armes, comme des mules de transports, certains missiles ou drones.
« Les armes autonomes létales menacent de devenir la troisième révolution dans la guerre. Une fois développées, elles vont propulser les conflits armés à une échelle plus grande que jamais, et à des échelles de temps plus rapides que les humains puissent comprendre », ont averti Elon Musk et une centaine de spécialistes de l'IA et la robotique, dans une lettre ouverte en 2017. Dans cette lettre, ils appelaient les Nations Unies à agir le plus vite possible et bannir les robots tueurs.
Le mois dernier, les élèves officiers de l’école militaire de Saint-Cyr Coëtquidan ont pu s’entraîner avec le produit phare de Boston Dynamics, Spot. Spot est un robot quadrupède. Il est agile, discret. Il peut cheminer dans des environnements hostiles et emporter sur son dos divers capteurs. L’entreprise espère bien convaincre les armées de son utilité sur les futurs champs de bataille.
« Nous pensons que l'armée, dans la mesure où elle utilise la robotique pour mettre les gens hors d'état de nuire, est une utilisation parfaitement valable de cette technologie », a déclaré le vice-président du développement commercial de Boston Dynamics, Michael Perry, en avril en s’adressant à un média. « Avec ce modèle de déploiement avancé dont vous discutez, c'est quelque chose que nous devons mieux comprendre pour déterminer si oui ou non il est activement utilisé pour nuire aux gens ».
Spot n’était pas le seul robot terrestre testé ce jour-là : on pouvait aussi voir l’Ultro, une mule de transport, ou encore l’Optio 20 de Nexter, un robot tactique polyvalent équipé d’un canon et capable d’escorter des troupes… Toutes ces machines étaient manœuvrées à distance par un militaire.
Les « robots tueurs » deviendraient un sujet de recherche
La présence de robots aux côtés des combattants ne relève plus depuis longtemps de la science-fiction, pas plus que les systèmes automatisés. À terre ou sur mer, les missiles sol-air Aster sont capables d’identifier des cibles pénétrant leur périmètre de défense tout comme le système Phalanx CIWS sur les bâtiments américains.
Conscient de la compétition qui s’est engagée à l’international et des risques de « décrochages » pour l’armée française, le comité ne ferme toutefois pas la porte à la recherche dans « les domaines de l’intelligence artificielle de défense et des automatismes dans les systèmes d’armes ». Les travaux doivent « se poursuivre », selon l’avis du comité, considérant qu’il s’agit aussi là d’un moyen de se « défendre contre ce type d’armes au cas, qui n’est pas improbable, où un État adverse ou un groupe terroriste entreprendrait de les employer contre nos troupes ou la population française ».
La balle est maintenant dans le camp de la ministre des Armées qui doit examiner le texte attentivement avec ses équipes avant toute communication officielle. Nul doute que les associations de défense des libertés se manifesteront également. Human Rights Watch et Amnesty International militent depuis longtemps pour l'interdiction pure et simple des systèmes d'armes létaux autonomes. Une perspective que la France a toujours écartée.
Source : Avis du comité d’éthique de la défense
ET vous ?
Le comité dit « non » aux SALA et ouvre la voie aux SALIA. Quels commentaires en faites-vous ? La porte de l’« IA et des automatismes dans les systèmes d’armes » reste toutefois ouverte à la recherche pour se « défendre contre ce type d’armes », dit le comité. Quel est votre avis à ce sujet ? Que pensez-vous du développement des robots tueurs dotés d’IA ? Les pays qui les développent pourront-ils tomber d’accord sur des règles éthiques ? Voir aussi :
L'armée française teste Spot, le chien-robot de Boston Dynamics, dans des scénarios de combat, ce qui soulève des questions quant à l'endroit où le robot sera déployé à l'avenir La résistance contre les robots tueurs grandit : des militants de 35 pays à Berlin pour s'opposer à ces armes, et réclamer une initiative allemande L'Europe estime qu'une IA ne doit pas avoir le droit de vie ou de mort sur le champ de bataille, et appelle à interdire les robots-tueurs La police de New York retire le robot "Digidog" après une réaction négative du public, et met fin à un contrat de 94 000 dollars avec Boston Dynamics 
Envoyé par Stan Adkens
... De nos jours ils continuent même de voler :