Des algorithmes basés sur l'intelligence artificielle (IA) ont contrôlé les capteurs et les systèmes de navigation d'un avion-espion U-2S baptisé Dragon Lady de l’U.S. Air Force lors d'un test en vol mardi. Selon un responsable du service, c'est la première fois que l'intelligence artificielle est mise en charge « en toute sécurité » d'un système militaire américain et il semble que ce soit la première fois qu'elle est utilisée sur un avion militaire n'importe où dans le monde, du moins publiquement.Le test, qui a eu lieu le 15 décembre 2020, a impliqué un U-2S de la 9e escadre de reconnaissance de la base aérienne de Beale en Californie. L'armée de l'air a baptisé le logiciel d'intelligence artificielle ARTUµ, le dernier d'une série de références au droïde emblématique de l'univers de Star Wars, qui sert en quelque sorte d'ingénieur de vol et de navigateur robotique, dans les récents projets de l'armée de l'air ayant trait aux développements de l'IA et du vol autonome.
Dans un article qu’il a écrit pour Popular Mechanics, Will Roper, secrétaire adjoint de l'Armée de l'air pour l'acquisition, la technologie et la logistique, partisan convaincu de l'intégration de ce type de technologie dans l'ensemble des services de l’armée, a déclaré que « Le vol révolutionnaire d'ARTUµ est le point culminant de notre parcours de trois ans pour devenir une force numérique ». « Mettre l'IA en toute sécurité aux commandes d'un système militaire américain pour la première fois ouvre une nouvelle ère d'équipe homme-machine et de compétition algorithmique. Ne pas réaliser le plein potentiel de l'IA signifiera céder l'avantage décisionnel à nos adversaires ».
Aucune arme n'a été utilisée et l'avion était piloté par un pilote humain. Malgré cela, les hauts fonctionnaires de la défense ont présenté ce test comme un moment décisif dans les tentatives du ministère de la Défense d'intégrer l'IA dans les avions militaires, un sujet qui fait l'objet d'un débat intense dans les milieux de l'aviation et du contrôle des armements. « C'est la première fois que cela se produit », a déclaré Will Roper.
L'ancien directeur général de Google, Eric Schmidt, qui dirigeait auparavant le Defense Innovation Board du Pentagone, a décrit l'essai en vol de mardi comme « la première fois, à ma connaissance, que vous avez un système militaire intégrant l'IA, probablement dans n'importe quelle armée ». Le système d'IA a été délibérément conçu sans commande manuelle pour « provoquer la réflexion et l'apprentissage dans l'environnement de test », a déclaré le porte-parole de l'armée de l'air Josh Benedetti dans un courriel, a rapporté The Washington Post.
Roper a également confirmé les détails du test dans un Tweet mardi. « L'indicatif d'appel "ARTUµ", nous avons modifié les algorithmes de jeu du μZero, leader mondial, pour faire fonctionner le radar du U-2 », a écrit Roper dans son Tweet à propos du test. « Ce premier copilote de l'IA a même été commandant de mission lors de son vol d'entraînement ! »
L’IA est basée sur un algorithme accessible au public appelé µZero, qui a été développé par la société de recherche en IA DeepMind pour maîtriser rapidement des jeux stratégiques comme les échecs et le Go, comme l’a mentionné secrétaire adjoint de l'Armée de l'air. Et elle est rendue possible grâce à un système développé par Google et accessible au public, appelé Kubernetes, qui permet au logiciel d'IA d'être porté entre les systèmes informatiques de bord de l'avion et celui basé sur le Cloud sur lequel il a été développé.
L'algorithme μZero a été utilisé par les ordinateurs pour jouer aux échecs, au Go et aux jeux vidéo dans le passé, « sans connaissance préalable de leurs règles », a expliqué Roper dans son article publié sur Popular Mechanics à propos de ce test. Le laboratoire fédéral U-2 a aidé à intégrer la version modifiée ARTUμ de ce logiciel dans l'avion U-2S.
Il convient également de noter que l’U.S. Air Force a utilisé l'U-2S comme plateforme pour tester un large éventail de développements logiciels avancés au cours des derniers mois, a rapporté The Drive. En octobre, selon un précédent article sur The Drive, le service a révélé qu'il avait utilisé un nouveau logiciel qui a permis à une Dragon Lady de mettre à jour ses systèmes de mission en vol pour la toute première fois. À l'époque, Roper a déclaré que cela comprenait l'ajout de nouveaux algorithmes de reconnaissance de cibles dans l'avion. Il n'est pas clair si ce code est lié d'une quelconque manière à ce qui a été utilisé dans ce dernier test en vol.
De plus, cette semaine, l’entreprise américaine de défense et de sécurité Lockheed Martin a annoncé que le U-2S avait établi un lien avec des ordinateurs sur le terrain pour utiliser cette puissance de traitement hors bande afin d'aider à faire fonctionner ses systèmes de capteurs. The Drive parle de cet essai en vol de calcul distribué, dans un autre récent article.
La délégation de certaines tâches à un "copilote" IA, une étape importante pour l’U.S. Air Force
Roper a déclaré que l'IA avait été formée contre un ordinateur adverse pour rechercher les missiles et les lanceurs de missiles en approche. Pour les besoins du vol d'essai initial, l'IA a obtenu le vote final sur la direction des capteurs de l'avion, a-t-il dit. Le but est de rapprocher l'armée de l'air du concept de « l'association de l'homme et de la machine », dans lequel les robots sont responsables de tâches techniques limitées tandis que les humains restent maîtres des décisions de vie ou de mort comme le contrôle du vol et le ciblage.
« [L'IA] a un rôle très limité ... mais, pour les tâches qui lui ont été confiées, elle s'est bien comportée », a déclaré hier le pilote du U-2S lors du test, selon le Washington Post. « Pour la plupart, j'étais encore le pilote qui commandait ».
Pourtant, la délégation de ces tâches à un "copilote" IA, même lors d'un test, représente une étape importante pour l'armée de l'air, ainsi que pour l'ensemble de l'armée américaine. Le secrétaire adjoint de l'armée de l'air a souligné que l'IA sera essentielle pour aider les pilotes, ainsi que les opérateurs de divers autres systèmes, à gérer des charges de travail toujours plus importantes et plus complexes, et à accélérer les cycles de décision. Dans le même temps, les humains de la chaîne devront pouvoir faire confiance à leurs machines pour effectuer de manière fiable les bons appels ou suggérer les meilleurs plans d'action.
L'IA « n'est pas seulement une partie du système. ... Nous l'enregistrons dans le registre des pilotes », a même déclaré Roper.
Il reste certainement beaucoup de travail à faire. Selon M. Roper, ARTUµ est un projet « exploratoire » destiné à prouver les contributions potentielles de l'IA. Il ajoute que le développement de ce premier progiciel remonte à au moins trois ans avec la création du détachement 12 du Centre de gestion du cycle de vie des forces aériennes, surnommé Kessel Run, autre référence de Star Wars. Kessel Run, a été créé pour élaborer de nouvelles approches pour le développement et l'acquisition de logiciels avancés au sein de l’U.S. Air Force, a rapporté The Drive.
En 2018, le Pentagone a mis en place un centre d'intelligence artificielle conjoint (JAIC) pour aider à coordonner et à superviser les développements liés à l'IA dans l'armée américaine. Avant même cet essai en vol, l'armée de l'air américaine était déjà active dans l'espace, notamment dans le cadre du programme Skyborg du laboratoire de recherche de l'armée de l'air (AFRL), qui cherche à créer une suite de systèmes d'IA qui pourront piloter des drones semi-autonomes de type "loyal wingman", ainsi que des véhicules aériens de combat sans pilote (UCAV) entièrement autonomes.
À l’instar de la famille des drones Skyborg, Air Force Mag a rapporté en juin dernier que l'U.S. Air Force mène un projet de drone autonome équipé d'un système de contrôle de vol piloté par l'intelligence artificielle, qu’elle compte opposer, l’année prochaine, à un avion de chasse piloté par un humain. L’épreuve de force digne d'un film de science-fiction est un test qui entre dans le cadre d’un projet visant à développer un drone piloté par l'IA.
Au début de cette année, un algorithme d'IA a battu un pilote réel de l'armée de l'air dans un combat aérien complètement virtuel dans le cadre des événements AlphaDogfight de la Defense Advanced Research Project Agency, d’après The Drive. Cet effort est lié au programme ACE (Air Combat Evolution) plus large de la DARPA, qui explore comment l'IA pourrait offrir divers types de capacités avancées dans le contexte des futurs combats aériens.
Selon le Washington Post, la fonction de surveillance de l'U-2 est une fonction qui a déjà intégré l'utilisation de l'IA pour analyser des données complexes. Un programme de l'armée de l'air appelé "Project Maven" a cherché à analyser rapidement des rames d'images de drones à la place des humains. Google a refusé de renouveler son contrat avec Maven suite à une révolte interne des employés qui ne voulaient pas que les algorithmes de l'entreprise soient impliqués dans la guerre. La société a ensuite publié une série de principes d'IA qui interdisaient l'utilisation de ses algorithmes dans tout système d'armement.
Eric Schmidt, qui a dirigé Google jusqu'en 2011, a déclaré qu'il pense qu'il est peu probable que les militaires adoptent des systèmes d'armes totalement autonomes dans un avenir proche. Le problème, dit-il, est qu'il est difficile de démontrer comment un algorithme d'IA se comporterait dans tous les scénarios possibles, y compris ceux dans lesquels des vies humaines sont en jeu, a rapporté le Washington Post.
« Si un humain fait une erreur et tue des civils, c'est une tragédie. ... Si un système autonome tue des civils, c'est plus qu'une tragédie », a déclaré M. Schmidt mardi dans une interview. « Aucun général ne va prendre la responsabilité d'un système où il n'est pas vraiment sûr qu'il va faire ce qu'il dit. Ce problème pourrait être réglé dans les prochaines décennies, mais pas l'année prochaine », a-t-il déclaré.
« Comme tout pilote, ARTUμ (même le vrai R2-D2) a des forces et des faiblesses », a écrit Roper sur Twitter à propos de ce nouvel essai en vol historique impliquant l'U-2S. « Les comprendre pour préparer les humains et l'IA à une nouvelle ère de guerre algorithmique est notre prochaine étape impérative. Nous devenons soit de la science-fiction, soit de l'histoire ».
Sources : Will Roper, Tweets
Et vous ?
Quels commentaires faites-vous du test d’une IA comme "copilote" dans un avion militaire pour la toute première fois ? Que pensez-vous de l'application de l'IA dans le domaine militaire ? Pensez-vous qu'une IA devrait pouvoir prendre seule une décision en tant que pilote d’un avion militaire ? Voir aussi :
L'armée de l'air US va lancer ses drones de combat Skyborg contrôlés par une IA d'ici 2023. Un responsable l'a comparé à R2-D2, le droïde Star Wars qui fournit à Luke Skywalker des informations utiles Un avion de chasse piloté par un humain fera face à un drone autonome de U.S. Air Force l'année prochaine, lors d'un test dans le cadre d'un projet visant à développer un drone piloté par l'IA Les États-Unis veulent des drones autonomes alimentés par l'IA qui pourront décider seuls de tuer, en recourant à des algorithmes d'autoapprentissage L'utilisation criminelle des drones est en pleine expansion à travers le monde, des solutions juridiques sont en gestation aux États-Unis