Une vidéo de CBS News rapporte que l'armée américaine "teste actuellement un avion de chasse F-16 autonome et, lors d'une simulation de combat aérien, l'IA écrase déjà des pilotes humains entraînés"Il ne s'agit là que de l'un des nombreux systèmes automatisés en cours de développement, ce qui soulève la question de savoir jusqu'où cette technologie devrait aller :
"Les personnes que nous avons rencontrées et qui développent ces systèmes affirment qu'elles n'essaient pas de remplacer les humains, mais simplement de rendre leur travail plus sûr. Mais le passage à des soldats robotisés pourrait modifier la guerre en profondeur, comme nous l'avons constaté lors d'une visite chez Sikorsky Aircraft, l'entreprise militaire qui fabrique l'hélicoptère Blackhawk... Piloter l'hélicoptère expérimental Blackhawk est aussi facile que de déplacer une carte". L'hélicoptère expérimental est littéralement contrôlé par des tapes sur une tablette électronique, explique un représentant de Sikorsky. Nous appelons cela "opérer", parce que vous faites des suggestions. C'est la machine qui décide réellement de la manière de procéder".
Le représentant de Sikorsky suggère que cela pourrait éviter un scénario "Blackhawk down" dans lequel davantage de soldats humains devraient être envoyés en danger pour tenter de sauver leurs camarades. Mais CBS ajoute que ce projet "s'inscrit dans le cadre d'un effort plus vaste visant à modifier la façon dont les guerres sont menées, sous la houlette de la DARPA, le laboratoire d'innovation du ministère de la défense. Ils ont également mis au point des véhicules tout-terrain autonomes, des véhicules sous-marins sans pilote et des essaims et des essaims de drones".
Le journaliste de CBS demande ensuite à Stuart Young, responsable du programme DARPA, si nous nous dirigeons vers un avenir où les machines de combat ressembleront à des Terminators. Sa réponse ? "Nous sommes toujours confrontés à ces dilemmes, mais il est clair que nos adversaires y pensent. Et une partie du travail de la DARPA consiste à essayer de prévenir les surprises technologiques".
CBS s'est également entretenu avec Paul Scharre, ancien Ranger de l'armée, qui a ensuite travaillé pour le ministère de la défense sur les armes autonomes, et qui affirme que des technologies commerciales déjà disponibles pourraient créer des armes autonomes dès aujourd'hui. "Il suffit de quelques lignes de code pour que l'homme ne soit plus dans la boucle."
"M. Scharre n'est pas si pessimiste. Il souligne que dans les combats entre nations, les robots soldats devront légalement respecter le droit de la guerre, et qu'ils pourraient le faire mieux que des humains émotifs ou fatigués... Mais oui, Scharre s'inquiète du mariage éventuel de robots avancés et d'une IA militaire qui deviendrait plus intelligente et plus rapide que nous".
Q : À ce moment-là, les humains ne participeraient plus à la prise de décision. Il suffirait de faire confiance aux machines et de s'assurer qu'elles ont été bien programmées.
R : Oui...
Q : Pensez-vous que les armées devraient s'engager à maintenir les humains dans le circuit ?
R : Je ne pense pas que ce soit viable. Si l'on pouvait dire d'un coup de baguette magique : "Nous allons arrêter la croissance de la technologie", il y aurait probablement des avantages à cela. Mais je ne pense pas que ce soit viable aujourd'hui... Un humain qui regarde une cible, qui dit "Oui, c'est une cible viable" et qui appuie sur un bouton à chaque fois ? Ce serait l'idéal. Je ne suis pas sûr que ce sera le cas.
Q : À ce moment-là, les humains ne participeraient plus à la prise de décision. Il suffirait de faire confiance aux machines et de s'assurer qu'elles ont été bien programmées.
R : Oui...
Q : Pensez-vous que les armées devraient s'engager à maintenir les humains dans le circuit ?
R : Je ne pense pas que ce soit viable. Si l'on pouvait dire d'un coup de baguette magique : "Nous allons arrêter la croissance de la technologie", il y aurait probablement des avantages à cela. Mais je ne pense pas que ce soit viable aujourd'hui... Un humain qui regarde une cible, qui dit "Oui, c'est une cible viable" et qui appuie sur un bouton à chaque fois ? Ce serait l'idéal. Je ne suis pas sûr que ce sera le cas.
Et vous ?
Que pensez-vous des opinions évoquées par Stuart Young et Paul Scharre ? Quel est votre avis sur le sujet ?Voir aussi :
Le Congrès américain va examiner deux nouveaux projets de loi sur l'intelligence artificielle, afin de rendre l'utilisation de l'IA plus transparente et assurer que les États-Unis restent compétitifs FBI : des cybercriminels se servent de plus en plus de l'IA pour créer des images et vidéos à caractère porno de leurs victimes, afin de les faire chanter L'armée de l'air américaine nie avoir lancé une simulation où un drone IA a « tué » son opérateur, réfutant les propos tenus par le colonel Tucker Hamilton lors d'un séminaire