IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Pour la première fois, des drones d'IA pourraient avoir attaqué des humains de manière totalement autonome,
« Sans nécessiter de connectivité de données entre l'opérateur et la munition »

Le , par Stan Adkens

58PARTAGES

18  0 
Les drones sont un pilier du champ de bataille depuis des années maintenant, mais ils ont toujours nécessité un pilote humain pour appuyer sur la gâchette. Cela pourrait être sur le point de changer. L'année dernière, un groupe de soldats fidèles au général libyen Khalifa Haftar a été attaqué par des drones agissant de manière autonome, selon un récent rapport du groupe d'experts du Conseil de sécurité de l'ONU sur la Libye. Le rapport de 548 pages n'a pas précisé si l'incident avait fait des morts, mais il soulève des questions quant à l'inutilité des efforts mondiaux visant à interdire les "robots tueurs" autonomes avant leur construction.

Au cours de l'année, le gouvernement d'entente nationale reconnu par l'ONU a repoussé les forces affiliées à Haftar de la capitale libyenne Tripoli, et le drone pourrait être opérationnel depuis janvier 2020, ont noté les experts.


L'attaque de mars 2020 a été perpétrée par un drone quadcoptère – baptisé Kargu-2 et produit par la société turque de technologie militaire STM – « au cours d'un conflit entre les forces gouvernementales libyennes et une faction militaire dissidente dirigée par Khalifa Haftar, commandant de l'armée nationale libyenne », ont rapporté les experts. Ils ont ajouté : « Le Kargu-2 est équipé d'une charge explosive et le drone peut être dirigé vers une cible dans une attaque kamikaze, explosant à l'impact ».

Le Kargu est un drone de "flânerie" qui utilise une classification des objets basée sur l'apprentissage automatique pour sélectionner et engager des cibles, selon STM, et dispose également de capacités d'essaimage permettant à 20 drones de travailler ensemble.

Les drones fonctionnaient dans un mode autonome "très efficace" qui ne nécessitait aucun contrôleur humain et le rapport note : « Les systèmes d'armes autonomes létaux étaient programmés pour attaquer des cibles sans nécessiter de connexion de données entre l'opérateur et la munition : en fait, une véritable capacité de "tirer, oublier et trouver" » – ce qui suggère que les drones ont attaqué par eux-mêmes.

Selon le rapport, les forces d'Haftar se retiraient de Tripoli lorsqu'elles ont été « traquées et engagées à distance » par les drones Kargu-2. Les rebelles « n'étaient ni entraînés ni motivés pour se défendre contre l'utilisation efficace de cette nouvelle technologie et se sont généralement repliés en désordre », peut-on lire dans le rapport. Une fois en retraite, ils étaient soumis à un harcèlement continu de la part des véhicules aériens de combat sans pilote et des systèmes d'armes autonomes mortels. Si les faits sont avérés, ce sera la première fois qu'un drone autonome traque et attaque un humain.

Les mises en garde contre les "robots tueurs"

Par le passé, de nombreux chercheurs en robotique et en IA, dont Elon Musk, et plusieurs autres personnalités comme Stephen Hawking et Noam Chomsky ont demandé l'interdiction des « armes autonomes offensives », telles que celles qui ont le potentiel de rechercher et de tuer des personnes spécifiques en fonction de leur programmation.

« Les armes autonomes létales menacent de devenir la troisième révolution dans la guerre. Une fois développées, elles vont propulser les conflits armés à une échelle plus grande que jamais, et à des échelles de temps plus rapides que les humains puissent comprendre », ont averti Elon Musk et une centaine de spécialistes de l'IA et la robotique, dans une lettre ouverte en 2017. Dans cette lettre, ils appelaient les Nations Unies à agir le plus vite possible et bannir les robots tueurs.

Les experts ont mis en garde contre le fait que les ensembles de données utilisés pour former ces robots tueurs autonomes à la classification et à l'identification d'objets tels que les bus, les voitures et les civils ne sont peut-être pas suffisamment complexes ou fiables, et que le système d'intelligence artificielle peut tirer de mauvaises leçons.

Ils ont également mis en garde contre la "boîte noire" de l'apprentissage automatique, dans laquelle le processus de prise de décision des systèmes d'IA est souvent opaque, ce qui pose un risque réel que des drones militaires entièrement autonomes exécutent les mauvaises cibles, les raisons restant difficiles à démêler.

Zachary Kallenborn, du Consortium national pour l'étude du terrorisme et des réponses au terrorisme dans le Maryland, a déclaré que cela pourrait être la première fois que des drones attaquent des humains de manière autonome et a tiré la sonnette d'alarme. « Quelle est la fragilité du système de reconnaissance des objets ? », Kallenborn a demandé dans le rapport. « ... à quelle fréquence il identifie mal les cibles ? »


Kellenborn, qui est consultant en sécurité nationale spécialisé dans les drones, estime que le risque de dérapage est plus grand lorsque plusieurs de ces drones autonomes communiquent et coordonnent leurs actions, comme dans un essaim de drones. « La communication crée des risques d'erreurs en cascade dans lesquels une erreur commise par une unité est partagée par une autre », a déclaré Kellenborn. « Si quelqu'un était tué dans une attaque autonome, cela représenterait probablement un premier cas historique connu d'armes autonomes basées sur l'intelligence artificielle utilisées pour tuer », a-t-il ajouté.

Jack Watling, du groupe de réflexion britannique sur la défense Royal United Services Institute, a déclaré : « Cela ne montre pas que les armes autonomes seraient impossibles à réguler », a-t-il dit. « Mais cela montre que la discussion continue d'être urgente et importante. La technologie ne va pas nous attendre ».

En août de l'année dernière, Human Rights Watch a averti de la nécessité d'une législation contre les "robots tueurs", tandis que le candidat à la mairie de New York, Andrew Yang, a appelé à une interdiction mondiale de ces armes – ce à quoi les États-Unis et la Russie s'opposent.

Dans son avis du mois dernier, le comité d’éthique de la défense, une structure de réflexion adossée au ministère français des Armées pour le conseiller sur les sujets les plus sensibles, a dit « Non » aux systèmes d’armes létales pleinement autonomes (SALA), mais n’a pas fermé la porte aux armes robotisées pilotées par l’homme SALIA (les systèmes d'armes létales intégrant de l'autonomie).

Cependant, conscient de la compétition qui s’est engagée à l’international et des risques de « décrochages » pour l’armée française, le comité a recommandé que la recherche dans « les domaines de l’intelligence artificielle de défense et des automatismes dans les systèmes d’armes » continue. Les travaux doivent « se poursuivre », selon l’avis du comité, considérant qu’il s’agit aussi là d’un moyen de se « défendre contre ce type d’armes au cas, qui n’est pas improbable, où un État adverse ou un groupe terroriste entreprendrait de les employer contre nos troupes ou la population française ».

Source : Rapport d'experts du Conseil de sécurité de l'ONU

Et vous ?

Que vous inspire ce rapport ?
Quel commentaire faites-vous des efforts mondiaux actuels visant à interdire les robots tueurs autonomes avant leur construction ?
Peut-on encore réguler efficacement les armes autonomes pour éviter de tels robots ?

Voir aussi :

Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte, signée par 116 spécialistes de l'IA et la robotique
https://intelligence-artificielle.developpez.com/actu/314880/-Robots-tueurs-le-non-mais-du-comite-d-ethique-de-l-armee-Jusqu-ou-la-France-est-elle-prete-a-aller/
Thalès, le leader français de la sécurité et la défense refuse de concevoir des robots tueurs autonomes, et appelle à une législation internationale
La résistance contre les robots tueurs grandit : des militants de 35 pays à Berlin pour s'opposer à ces armes, et réclamer une initiative allemande

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 01/06/2021 à 8:39
Citation Envoyé par Stan Adkens Voir le message
Peut-on encore réguler efficacement les armes autonomes pour éviter de tels robots ?
Des armes illégales sont utilisées sur les champs de batailles, par exemple l'armée US a utilisé du Napalm, du phosphore blanc, de l'Agent Orange, des munitions à l'uranium appauvri, etc.
Ils ont même testé 2 technologies de bombe nucléaire sur des civils japonais. (je ne sais pas si c'était illégal mais en tout cas ce n'était pas nécessaire, le Japon était d'accord pour se rendre sous condition)
Aujourd'hui il y a des armes chimiques et bactériologiques qui sont en train d'être développé dans le secret.

Je pense que si on interdit les armes autonomes leur développement continueront dans le secret. (l'équipe qui gagnera la guerre pourra réécrire l'histoire en disant que ce sont les perdants qui ont utilisées des armes interdites)
En plus il y a a paranoïa qui joue, les USA vont se dire "si ça se trouve les russes ou les chinois développent tel type d'arme, donc il faut qu'on puisse le contrer", il y a moyen d'escalader tout seul en se faisant des films.
8  2 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 01/06/2021 à 11:32
Citation Envoyé par Jon Shannow Voir le message
tu omets (volontairement ?) l'emploi d'armes chimiques contre SA propre population d'El Assad il n'y a pas si longtemps.
Ça je n'y crois pas une seule seconde. Ce sont les terroristes (que les médias appelaient "rebelles" qui ont utilisés des armes chimiques.
On dirait que les puissances étrangères qui finançaient les terroristes se sont calmés depuis, parce qu'on entend plus trop parler de ça depuis un moment. Mais avec Biden au pouvoir on ne sait jamais, des nouveaux mercenaires pourraient être embauchés et le conflit redémarrerait.

L'histoire qu'on nous raconte n'a aucun sens. Pendant des semaines Obama a répété que l'utilisation des armes chimiques est la ligne rouge et que dès l'instant où elle sera franchit il y aura des conséquences. Et d'un coup on essaie de nous faire croire que la Syrie a utilisé des armes chimiques.
L'armée Syrienne n'avait aucun intérêt à utiliser des armes chimiques. Ce serait la chose la plus contre productive à réaliser. C'était le même type de mensonge que celui qui a été utilisé pour justifier la guerre en Irak.

Par contre je connais un exemple qui mettra tout le monde d'accord :
Israël : à chaque offensive de Tsahal son arme polémique
L'ONU vise le "recours intentionnel" à la force illégale par Israël
Déjà que l'occupation est illégale, ils ne sont plus à ça près…

Normalement Israël n'a pas le droit d'avoir des armes nucléaires et pourtant il en a des centaines.

====
Enfin bref des pays comme les USA, Israël et d'autres développent des armes non conventionnelle en secret.
Si je parle des USA c'est parce que c'est le pays qui a de très loin le plus gros budget militaire et c'est le pays qui fout le plus le bordel au monde.

Comme disait Mitterand :
« La France ne le sait pas, mais nous sommes en guerre avec l’Amérique. Oui, une guerre permanente, une guerre vitale, une guerre économique, une guerre sans mort apparemment. Oui, ils sont très durs les Américains, ils sont voraces, ils veulent un pouvoir sans partage sur le monde. C’est une guerre inconnue, une guerre permanente, sans mort apparemment et pourtant une guerre à mort. »
6  3 
Avatar de marc.collin
Membre expérimenté https://www.developpez.com
Le 01/06/2021 à 14:34
Citation Envoyé par Jon Shannow Voir le message
C'est marrant, tes exemples ne parlent que d'infractions lointaines (Vietnam et 2nde guerre mondiale - en passant les armes nucléaires n'étaient pas interdites à l'époque, simplement parce qu'elles n'existaient pas encore), alors que tu omets (volontairement ?) l'emploi d'armes chimiques contre SA propre population d'El Assad il n'y a pas si longtemps.
Et pourquoi est-ce que ce serait les USA qui seraient plus paranoïaques que la Russie ou la Chine ?

J'aime bien ton coté tout en nuance !

les usa utlisent encore le phosphore blanc
https://observers.france24.com/fr/20...etat-islamique

sans compté israel.... simple oublie?

ta oublié de mentionné que les usa ont attaqué l'irak sur la basse de mensonge sans compté le fameux cas des couveuses au koweit

tu peux nous rappeler combien de base militaire que les usa ont et le budget militaire américain?

suivant.........
3  0 
Avatar de mith06
Membre éclairé https://www.developpez.com
Le 01/06/2021 à 11:16
Reste a développer les robots pour tuer les robots tueurs.
2  0 
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 01/06/2021 à 11:12
Citation Envoyé par Ryu2000 Voir le message
Des armes illégales sont utilisées sur les champs de batailles, par exemple l'armée US a utilisé du Napalm, du phosphore blanc, de l'Agent Orange, des munitions à l'uranium appauvri, etc.
Ils ont même testé 2 technologies de bombe nucléaire sur des civils japonais. (je ne sais pas si c'était illégal mais en tout cas ce n'était pas nécessaire, le Japon était d'accord pour se rendre sous condition)
Aujourd'hui il y a des armes chimiques et bactériologiques qui sont en train d'être développé dans le secret.

Je pense que si on interdit les armes autonomes leur développement continueront dans le secret. (l'équipe qui gagnera la guerre pourra réécrire l'histoire en disant que ce sont les perdants qui ont utilisées des armes interdites)
En plus il y a a paranoïa qui joue, les USA vont se dire "si ça se trouve les russes ou les chinois développent tel type d'arme, donc il faut qu'on puisse le contrer", il y a moyen d'escalader tout seul en se faisant des films.
C'est marrant, tes exemples ne parlent que d'infractions lointaines (Vietnam et 2nde guerre mondiale - en passant les armes nucléaires n'étaient pas interdites à l'époque, simplement parce qu'elles n'existaient pas encore), alors que tu omets (volontairement ?) l'emploi d'armes chimiques contre SA propre population d'El Assad il n'y a pas si longtemps.
Et pourquoi est-ce que ce serait les USA qui seraient plus paranoïaques que la Russie ou la Chine ?

J'aime bien ton coté tout en nuance !
4  4 
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 01/06/2021 à 16:05
Citation Envoyé par marc.collin Voir le message
les usa utlisent encore le phosphore blanc
https://observers.france24.com/fr/20...etat-islamique

sans compté israel.... simple oublie?

ta oublié de mentionné que les usa ont attaqué l'irak sur la basse de mensonge sans compté le fameux cas des couveuses au koweit

tu peux nous rappeler combien de base militaire que les usa ont et le budget militaire américain?

suivant.........
Ai-je dis que les USA étaient des saints ? Non
J'ai simplement relevé qu'une fois de plus Ryu fait du USA bashing, ce qui est très à la mode. C'est très bien de faire du USA bashing, mais il ne faut pas oublier que les autres ne font pas mieux, voire pire dans certains cas. Et la France n'est pas en reste non plus. Mais faire croire, comme Ryu le fait de manière répétée que les Russes sont des anges comparés aux USA, c'est juste du foutage de gueule. Rien qu'il y a peu, on voit l'influence russe derrière le détournement d'un avion de ligne par la Biélorussie, à la seule fin d'arrêter un opposant. Ce qui s'est passé en Syrie est aussi digne d'éloge, je suppose ? La Russie aidant Bachar Al Assad à mater l'opposition à son régime d'horreurs à grand coup d'armes chimique, c'est, je suppose tout à fait acceptable ?

Il faut remettre un peu les choses à leur place de temps. Autant je condamne les USA pour leur interventionnisme et leur manière d'agir à leur guise dans plein d'endroit du monde, autant, je suis sûr que je ne suis pas le seul, si je devais m'exiler de France (quelle qu'en soit la raison, entre les USA et la Russie, je crois que j'irais aux USA).
Et dire le contraire, c'est ne pas avoir le choix à faire
2  2 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 01/06/2021 à 16:29
Citation Envoyé par Jon Shannow Voir le message
Ryu fait du USA bashing
C'est pour l'équilibre, dans les médias il y a trop de critiques de la Chine, la Russie, l'Iran, etc. Alors que quand on regarde bien, les USA sont bien pire. (mais nous avons peur des USA donc nous n'osons pas les critiquer)
Ils font des guerres partout, ils aident les terroristes, ils utilisent des armes interdites, ils ont de très très loin le plus gros budget militaire du monde.
Il faut arrêter de croire que ce sont nos amis. Ils nous dominent.

Citation Envoyé par Jon Shannow Voir le message
les Russes sont des anges comparés aux USA
Je connais plus de crimes de guerre commis par l'armée US que par l'armée Russe.
Je ne crois pas que les russes aient testé 2 types de bombes nucléaires sur des civils japonais.
Je ne crois pas que les russes aient utilisé de l'Agent Orange sur des vietnamiens.
Les russes n'ont certainement pas aider les terroristes en Syrie.

Les USA ont aidé Al Qaida pour faire chier les soviétiques à la base.


Citation Envoyé par Jon Shannow Voir le message
La Russie aidant Bachar Al Assad à mater l'opposition à son régime d'horreurs à grand coup d'armes chimique, c'est, je suppose tout à fait acceptable ?
Ça c'est un mensonge. La vérité c'est que des puissances étrangères ont essayé de renverser un pouvoir légitime en finançant des terroristes.
D'après les règles internationales on aurait du aider le gouvernement Syrien (en tout cas on avait pas le droit d'aider les terroristes comme on l'a fait).

Vous pensez sérieusement que les syriens préfèrent les terroristes à Assad ?

Citation Envoyé par Jon Shannow Voir le message
Autant je condamne les USA pour leur interventionnisme et leur manière d'agir à leur guise dans plein d'endroit du monde, autant, je suis sûr que je ne suis pas le seul, si je devais m'exiler de France (quelle qu'en soit la raison, entre les USA et la Russie, je crois que j'irais aux USA).
Ça n'a strictement rien à voir.
Beaucoup d'étasuniens ne soutiennent pas ce qu'on fait les présidents comme Bush, Clinton, Obama, Reagan, Carter, Ford, Nixon, etc.
Les guerres menées par les USA sont souvent impopulaire. D'ailleurs c'était un gros truc de la campagne de Trump, il voulait que les militaires rentrent au pays. (ces guerres profitent à des grandes entreprises mais pas à l'état US)

En plus c'est beaucoup plus simple de s'intégrer aux USA qu'en Russie, puisqu'on connait la culture US par cœur, vu qu'on bouffe leur propagande depuis la seconde guerre mondiale.
On a aucun raison de préféré les USA à la Russie ou la Chine.

Enfin bref, les robots tueurs vont se développer partout :
Faut-il autoriser les robots tueurs au sein des armées ?
Ce n’est plus de la science fiction : la Chine, les Etats-Unis et Israël ont déjà développé des technologies de ce type. La France doit-elle leur emboîter le pas ?
1  2