La Silicon Valley débat sur la question de savoir si les armes animées par IA doivent être autorisées à décider de tuer

Comme le ferait l'IA Lavender d'Israël sans intervention d'opérateurs humains

Doit-on confier des décisions de vie aux systèmes d’armement animés par des intelligences artificielles ? La question fait débat à la Silicon Valley selon de multiples rapports. Sur le terrain, des systèmes comme Lavender, l’intelligence artificielle qui dirige les bombardements israéliens contre le Hamas, donnent un aperçu de ce que seraient des armes animées par des intelligences artificielles capables de « décider » par elles-mêmes d’ôter la vie ou non.

Des rapports d’intervenants de la filière dont celui du cofondateur de Shield AI font état de ce que le Congrès des USA n’est pas pour la mise à contribution d’armes entièrement autonomes sur les champs de bataille. Néanmoins, la réalité sur le terrain est qu’il s’agit d’une course à l’armement dans laquelle les rivaux russes ou chinois n’ont pas les même points de vue que les Américains. C’est la raison pour laquelle certains acteurs de la Silicon Valley sont d’avis que le pays de l’oncle Sam doit se tenir prêt à lancer des armes entièrement autonomes sur les champs de bataille ; en d’autres termes, des armes capables de « décider » par elles-mêmes d’ôter la vie ou non.


Lavender, l’intelligence artificielle qui dirige les bombardements israéliens contre le Hamas, donne un aperçu de ce que serait un système capable de « décider » de tuer sans intervention d’opérateurs humains

Lavender a joué un rôle central dans le bombardement sans précédent des Palestiniens, en particulier au début de la guerre. Le rapport fait état de ce que son influence était telle que les opérateurs humains traitaient les données mises en avant par cette intelligence artificielle comme s'il s'agissait d’apports humains. Ainsi, les militaires en charge de valider les frappes n’accordaient qu’environ 20 secondes par cas – juste pour s’assurer que la cible marquée par Lavender est bien un homme – avant d'autoriser un bombardement et ce, sachant que le taux de faux positif tourne autour de 10 %.

Conséquence : des milliers de Palestiniens - pour la plupart des femmes et des enfants ou des personnes qui n'étaient pas impliquées dans les combats - ont été anéantis par les frappes aériennes israéliennes, en particulier au cours des premières semaines de la guerre, en raison des décisions sujette à erreurs de cette intelligence artificielle. Lavender fait partie d’un arsenal dans lequel on retrouve l’intelligence artificielle dénommée « Gospel ». Cette dernière est capable d’identifier une centaine de cibles par jour et participe à l’établissement du bilan que certains observateurs classent déjà comme parmi les plus désastreux en termes de pertes en vies humaines au 20e siècle.

EXPOSE | ‘LAVENDAR’: THE AI MACHINE DIRECTING ISRAEL'S BOMBING SPREE IN GAZA

Lavender is an AI-driven program developed by the Israeli military to generate targets for airstrikes in Gaza.
It marks individuals suspected of affiliation with Hamas and Palestinian Islamic Jihad… pic.twitter.com/ODrR2IALHw

— Suppressed News. (@SuppressedNws) April 3, 2024

Les taux de faux positifs sont néanmoins susceptibles d’être revus à la baisse avec les tous récents modèles d’intelligence artificielle dotés de capacités de « raisonnement » semblables à celles d’une personne

OpenAI a lancé une nouvelle série de modèles, connus sous le nom de code o1, dotés de capacités de « raisonnement » et conçus pour passer plus de temps avant de répondre aux questions des utilisateurs. Le nouveau modèle est immédiatement utilisable et est censé pouvoir effectuer des tâches plus complexes que les modèles précédents.

Les modèles de la série o1 sont entraînés pour passer plus de temps à réfléchir avant de répondre, imitant ainsi le processus de pensée humaine. Cette approche permet aux modèles de décomposer les problèmes en étapes plus petites, d’essayer différentes stratégies et de reconnaître leurs erreurs. Par exemple, lors d’un examen de qualification pour l’Olympiade Internationale de Mathématiques, le modèle o1 a résolu 83 % des problèmes, contre seulement 13 % pour le modèle GPT-4o.

Le modèle a également amélioré les performances sur des questions de programmation compétitives et a dépassé le niveau de précision d'un doctorant humain sur une référence de problèmes scientifiques, a déclaré l'entreprise.

Dans une série de posts sur X (anciennement Twitter), Noam Brown, chercheur à l'OpenAI, a déclaré que o1 est conçu pour « penser » dans une chaîne de pensée privée avant de répondre aux requêtes. Brown affirme que plus o1 est long, plus il est performant dans les tâches de raisonnement.

L’armée américaine teste un chien-robot au Moyen-Orient et allonge la liste des cas de course à l’armement

L'armée américaine teste des chiens-robots au Moyen-Orient. Du point de vue du développeur informatique, ces robots sont des kits matériels - à la présentation visuelle similaire à celle d’un chien sur pattes – programmables via une API fournie par le constructeur. C’est au travers de cette dernière, ainsi que d’une série de modules d’extensions, que le développeur peut aller à l’essentiel de l’application à mettre en œuvre.


Ces robots s’appuient à la base sur des applications de détection et suivi d’objets. Dans ce cas, il y a au préalable collecte des images provenant de caméras avant puis détection d’objet sur une classe spécifiée. Cette détection utilise Tensorflow via le tensorflow_object_detector. Le robot accepte n'importe quel modèle Tensorflow et permet au développeur de spécifier un sous-ensemble de classes de détection incluses dans le modèle. Il effectue cet ensemble d'opérations pour un nombre prédéfini d'itérations, en bloquant pendant une durée prédéfinie entre chaque itération. L'application détermine ensuite l'emplacement de la détection la plus fiable de la classe spécifiée et se dirige vers l'objet.

L’application est organisée en trois ensembles de processus Python communiquant avec le robot Spot. Le diagramme des processus est illustré ci-dessous. Le processus principal communique avec le robot Spot via GRPC et reçoit constamment des images. Ces images sont poussées dans la RAW_IMAGES_QUEUE et lues par les processus Tensorflow. Ces processus détectent des objets dans les images et poussent l'emplacement dans PROCESSED_BOXES_QUEUE. Le thread principal détermine alors l'emplacement de l'objet et envoie des commandes au robot pour qu'il se dirige vers l'objet....