« La guerre moderne ne peut être gagnée sans artifices logiciels », d'après un responsable de Palantir

Qui permet de comprendre l'actuel tableau fait de course à l'armement piloté par l'IA

« La guerre moderne ne peut être gagnée sans artifices logiciels », d’après un responsable de Palantir. La sortie intervient dans un contexte de course à l’armement piloté par l’intelligence artificielle. Tous les pays sont lancés dans le développement d’armes animées par des intelligences artificielles. L’on assiste en parallèle à des protestations contre l’utilisation de l’intelligence artificielle sur les champs de bataille.

L’intelligence artificielle est considérée comme la clé d’un futur dans lequel chaque nation se voit comme dominatrice sur les autres. Vladimir Poutine l’a souligné sans détour : « L’intelligence artificielle est le futur, pas seulement pour la Russie, mais pour toute l’humanité. Avec elle, arrivent d’énormes opportunités, mais également des menaces qu’il est difficile de prédire. Celui qui réussira à s’imposer comme leader dans cette sphère sera le maître du monde. » C’est de maîtrise du monde dont il est question et elle passe par l’intelligence artificielle.

.@PalantirTech EVP: "Modern war cannot be won without software"

Noam Perski was speaking at the inaugural DefenseTech Summit in Tel Aviv. For the first time in Israel, a two-day summit was hosted celebrating all things cyber, digital, and war.https://t.co/b4AoMLPN7u

— CTech (@Calcalistech) December 11, 2024

Palantir a déjà fait la démonstration d'une intelligence artificielle capable de faire la guerre en élaborant des stratégies de défense et d'attaque
Palantir est un éditeur de logiciels spécialisé dans l'analyse, l'intégration et la présentation de grandes quantités de données pour divers secteurs tels que la finance, la santé et le gouvernement. L'entreprise vend déjà ses services de surveillance intérieure aux services de l'immigration et des douanes des États-Unis. Elle a déjà publié une vidéo de démonstration de sa dernière offre, la Palantir Artificial Intelligence Platform (AIP). C'est une plateforme conçue pour intégrer de grands modèles de langage comme GPT-4 d'OpenAI ou BERT de Google dans des réseaux privés.

Dans une vidéo de démonstration, un opérateur militaire chargé de la surveillance du théâtre d'Europe de l'Est découvre que des forces ennemies se massent près de la frontière et réagit en demandant à un assistant numérique de type ChatGPT de l'aider à déployer des drones de reconnaissance, à élaborer des réponses tactiques à l'agression perçue et même à organiser le brouillage des communications de l'ennemi.


L'AIP aide à estimer la composition et les capacités de l'ennemi en lançant un drone Reaper en mission de reconnaissance en réponse à la demande de l'opérateur qui souhaite obtenir de meilleures images, et en suggérant des réponses appropriées à la découverte d'un élément blindé. « Il demande quelles sont les unités ennemies présentes dans la région et s'appuie sur l'IA pour élaborer une formation d'unités probable. Il demande à l'IA de prendre des photos. Elle lance un drone Reaper MQ-9 pour prendre les photos et l'opérateur découvre la présence d'un char T-80, un véhicule russe de l'ère soviétique, à proximité des forces amies », explique la vidéo.

L'opérateur demande alors aux robots ce qu'ils doivent faire. « L'opérateur utilise l'AIP pour générer trois plans d'action possibles afin de cibler l'équipement ennemi. Il utilise ensuite l'AIP pour envoyer automatiquement ces options à la chaîne de commandement. Les options comprennent l'attaque du char avec un F-16, de l'artillerie à longue portée ou des missiles Javelin », explique la vidéo. Selon les commentaires de la vidéo, l'IA indiquera même à chacun si les troupes à proximité disposent de suffisamment de Javelins pour mener à bien la mission et automatisera les systèmes de brouillage. De nombreux critiques affirment que l'idée est dangereuse.

« Les LLM et les algorithmes doivent être contrôlés dans ce contexte hautement réglementé et sensible afin de garantir qu'ils sont utilisés de manière légale et éthique », commence la vidéo. Pour ce faire, le fonctionnement de l'AIP repose sur trois "piliers clés", le premier étant que l'AIP se déploiera dans un système classifié, capable d'analyser en temps réel des données classifiées et non classifiées, de manière éthique et légale. Toutefois, l'entreprise n'a pas précisé comment cela fonctionnerait. Le deuxième pilier évoqué par la vidéo est que les utilisateurs seront en mesure de modifier la portée et les actions de chaque LLM et de chaque actif du réseau.

La vidéo de la démo indique que l'AIP lui-même générera un enregistrement numérique sécurisé de l'ensemble de l'opération. Selon l'entreprise, "cela est crucial pour atténuer les risques juridiques, réglementaires et éthiques importants dans les environnements sensibles et classifiés". Le troisième pilier est constitué par les "garde-fous" de l'AIP, à la pointe de l'industrie, qui empêchent le système de prendre des mesures non autorisées. Il y a "un humain dans la boucle" pour empêcher de telles actions dans le scénario de Palantir. En outre, la démo ne précise pas les mesures prises pour empêcher les LLM sur lesquels le système s'appuie d'halluciner.

La course à l’armement piloté par l’intelligence artificielle est bel et bien effective à l’échelle mondiale

L'armée chinoise a dévoilé un nouveau type de compagnon de combat pour ses soldats : un robot-chien avec une mitrailleuse attachée à son dos. Dans une vidéo diffusée par l'agence de presse gouvernementale CCTV, on voit des membres des militaires chinois opérer sur un champ de tir aux côtés d'un robot à quatre pattes sur lequel est monté ce qui semble être une variante du fusil d'assaut QBZ-95 de 5,8 x 42 mm, dans le cadre des récents exercices militaires conjoints Golden Dragon 24 menés par la Chine et le Cambodge dans le golfe de Thaïlande.

Ces robots s’appuient à la base sur des applications de détection et suivi d’objets. Dans ce cas, il y a au préalable collecte des images provenant de caméras avant puis détection d’objet sur une classe spécifiée. Cette détection utilise Tensorflow via le tensorflow_object_detector. Le robot accepte n'importe quel modèle Tensorflow et permet au développeur de spécifier un sous-ensemble de classes de détection incluses dans le modèle. Il effectue cet ensemble d'opérations pour un nombre prédéfini d'itérations, en bloquant pendant une durée prédéfinie entre chaque itération. L'application détermine ensuite l'emplacement de la détection la plus fiable de la classe spécifiée et se dirige vers l'objet.

L’application est organisée en trois ensembles de processus Python communiquant avec le robot Spot. Le diagramme des processus est illustré ci-dessous. Le processus principal communique avec le robot Spot via GRPC et reçoit constamment des images. Ces images sont poussées dans la RAW_IMAGES_QUEUE et lues par les processus Tensorflow. Ces processus détectent des objets dans les images et poussent l'emplacement dans PROCESSED_BOXES_QUEUE. Le thread principal détermine alors l'emplacement de l'objet et envoie des commandes au robot pour qu'il se dirige vers l'objet....