Le nouveau pape a choisi son nom en fonction des menaces que l'intelligence artificielle fait peser sur la dignité humaine

Déjà malmenée sur les champs de bataille du fait de l'utilisation de robots

Le pape Léon XIV vient d’identifier l'intelligence artificielle comme l'un des problèmes les plus critiques auxquels l'humanité est désormais confrontée. Lors de sa première rencontre avec l'ensemble des cardinaux depuis son élection au pontificat, il a déclaré que l'IA posait des défis à la défense de la « dignité humaine, de la justice et du travail ». Ladite technologie est vue au Vatican comme porteuse de « l’ombre d’un mal » qui se traduit en effet par de plus en plus de dégâts occasionnés par sa mise en œuvre sur les champs de bataille.

Dans un document d'orientation destiné aux catholiques, l'Église a appelé à une surveillance rigoureuse, soulignant le double potentiel de l'IA, à la fois bénéfique et profondément néfaste.

Lors de sa rencontre avec les cardinaux, le pape Léon XIV a fait référence à son homonyme, le pape Léon XIII (1878 à 1903), dont on se souvient qu'il a jeté les bases de la pensée sociale catholique moderne.

En 1891, le pape Léon XIII a écrit une célèbre lettre ouverte à tous les catholiques, intitulée « Rerum Novarum » (« Du changement révolutionnaire »), dans laquelle il réfléchissait à la destruction de la vie des travailleurs par la révolution industrielle.

Le samedi 10 mai, le pape Léon XIV a souligné la similitude avec l'IA, déclarant aux cardinaux : « À notre époque, l'Église offre à tous le trésor de son enseignement social en réponse à une autre révolution industrielle et aux développements dans le domaine de l'intelligence artificielle qui posent de nouveaux défis pour la défense de la dignité humaine, de la justice et du travail. »


Une sortie qui intervient dans un contexte où la dignité humaine est effectivement malmenée sur les champs de bataille du fait de la mise à contribution de l’intelligence artificielle

Israel par exemple se sert du système d’intelligence artificielle dénommé Gospel pour trouver des cibles à Gaza. Un autre système dénommé « Lavender » a fait surface dans le cadre d’une glaçante enquête sur la mise à contribution de l’intelligence artificielle par Israël contre les militants du Hamas. Lavender permet d’opérer la traque et la frappe des dirigeants du Hamas. Le système n’est pas exempt d’erreur et provoque la mort de 15 à 20 civils par frappe. Israël le déploie néanmoins en l’état, ce qui suggère que les dégâts en lien avec les faux positifs du système sont pris en compte comme dommages collatéraux.

Here is a quote from Palantir's Peter Thiel when asked to answer for Israel using Project Lavender to knowingly kill civilians and commit war crimes.

"I'm not on top of all the details...because my bias is to defer to Israel."

There's simply too much money in killing children. pic.twitter.com/oYkK8XZis5

— Ben Avery (@benaveryisgood) May 2, 2025

Grosso modo, tous les pays sont lancés dans le développement d’armes animées par l’intelligence artificielle : robots-chiens, drones, etc.

L'armée américaine a effectué des tests de chiens-robots au Moyen-Orient. Du point de vue du développeur informatique, ces robots sont des kits matériels - à la présentation visuelle similaire à celle d’un chien sur pattes – programmables via une API fournie par le constructeur.

Ces robots s’appuient à la base sur des applications de détection et suivi d’objets. Dans ce cas, il y a au préalable collecte des images provenant de caméras avant puis détection d’objet sur une classe spécifiée. Cette détection utilise Tensorflow via le tensorflow_object_detector. Le robot accepte n'importe quel modèle Tensorflow et permet au développeur de spécifier un sous-ensemble de classes de détection incluses dans le modèle. Il effectue cet ensemble d'opérations pour un nombre prédéfini d'itérations, en bloquant pendant une durée prédéfinie entre chaque itération. L'application détermine ensuite l'emplacement de la détection la plus fiable de la classe spécifiée et se dirige vers l'objet.

L’application est organisée en trois ensembles de processus Python communiquant avec le robot Spot. Le diagramme des processus est illustré ci-dessous. Le processus principal communique avec le robot Spot via GRPC et reçoit constamment des images. Ces images sont poussées dans la RAW_IMAGES_QUEUE et lues par les processus Tensorflow. Ces processus détectent des objets dans les images et poussent l'emplacement dans PROCESSED_BOXES_QUEUE. Le thread principal détermine alors l'emplacement de l'objet et envoie des commandes au robot pour qu'il se dirige vers l'objet....