Le pape Léon appelle à « désarmer l'IA » et met en garde contre les nouvelles formes d'exploitation numérique,

Basées sur l'exploitation des travailleurs invisibles et la collecte massive de données

Le pape Léon appelle à « désarmer l'IA » et met en garde contre les nouvelles formes d'exploitation numérique
basées sur l'exploitation des travailleurs invisibles et la collecte massive de données

Le pape Léon XIV dénonce avec fermeté la « culture du pouvoir » qui alimente l’essor rapide de l'IA. Dans son encyclique Magnifica Humanitas, le souverain pontife appelle à un « désarmement » de cette technologie afin d'éviter qu'elle ne domine l'humanité ou ne normalise la guerre autonome. S'excusant pour le retard de l'Église à condamner l'esclavage, il met aussi en garde contre les nouvelles formes d'exploitation numérique. Ce texte majeur exhorte les dirigeants mondiaux et la Silicon Valley à soumettre l'innovation à des contraintes éthiques rigoureuses pour protéger la dignité humaine. Le Pape Léon estime que l'IA doit être utilisée avec discernement.

Le pape Léon XIV, né Robert Francis Prevost, est le chef de l'Église catholique et le souverain de la Cité du Vatican. En mai 2025, à peine élu, il a déclaré que l'IA est l'un des problèmes les plus critiques auxquels l'humanité est confrontée. Dans un discours, le page Léon a déclaré que « les récents progrès technologiques dans le domaine de l'intelligence artificielle posent de nouveaux défis pour la défense de la dignité humaine, de la justice et du travail ».

Le souverain pontife a réitéré ses mises en garde dans son premier grand document doctrinal publié récemment. Dans son encyclique, intitulée « Magnifica Humanitas », le pape Léon s'attarde longuement sur les enjeux éthiques liés aux progrès rapides dans le domaine de l'IA, et fait des recommandations.

L'appel au « désarmement » de l'IA et son rôle dans les conflits

Il rappelle la nécessité de « désarmer » l’IA. « Le mot est fort, je le sais, mais il a été choisi délibérément, car le moment présent exige des mots capables d’attirer l’attention », a écrit le pape. Dans ce texte, il dénonce fermement la « culture du pouvoir » qui propulse cette technologie et avertit que l'IA représente actuellement l'une des plus grandes menaces pour l'humanité si elle n'est pas encadrée par des règles éthiques extrêmement rigoureuses.


Il exprime une profonde inquiétude face à la banalisation de la guerre, facilitée par des systèmes d'armes autonomes qui échappent désormais à tout contrôle humain. Le souverain pontife affirme qu'aucun algorithme ne saurait rendre la guerre moralement acceptable et souligne que l'IA, loin de supprimer l'inhumanité des conflits, risque de les déclencher plus rapidement tout en réduisant tragiquement les victimes à de simples données statistiques.

Les encycliques sont techniquement des lettres adressées aux évêques catholiques, mais au cours des dernières décennies, ces missives sont devenues des messages du pape au monde entier. Si cette nouvelle lettre est principalement consacrée à l’IA, le pape Léon a également saisi l'occasion pour y inclure l’une des excuses les plus fermes et les plus complètes jamais formulées par le Vatican concernant le rôle de l’Église catholique dans l’esclavage.

« Il était impossible de ne pas ressentir une profonde tristesse en contemplant les immenses souffrances et humiliations endurées par tant de personnes », a écrit le pape Léon, ajoutant qu’il « demandait sincèrement pardon » au nom de l’Église. Le pape Léon dresse un parallèle saisissant entre cette tragédie du passé et l'émergence de nouvelles formes d'exploitation qu'il décrit avec les termes « esclavage numérique » et « colonialisme numérique ».

Il prévient que la concentration des infrastructures et des données entre les mains de quelques géants technologiques, plutôt que sous le contrôle des États, risque de créer un développement opaque générant de nouvelles dépendances, exclusions et inégalités. Ce qui constitue un risque pour l'humanité.

Les conséquences dramatiques sur le travail et la vérité politique

La première encyclique du pape Léon aborde les graves répercussions de l'IA sur la vie démocratique, condamnant notamment la manipulation d'images et de vidéos qui faussent la réalité et trompent le public. Sur le plan économique, le document en évidence la menace d'un remplacement massif de la main-d'œuvre humaine par l'IA. Il précise que « le soutien aux travailleurs » ainsi déplacés constituera un impératif moral d'une ampleur historique.


Le pape Léon compare le besoin de protection face à l'IA aux garde-fous qui étaient nécessaires pour préserver la dignité humaine lors de la révolution industrielle. Rompant avec la tradition, le pape a présenté son encyclique en présence de plusieurs experts, dont Christopher Olah, cofondateur d'Anthropic.

S'exprimant sur le sujet, Christopher Olah a reconnu que les entreprises technologiques opèrent souvent sous des pressions commerciales qui peuvent entrer en conflit avec l'intérêt général. Il précise aussi que les questions soulevées par l'IA sont trop vastes pour être gérées uniquement par l'industrie technologique. En réponse, le pape Léon adresse un appel direct aux développeurs pour qu'ils assument leurs responsabilités spirituelles et éthiques.

Le souverain pontife positionne ainsi l'Église catholique dans une démarche de dialogue d'humilité avec les grandes entreprises technologiques, insistant sur le fait que le développement de l'IA ne peut rester une zone de non-droit et doit impérativement respecter la dignité intrinsèque de l'humanité. Le pape Léon formule de nombreuses recommandations pour s'assurer que l'IA et les progrès technologiques soient orientés vers le bien commun :

Gouvernance, transparence et éthique de l'IA

• reconnaître que l'IA n'est pas moralement neutre : les systèmes d'IA reflètent les priorités, les stéréotypes et la vision de leurs concepteurs. L'évaluation éthique doit examiner comment les systèmes sont conçus et quelles visions de l'homme ils intègrent ;
• garantir la responsabilité et la transparence : les responsabilités doivent être clairement définies à chaque étape (conception, développement et utilisation). Il est crucial que les décisions algorithmiques soient compréhensibles, traçables et contestables, particulièrement lorsqu'elles touchent à l'emploi ou aux services publics ;
• mettre en place des cadres juridiques : le pape Léon appelle à ne pas s'en remettre uniquement à une éthique abstraite. Il faut des lois robustes, une surveillance indépendante et, parfois, accepter de ralentir l'adoption de l'IA pour que les institutions puissent en réguler les effets ;
• désarmer l'IA : il faut libérer la technologie des monopoles et de la course agressive à la domination militaire, économique ou cognitive, pour la rendre accessible et amicale pour l'humain. Les développeurs sont appelés à intégrer des valeurs humaines dans leurs projets avec sérieux et transparence.

Le monde du travail et l'économie

• centrer l'innovation sur le travailleur : l'IA doit soutenir les personnes qui travaillent et libérer du temps, plutôt que de soumettre les travailleurs à la vitesse des machines, de les déqualifier ou de les surveiller. Le progrès ne doit pas justifier des choix qui sacrifient systématiquement les emplois pour augmenter les profits ;
• anticiper les transitions professionnelles : l'introduction de l'IA doit s'accompagner de mesures visant à protéger l'emploi, ainsi que d'un accès garanti à la formation continue et à la reconversion pour tous ;
• éradiquer les nouvelles formes d'esclavage numérique : le fonctionnement de l'IA repose souvent sur des travailleurs invisibles (étiquetage de données, modération de contenus violents) et sur l'extraction de ressources dans des conditions indignes. Le pape Léon exige la transparence des chaînes d'approvisionnement et des vérifications éthiques préalables de la part des entreprises et investisseurs.

La guerre et l'utilisation militaire de l'IA

• interdiction des décisions létales automatisées : il est catégoriquement inacceptable de confier le choix d'utiliser la force létale à des processus automatisés ou à des algorithmes, car une machine n'a pas de conscience morale ;
• maintenir un contrôle humain responsable : les décisions militaires irréversibles doivent rester sous un contrôle humain conscient et significatif. Il faut pouvoir retracer les processus décisionnels pour que la machine ne dilue jamais la responsabilité humaine ;
• relancer la diplomatie : les gouvernements doivent négocier des réglementations communes concernant l'usage des technologies numériques et faire preuve de réalisme pacifique face aux cyberattaques et armes autonomes.

Éducation, vérité et protection des jeunes

• créer une "écologie de la communication" : face à la désinformation et aux manipulations générées par l'IA, la vérité doit être protégée comme un bien commun. Cela implique de renforcer l'esprit critique, le journalisme sérieux et les espaces de débat ;
• former une alliance éducative : les gouvernements, les écoles et les familles doivent s'unir pour encadrer l'accès aux technologies. Le pape Léon recommande l'intervention des législateurs pour fixer des limites d'âge et protéger les mineurs contre l'exploitation, le cyberharcèlement et les modèles économiques qui monétisent leur attention ;
• ne pas renoncer aux véritables relations : bien que l'IA puisse simuler l'empathie, elle ne crée pas de liens réels. Il faut cultiver les rencontres physiques, le soin mutuel et préserver des temps de silence et de profondeur que le numérique ne peut offrir.

Données et écologie environnementale

• gérer les données comme un bien commun : pour éviter un "colonialisme" numérique où les données (médicales, génétiques, comportementales) sont extraites et appropriées par les plus forts, la propriété des données doit être encadrée pour bénéficier à tous ;
• réduire l'empreinte écologique : les systèmes d'IA actuels consommant énormément d'énergie et d'eau, il est essentiel de développer des solutions technologiques plus durables pour protéger l'environnement.

Sauvegarder la vision de l'être humain

• ne pas assimiler l'IA à l'humain : l'IA ne fait qu'imiter certaines fonctions ; elle n'a pas de corps, ne ressent ni joie ni douleur, et ne mûrit pas intérieurement ;
• rejeter le transhumanisme : le pape Léon s'oppose fermement aux courants posthumanistes qui considèrent les limites humaines (maladie, vieillesse, vulnérabilité) comme des défauts à corriger technologiquement. Selon lui, la grandeur de l'humanité ne réside pas dans l'optimisation ou le contrôle total, mais dans l'acceptation de nos fragilités et dans notre capacité à aimer.

Les interrogations sur l'efficacité réelle et le risque d'inaction

Des interrogations majeures subsistent quant à l'impact concret que pourra avoir cette encyclique face à la rapidité des avancées technologiques. Bien que le pape Léon ait mis en place une commission spécifique chargée de donner suite à son message, de profonds doutes demeurent quant à la capacité réelle de ces mesures à encadrer efficacement le secteur de l'IA. Les sceptiques ont établi un parallèle direct avec l'encyclique Laudato Si du pape François.

Cette encyclique du regretté pape François portait notamment sur la crise climatique. Cependant, en 2023, elle avait débouché sur un constat de profonde déception face à l'absence d'actions concrètes, laissant craindre que le pape Léon ne soit contraint, à son tour, à un bilan tout aussi amer sur la question de l'IA.

Une autre limite soulevée par les observateurs concerne le manque de réponses réglementaires précises de la part de l'institution religieuse. Comme le souligne un critique, le pape Léon aborde ce sujet avec beaucoup d'humilité, reconnaissant ouvertement et de manière lucide que l'Église catholique ne détient pas toutes les réponses ni l'expertise nécessaires pour dicter les politiques de régulation spécifiques qui devraient s'appliquer à l'IA.

Enfin, l'application des principes éthiques défendus par l'encyclique se heurte inévitablement à la réalité du marché technologique, dont les incitatifs s'opposent souvent à la morale. Christopher Olah a lui-même reconnu cette vulnérabilité : il a admis que les laboratoires d'IA évoluent dans un système de contraintes commerciales, personnelles et géopolitiques qui entrent parfois directement en conflit avec la volonté de faire ce qui est juste pour la société.

Conclusion

Pour traduire ces recommandations en actes, le pape Léon a mis en place une commission chargée de poursuivre le travail amorcé par cette encyclique. Mais des questions subsistent quant à l'efficacité réelle de cette démarche face à la fulgurance des avancées technologiques, notamment dans le domaine de l'IA. Les observateurs rappellent d'ailleurs le précédent de l'encyclique Laudato Si du regretté pape François sur la crise climatique.

Publiée en 2015, cette encyclique avait finalement été suivie en 2023 par un constat de profonde déception face à l'inaction globale. Le pape Léon s'expose au risque de devoir formuler le même type de mise en garde dans les années à venir si les gouvernements et les dirigeants d'entreprise n'agissent pas. (Pour rappel, le Vatican estime également que l'IA contient « l'ombre du mal » dans sa capacité à diffuser des informations erronées.)

Néanmoins, par cette prise de position, le souverain pontife engage tout le poids de son institution pour empêcher que le développement technologique ne se transforme en un « Far West » dérégulé. Comme le soulignent des représentants d'associations caritatives catholiques, ce texte fixe une limite philosophique définitive : l'être humain, doté d'une boussole morale, ne doit jamais être réduit à un simple instrument de production.

Sources : billet de blogue, encyclique Magnifica Humanitas du pape Léon, Vatican

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la réflexion du pape Léon sur les progrès de l'IA ?
Le pape Léon appelle à désarmer l'IA. Qu'en pensez-vous ? Partagez-vous son avis ?
Le pape Léon affirme que les progrès rapides de l'IA menacent la dignité humaine. Qu'en pensez-vous ?
Il met également en garde contre ce qu'il appelle les nouvelles formes d'exploitation numérique. Qu'en pensez-vous ?
Que pensez-vous des recommandations formulées par le pape Léon dans son encyclique Magnifica Humanitas ? Sont-elles réalistes ?
Christopher Olah, cofondateur d'Anthropic, reconnaît que les progrès de l'IA peuvent entrer en conflit avec l'intérêt général. Qu'en pensez-vous ?
L'encyclique Magnifica Humanitas du pape Léon aura-t-elle un impact réel sur l'industrie de l'IA et les gouvernements qui s'empressent de militariser l'IA ?

Voir aussi

Le pape Léon XIV demande aux prêtres d'utiliser leur cerveau, et non l'IA, pour rédiger leurs homélies, comme il le constate et l'entend actuellement

À peine élu, le nouveau pape Léon XIV s'exprime contre l'IA, comme l'un des problèmes les plus critiques auxquels l'humanité est confrontée : « Un défi pour la dignité humaine, la justice et le travail »

Le Vatican estime que l'IA contient "l'ombre du mal" dans sa capacité à diffuser des informations erronées et appelle les gouvernements à surveiller de près le développement de l'IA