Le Vatican, autorité dirigeante de l'Église catholique, a publié un cadre éthique sur l'intelligence artificielle (IA), conseillant les catholiques sur ses potentielles mauvaises utilisations. Conformément à ses orientations éthiques, le Vatican a exprimé à plusieurs reprises ses profondes inquiétudes concernant l'IA, soulignant que la technologie offre « une source d'opportunités formidables, mais aussi de risques profonds ». Plus tôt ce mois de janvier, l'Église catholique a averti que l'IA contient « l'ombre du mal » dans sa capacité à diffuser des informations erronées. Le Vatican a ainsi exhorté les gouvernements du monde entier à mettre en œuvre une surveillance rigoureuse du développement de l'IA, car « la désinformation peut se répandre involontairement » à cause de la technologie.
Dans la même perspective éthique, les dirigeants de l'Église catholique ont publié ce 28 janvier un nouveau document mettant l'accent sur la nécessaire prise de conscience des capacités de l'IA. Plus précisément, le document décrit le cadre éthique de l'Église sur l'utilisation de l'IA dans la guerre et souligne la nature problématique de la militarisation de l'IA. L'utilisation d'opérations militaires à distance a contribué à « atténuer la perception » de la dévastation causée par les systèmes d'armes et le « poids de la responsabilité », selon le document.
Le Vatican a insisté sur le fait qu'il est « d'une importance critique », de comprendre l'impact éthique de l'IA sur l'humanité. « Il s'agit non seulement d'atténuer les risques et de prévenir les dommages, mais aussi de veiller à ce que ses applications soient utilisées pour promouvoir le progrès humain et le bien commun », indique le document. L'IA devrait être utilisée comme un outil pour compléter l'intelligence humaine plutôt que de « remplacer sa richesse. »
Approuvé par le pape François le 14 janvier, une équipe vaticane du dicastère pour la doctrine de la foi et du dicastère pour la culture et l'éducation a travaillé sur le nouveau cadre pendant six mois, en sollicitant des consultants dans ce domaine.
Selon le document, bien que l'avenir de l'IA soit imprévisible, les machines autonomes devraient rester adjointes au pouvoir des humains.
« Les atrocités commises tout au long de l'histoire suffisent à susciter de profondes inquiétudes quant aux abus potentiels de l'IA », indique le document. « Aucune machine ne devrait jamais choisir d'ôter la vie à un être humain. »
En outre, le Vatican a mis en garde contre les capacités de l'IA à diffuser des informations erronées, détruisant la confiance de la société. « Les faux médias générés par l'IA peuvent progressivement saper les fondements de la société », a déclaré le document. Le Vatican a suggéré une réglementation prudente, car la désinformation peut alimenter « la polarisation politique et les troubles sociaux ».
Tout au long du document, l'église expose davantage ses perspectives autour de l'IA en termes d'impact sur les relations, le travail, les soins de santé, l'éducation et la sécurité.
Le document fait référence au message du pape François lors de la Journée mondiale de la paix de 2024 en ce qui concerne l'action militaire autonome. Il a déclaré que, comme l'intelligence artificielle n'a pas la « capacité humaine unique de jugement moral et de prise de décision éthique », l'IA ne devrait pas avoir le pouvoir de faire fonctionner des machines mortelles.
Le pape François a demandé aux armées de cesser l'utilisation de ces systèmes en affirmant qu'il s'agissait d'un « engagement effectif et concret à introduire un contrôle humain toujours plus grand et plus adéquat ».
Dans une autre lettre, le pape François s'est adressé aux principaux acteurs politiques, économiques et commerciaux du monde lors du dernier Forum économique mondial de Davos, en Suisse. Il a écrit que l'IA peut intensifier une « crise de la vérité » croissante.
Il a fait des remarques similaires lors d'une réunion du G7 l'année dernière. Le pape François a déclaré que l'IA « représente une véritable révolution cognitive-industrielle, qui contribuera à la création d'un nouveau système social caractérisé par des transformations complexes d'époque. »
De plus, le Vatican a publié un document réglementaire décrivant ses lignes directrices pour l'utilisation de l'IA au sein de l'organisation le mois de décembre dernier.
La position du Vatican à l'égard de l'IA s'aligne sur des préoccupations plus larges concernant son rôle dans les contextes religieux et éthiques. Des controverses récentes, comme l'incident impliquant le « Father Justin », un chatbot IA, soulignent l'appréhension de l'Église.
Conçu pour aider les utilisateurs à répondre à des questions relatives à la foi, le prêtre IA a finalement été défroqué après avoir offert l'absolution sacramentelle, un acte réservé au clergé ordonné. « Nous n'avions pas prévu que quelqu'un puisse demander l'absolution sacramentelle à une intelligence artificielle », explique Catholic Answers dans la note qui fait suite et qui justifie la mise à l’écart de « Father Justin », son prêtre IA.
Alors que l'IA continue d'évoluer, le débat s'intensifie sur les tâches qui devraient rester strictement humaines, renforçant l'appel du Vatican à des limites éthiques dans les avancées technologiques.
Source : "Artificial Intelligence and Human Intelligence" (Le Vatican)
Et vous ?
Quel est votre avis sur le sujet ? Trouvez-vous cette initiative du Vatican justifiée et pertinente ? Selon vous, dans quelle mesure le cadre éthique du Vatican sur l'IA est-il pertinent au regard des avancées technologiques actuelles ? Selon vous, la capacité de l'IA à prendre des décisions autonomes dans le cadre d'opérations militaires représente-t-elle un plus grand risque que les systèmes traditionnels contrôlés par l'homme ?Voir aussi :
Le pape met en garde contre les risques liés à l'IA afin que la violence et la discrimination ne prennent pas racine, il avertit contre l'IA produite au détriment des plus fragiles et des exclus Sermons automatisés : l'IA Rabbin Bot génère un sermon et le lit avec une version clonée de la voix d'un rabbin, le reflet d'une tendance plus large des responsables religieux qui expérimentent l'IA Une version IA de Jesus écoute désormais les confessions des fidèles dans une église en Suisse, le tableau relance les questionnements autour de l'automatisation du clergé par l'intelligence artificielle 
