IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

L'Église catholique condamne l'utilisation de l'IA, "l'ombre du mal", dans la guerre : « Aucune machine ne devrait jamais choisir de prendre la vie d'un être humain »

Le , par Anthony

1PARTAGES

7  1 
Le Vatican, autorité dirigeante de l'Église catholique, a publié un cadre éthique sur l'intelligence artificielle (IA), conseillant les catholiques sur ses potentielles mauvaises utilisations.

Conformément à ses orientations éthiques, le Vatican a exprimé à plusieurs reprises ses profondes inquiétudes concernant l'IA, soulignant que la technologie offre « une source d'opportunités formidables, mais aussi de risques profonds ». Plus tôt ce mois de janvier, l'Église catholique a averti que l'IA contient « l'ombre du mal » dans sa capacité à diffuser des informations erronées. Le Vatican a ainsi exhorté les gouvernements du monde entier à mettre en œuvre une surveillance rigoureuse du développement de l'IA, car « la désinformation peut se répandre involontairement » à cause de la technologie.

Dans la même perspective éthique, les dirigeants de l'Église catholique ont publié ce 28 janvier un nouveau document mettant l'accent sur la nécessaire prise de conscience des capacités de l'IA. Plus précisément, le document décrit le cadre éthique de l'Église sur l'utilisation de l'IA dans la guerre et souligne la nature problématique de la militarisation de l'IA. L'utilisation d'opérations militaires à distance a contribué à « atténuer la perception » de la dévastation causée par les systèmes d'armes et le « poids de la responsabilité », selon le document.

Le Vatican a insisté sur le fait qu'il est « d'une importance critique », de comprendre l'impact éthique de l'IA sur l'humanité. « Il s'agit non seulement d'atténuer les risques et de prévenir les dommages, mais aussi de veiller à ce que ses applications soient utilisées pour promouvoir le progrès humain et le bien commun », indique le document. L'IA devrait être utilisée comme un outil pour compléter l'intelligence humaine plutôt que de « remplacer sa richesse. »


Approuvé par le pape François le 14 janvier, une équipe vaticane du dicastère pour la doctrine de la foi et du dicastère pour la culture et l'éducation a travaillé sur le nouveau cadre pendant six mois, en sollicitant des consultants dans ce domaine.

Selon le document, bien que l'avenir de l'IA soit imprévisible, les machines autonomes devraient rester adjointes au pouvoir des humains.

« Les atrocités commises tout au long de l'histoire suffisent à susciter de profondes inquiétudes quant aux abus potentiels de l'IA », indique le document. « Aucune machine ne devrait jamais choisir d'ôter la vie à un être humain. »

En outre, le Vatican a mis en garde contre les capacités de l'IA à diffuser des informations erronées, détruisant la confiance de la société. « Les faux médias générés par l'IA peuvent progressivement saper les fondements de la société », a déclaré le document. Le Vatican a suggéré une réglementation prudente, car la désinformation peut alimenter « la polarisation politique et les troubles sociaux ».

Tout au long du document, l'église expose davantage ses perspectives autour de l'IA en termes d'impact sur les relations, le travail, les soins de santé, l'éducation et la sécurité.

Le document fait référence au message du pape François lors de la Journée mondiale de la paix de 2024 en ce qui concerne l'action militaire autonome. Il a déclaré que, comme l'intelligence artificielle n'a pas la « capacité humaine unique de jugement moral et de prise de décision éthique », l'IA ne devrait pas avoir le pouvoir de faire fonctionner des machines mortelles.

Le pape François a demandé aux armées de cesser l'utilisation de ces systèmes en affirmant qu'il s'agissait d'un « engagement effectif et concret à introduire un contrôle humain toujours plus grand et plus adéquat ».


Dans une autre lettre, le pape François s'est adressé aux principaux acteurs politiques, économiques et commerciaux du monde lors du dernier Forum économique mondial de Davos, en Suisse. Il a écrit que l'IA peut intensifier une « crise de la vérité » croissante.

Il a fait des remarques similaires lors d'une réunion du G7 l'année dernière. Le pape François a déclaré que l'IA « représente une véritable révolution cognitive-industrielle, qui contribuera à la création d'un nouveau système social caractérisé par des transformations complexes d'époque. »

De plus, le Vatican a publié un document réglementaire décrivant ses lignes directrices pour l'utilisation de l'IA au sein de l'organisation le mois de décembre dernier.

La position du Vatican à l'égard de l'IA s'aligne sur des préoccupations plus larges concernant son rôle dans les contextes religieux et éthiques. Des controverses récentes, comme l'incident impliquant le « Father Justin », un chatbot IA, soulignent l'appréhension de l'Église.

Conçu pour aider les utilisateurs à répondre à des questions relatives à la foi, le prêtre IA a finalement été défroqué après avoir offert l'absolution sacramentelle, un acte réservé au clergé ordonné. « Nous n'avions pas prévu que quelqu'un puisse demander l'absolution sacramentelle à une intelligence artificielle », explique Catholic Answers dans la note qui fait suite et qui justifie la mise à l’écart de « Father Justin », son prêtre IA.

Alors que l'IA continue d'évoluer, le débat s'intensifie sur les tâches qui devraient rester strictement humaines, renforçant l'appel du Vatican à des limites éthiques dans les avancées technologiques.

Source : "Artificial Intelligence and Human Intelligence" (Le Vatican)

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous cette initiative du Vatican justifiée et pertinente ?
Selon vous, dans quelle mesure le cadre éthique du Vatican sur l'IA est-il pertinent au regard des avancées technologiques actuelles ?
Selon vous, la capacité de l'IA à prendre des décisions autonomes dans le cadre d'opérations militaires représente-t-elle un plus grand risque que les systèmes traditionnels contrôlés par l'homme ?

Voir aussi :

Le pape met en garde contre les risques liés à l'IA afin que la violence et la discrimination ne prennent pas racine, il avertit contre l'IA produite au détriment des plus fragiles et des exclus

Sermons automatisés : l'IA Rabbin Bot génère un sermon et le lit avec une version clonée de la voix d'un rabbin, le reflet d'une tendance plus large des responsables religieux qui expérimentent l'IA

Une version IA de Jesus écoute désormais les confessions des fidèles dans une église en Suisse, le tableau relance les questionnements autour de l'automatisation du clergé par l'intelligence artificielle

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 02/02/2025 à 18:36
Citation Envoyé par Anthony Voir le message
Quel est votre avis sur le sujet ?
Je pense qu'il est impossible d'empêcher les USA de développer des armes autonomes.
Même si le pays signait un traité lui interdisant d'utiliser ce type d'armement, il continuerait son développement en secret.

Parce qu'il y a la paranoïa, des hauts gradés vont dire "nos ennemis ne doivent pas se gêner pour développer ce type d'armement, nous ne pouvons pas leur laisser avoir une longueur d'avance".
Il y aura des grandes guerres dans le futur et aucune grande armée ne va se dire "on se met un handicap parce que nous respectons un code d'honneur".
3  0 
Avatar de rust2code
Membre régulier https://www.developpez.com
Le 02/02/2025 à 22:47
Citation Envoyé par Ryu2000 Voir le message
Que fait la France quand elle se rend compte que les USA font quelque chose d'illégale ?
Par exemple quand Obama surveillait Hollande.
Je suis prêt à parier que Hollande surveillait également Obama. Peut-être pas de la même façon ni à la même échelle, mais il ne faut pas sombrer dans l'angélisme: tous les États se surveillent mutuellement et depuis la nuit des temps.

Par la force des choses, le renseignement est un monde apart composé de zones grises et de non droit. La seule exception à cette règle est (en principe dans une démocratie) la surveillance de ses propres citoyens sur son propre territoire.
3  0 
Avatar de rust2code
Membre régulier https://www.developpez.com
Le 02/02/2025 à 16:17
Citation Envoyé par rsuinux Voir le message
Tuer et exterminer, c'est pas trop un problème. Mais a travers l'IA , c'est pas bien.
Ça me fait marrer.
Et tous ces bigots d'américains qui n'arrêtent pas avec dieu par ci, et la bible par la, ils ne mettent aucun garde-fous contre l'IA en général et les ia version militaire.
Du moment que ça fait du fric, où est le problème.
Povre pape....
En l’occurrence il s'agit d'une prise de position de l'Église catholique, par l'entremise de son "agence de communication", le Vatican. Le catholicisme est une composante très largement minoritaire du christianisme aux États-Unis. Il ne faut pas tout mélanger.

Ne pas mettre de "garde-fous" sur l'IA n'est pas fondamentalement une question d'éthique, c'est une question avant tout politique, sécuritaire et économique. Il faut tenir compte du fait que les USA sont une super puissance et, comme toutes les super puissances, elle est contestée et défiée en permanence. Proscrire un usage militaire de l'IA reviendrait à laisser cette opportunité stratégique à de potentiels adversaires, ce qui aurait pour conséquence de remettre en question l'économie, la paix et l'ordre mondial.

Si les États-Unis prenaient systématiquement des décisions éthiques et conformes à la tendance morale, ils n'existeraient plus depuis très longtemps, et l'Occident non plus.

Les prêcheurs de morale sont souvent les premiers à profiter de ce dont ils s'indignent.
2  0 
Avatar de rust2code
Membre régulier https://www.developpez.com
Le 02/02/2025 à 19:36
Citation Envoyé par Ryu2000 Voir le message
Même si le pays signait un traité lui interdisant d'utiliser ce type d'armement, il continuerait son développement en secret.
C'est précisément l'une des raisons pour lesquelles tous les États sont dotés de services de renseignement.
2  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 02/02/2025 à 20:05
Citation Envoyé par rust2code Voir le message
C'est précisément
Que fait la France quand elle se rend compte que les USA font quelque chose d'illégale ?
Par exemple quand Obama surveillait Hollande.
2  0 
Avatar de rsuinux
Membre actif https://www.developpez.com
Le 02/02/2025 à 13:29
Tuer et exterminer, c'est pas trop un problème. Mais a travers l'IA , c'est pas bien.
Ça me fait marrer.
Et tous ces bigots d'américains qui n'arrêtent pas avec dieu par ci, et la bible par la, ils ne mettent aucun garde-fous contre l'IA en général et les ia version militaire.
Du moment que ça fait du fric, où est le problème.
Povre pape....
1  0 
Avatar de OrthodoxWindows
Membre expert https://www.developpez.com
Le 03/02/2025 à 13:01
Citation Envoyé par rust2code Voir le message
Je suis prêt à parier que Hollande surveillait également Obama. Peut-être pas de la même façon ni à la même échelle, mais il ne faut pas sombrer dans l'angélisme: tous les États se surveillent mutuellement et depuis la nuit des temps.

Par la force des choses, le renseignement est un monde apart composé de zones grises et de non droit. La seule exception à cette règle est (en principe dans une démocratie) la surveillance de ses propres citoyens sur son propre territoire.
Et c'est aussi pour cela qu'une population ne bénéficie jamais des services de renseignement, pas plus qu'elle ne bénéficie d'une guerre où elle se "sacrifie".
1  0 
Avatar de rust2code
Membre régulier https://www.developpez.com
Le 01/02/2025 à 21:14
Et tout catholique qui s'estime chrétien et a ouvert une bible au moins une fois dans sa vie doit connaître ces fameux versets des évangiles Matthieu 7:1-5...passages plein de sagesse qui ne sauraient tomber dans l'oreille d'un vieux sourd.
0  0 
Avatar de rust2code
Membre régulier https://www.developpez.com
Le 04/02/2025 à 10:55
Citation Envoyé par OrthodoxWindows Voir le message
Et c'est aussi pour cela qu'une population ne bénéficie jamais des services de renseignement, pas plus qu'elle ne bénéficie d'une guerre où elle se "sacrifie".
Tout dépend de ce qui est associé au terme "bénéfice".
0  0 
Avatar de Eye_Py_Ros
Membre régulier https://www.developpez.com
Le 04/02/2025 à 12:37
Quel est votre avis sur le sujet ?
Trouvez-vous cette initiative du Vatican justifiée et pertinente ?
Selon vous, dans quelle mesure le cadre éthique du Vatican sur l'IA est-il pertinent au regard des avancées technologiques actuelles ?
Selon vous, la capacité de l'IA à prendre des décisions autonomes dans le cadre d'opérations militaires représente-t-elle un plus grand risque que les systèmes traditionnels contrôlés par l'homme ?

Je préfère un Vatican qui prêche des paroles sage d'éthique et de retenu.
Il fut un temps ou la religion était assez arriéré pour décapiter ceux qui proposait l'héliocentrisme.
Aujourd'hui les dirigeants usent de la science pour en faire un dogme religieux (tous tous covid) et les religieux se mette a faire de la "science" en acceptant le progrès tel qu'il est mais tout en remettant l'église au milieux du village (je tente la blague) en se faisant le relais de la sagesse.
[inserer meme, Simpson swap entre bar et Eglise]

Il vaut mieux une voix de lucidité sur la situation, dans le sens si le Vatican se voit comme l'entité qui s'oppose au mal, comme un Bergé tentant de protéger un troupeau contre le mal, il vaut mieux qu'elle éduque sont troupeau a reconnaitre le mal, qu'a maintenir dans l'ignorance les conséquences.

Le feu sa brule, le feu c'est bien pour cuire des aliments et rendre la nourriture plus sur en détruisant bactérie et nuisance, le feu c'est mal quand c'est la maison qui brule, il faut l'éteindre.

Ils sont un "contre pouvoir" et doivent tenir leur role pour permettre la progression de l'humanité.

Pour quel raison Trump à t'il appelé sont programme d'ia stargate ? je conseil au Vatican le film "wargame"
Le centre de contrôle du NORAD à Cheyenne Mountain, servant de décors à ce film est tout autant le décors pour la série stargate.
Si vous pensez que trump n'a pas un minimum de référence cinématographique, il dit clairement ce qu'il compte faire tout en bernant ce qui ne comprennent pas.
0  0