L’effort se nomme Call For an AI Ethics et c’est le Vatican qui en est l’initiateur. Les responsables de l’Église Catholique romaine appellent à la mise sur pied de normes éthiques plus strictes en matière de développement d’intelligence artificielle. IBM et Microsoft sont les premières entreprises à s’arrimer à l’initiative à côté du gouvernement italien et de l’Organisation des Nations Unies pour l’alimentation et l’agriculture…En fait, ces différentes entités sont les premiers signataires du document support pour un usage éthique de l’intelligence artificielle. Le Rome Call For an AI Ethics énonce 6 grands principes : transparence, inclusion, responsabilité, impartialité, fiabilité, sécurité et respect de la vie privée. Grosso modo, ces derniers stipulent que la technologie (l’intelligence artificielle) doit être mise sur pied dans le but de protéger les personnes ; en particulier, les faibles et les défavorisés.
Le Vatican veut s'assurer que les entreprises n'utilisent pas l'intelligence artificielle comme un moyen de collecter des données sans le consentement des individus, puis de les utiliser à des fins commerciales ou politiques.
« Sur le plan personnel, l'ère numérique modifie notre perception de l'espace, du temps et du corps, et sur le plan socio-économique, les utilisateurs sont souvent réduits à des "consommateurs", en proie à des intérêts privés concentrés dans les mains de quelques-uns. Les algorithmes extraient désormais des données qui permettent de contrôler les habitudes mentales et relationnelles à des fins commerciales ou politiques, ce, souvent à notre insu. L'asymétrie par laquelle un petit nombre d'élus savent tout de nous alors que nous ne savons rien d'eux ternit la pensée critique et l'exercice conscient de la liberté », a déclaré le Pape François absent à l’atelier, mais représenté. Ce dernier n’a pas manqué de déplorer les inégalités qui se creusent énormément avec le savoir et la richesse qui s'accumulent entre quelques mains avec de graves risques pour les sociétés démocratiques. Les cas pour illustrer les propos du Pape sont légion avec de nombreuses agences gouvernementales et entreprises privées qui usent de logiciels de la société Clearview AI pour extirper des données de reconnaissance faciale à l’insu de tiers. La base de données de cette société, qui contient plus de 3 milliards d'images extraites de divers sites en ligne, est utilisée par les forces de l'ordre pour mettre la main sur des individus dignes d'intérêt.
Le Rome Call For an AI Ethics stipule en sus qu’un devoir d’explication doit faire l’objet d’instauration et que les algorithmes basés sur l'intelligence artificielle doivent fournir aux individus des informations sur la manière dont ces derniers ont abouti à leurs décisions afin de garantir qu'il n'y a pas de biais.
Toutefois, le document ne va pas plus loin que la définition de ce qui reste de grands axes de réflexion tant les principes énoncés peuvent prêter à débat. En effet, sur la base de ces derniers l’on peut déboucher sur un ensemble de points susceptibles de faire l’objet d’examen par des gouvernements :
- L'application de la reconnaissance faciale par les forces de l'ordre devrait-elle faire l'objet d'une surveillance et de contrôles humains, y compris des restrictions sur l'utilisation de la technologie de reconnaissance faciale sans preuve de culpabilité ou d'innocence ?
- De même, devrions-nous veiller à ce qu'il y ait une surveillance et une responsabilisation civiles pour l'utilisation de la reconnaissance faciale dans le cadre des pratiques gouvernementales en matière de technologie de sécurité nationale ?
- Quels types de mesures juridiques peuvent empêcher l'utilisation de la reconnaissance faciale pour le profilage racial et d'autres violations des droits tout en permettant les utilisations bénéfiques de la technologie?
- L'utilisation de la reconnaissance faciale par les autorités publiques ou d'autres personnes devrait-elle être soumise à des niveaux de performance minimum en matière de précision ?
- La loi devrait-elle exiger que les détaillants affichent un avis visible de leur utilisation de la technologie de reconnaissance faciale dans les espaces publics ?
- La loi devrait-elle exiger que les entreprises obtiennent un consentement préalable avant de recueillir des images d'individus pour la reconnaissance faciale ? Si oui, dans quelles situations et quels lieux cela devrait-il s'appliquer ? Et quelle est la manière appropriée de demander et d'obtenir un tel consentement ?
- Devrions-nous nous assurer que les personnes ont le droit de savoir quelles photos ont été recueillies et stockées avec leurs noms et visages ?
- Devrions-nous créer des processus qui accordent des droits légaux aux personnes qui croient avoir été mal identifiées par un système de reconnaissance faciale ?
Le Vatican espère augmenter le nombre de signataires de son initiative en matière d’éthique sur l'intelligence artificielle dans les mois à venir. En sus, il espère également collaborer avec des universités du monde entier pour promouvoir davantage de recherches scientifiques sur les directives éthiques en matière d'IA.
Sources : Vatican News, Academyforlife
Et vous ?
Que pensez-vous de cette initiative ? Peut-elle cacher une manœuvre de positionnement du Vatican ?Voir aussi :
Des chercheurs australiens créent un nouveau modèle de reconnaissance faciale 3D capable de reconnaitre des sujets portant des lunettes ou grimaçant Des actionnaires demandent à Amazon d'arrêter de vendre son IA de reconnaissance faciale aux forces de l'ordre Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif, la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ? Londres : les tests d'une technologie de reconnaissance faciale ne mènent à aucune arrestation en raison du nombre élevé de faux positifs Paris : la reconnaissance faciale pour le contrôle automatisé des passeports n'arrivera pas ce printemps, sa mise en service prévue pour le 18 juillet 
Envoyé par Neckara
)