Microsoft, Amazon et IBM, trois des plus grandes sociétés technologiques du monde, ont renoncé à vendre la reconnaissance faciale aux forces de l'ordre dans un contexte où des protestations fusent dans le monde entier contre la brutalité policière.La reconnaissance faciale devient un outil de plus en plus populaire pour les agences gouvernementales et les forces de l'ordre pour traquer les criminels, les terroristes ou les immigrants illégaux. Mais avec les manifestations de Black Lives Matter qui ont balayé le monde à la suite de la mort de George Floyd, il y a maintenant de nouveaux appels pour que les grandes entreprises technologiques cessent de vendre cet outil à la police. L'argument avancé depuis longtemps par les groupes de défense des droits civiques et les experts de l'IA est que la reconnaissance faciale affecte de manière disproportionnée les personnes de couleur de deux manières.
Premièrement l'outil pourrait être inévitablement utilisé pour cibler plus souvent les personnes de couleur. Ensuite, les données utilisées pour créer un logiciel de reconnaissance faciale enracinent des préjugés raciaux, ce qui rend plus probable l’identification erronée des femmes et des personnes de couleur, ce qui entraînerait à son tour des arrestations plus injustifiées.
Voici ce que les entreprises ont promis
IBM
IBM a été la première des trois sociétés à annoncer qu'elle se retirait du marché de la reconnaissance faciale et c'est également elle qui en a pris l'engagement le plus permanent.
Le PDG Arvind Krishna a fait cette annonce dans une lettre aux membres du Congrès, notamment adressée aux sénateurs Cory Booker et Kamala Harris, le 8 juin :
« IBM ne propose plus de logiciel de reconnaissance ou d'analyse faciale IBM à usage général. IBM s'oppose fermement et ne tolérera pas l'utilisation de toute technologie, y compris la technologie de reconnaissance faciale offerte par d'autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits et libertés fondamentaux de la personne, ou tout autre objectif non conforme à nos valeurs et principes de confiance et transparence. Nous pensons que le moment est venu d'entamer un dialogue national sur l'opportunité et la manière dont la technologie de reconnaissance faciale devrait être utilisée par les autorités nationales chargées de l'application des lois ».
L'annonce a été saluée par beaucoup, dont la députée américaine Alexandria Ocasio-Cortez.
Eva Blum-Dumontet, chercheuse senior chez Privacy International spécialisée dans IBM, a déclaré que la cessation de la vente de logiciels « à usage général » donne à l'entreprise la possibilité de développer des logiciels personnalisés pour les clients :
« Nous devrons voir ce que cela signifie dans la pratique. Il convient de garder à l'esprit qu'une grande partie du travail qu'IBM fait est en fait un travail personnalisé pour leurs clients, il est donc possible que nous ne voyions pas la fin d'IBM faisant la reconnaissance faciale pour tous, ils ne font que changer l'étiquette », a déclaré Blum-Dumontet.
Amazon
Amazon a annoncé le 10 juin qu'il suspendait la vente de son logiciel de reconnaissance faciale Rekognition aux forces de l'ordre pour un an.
En fait, depuis le début de l’affaire, Amazon s’est exprimé en faveur du mouvement Black Lives Matter. Le 3 juin, l’entreprise a notamment annoncé un don de 10 millions de dollars à plusieurs organisations qui soutiennent les opportunités économiques, l’éducation et la justice pour les Afro-Américains. Mais de nombreuses voix ont continué à demander plus de mesures. L’Union américaine pour les libertés civiles (ACLU), une association à but non lucratif, est par exemple revenue sur l’utilisation de Rekognition par la police. En juillet 2018, l’association avait déjà mené un test pour simuler la manière dont les forces de l’ordre utilisaient le logiciel. Ce dernier avait alors identifié 28 membres du Congrès comme étant des criminels.
Dans un billet de blog, la société a déclaré :
« Nous mettons en place un moratoire d'un an sur l'utilisation par la police de la technologie de reconnaissance faciale d'Amazon. Nous continuerons à permettre à des organisations comme Thorn, le Centre international pour les enfants disparus et exploités, et Marinus Analytics d'utiliser Amazon Rekognition pour aider à sauver les victimes de la traite des êtres humains et à réunir les enfants disparus avec leurs familles
« Nous avons plaidé pour que les gouvernements mettent en place des réglementations plus strictes pour régir l'utilisation éthique de la technologie de reconnaissance faciale, et ces derniers jours, le Congrès semble prêt à relever ce défi. Nous espérons que ce moratoire d'un an donnera au Congrès suffisamment de temps pour mettre en œuvre des règles appropriées, et nous sommes prêts à apporter notre aide si on nous le demande ».
Le Dr Nakeema Stefflbauer, un expert en politique d'éthique de l'IA, a estimé que si la déclaration d'Amazon est un pas dans la bonne direction, elle ne traite pas de ce qui arrivera à tous les services de police qui disposent déjà du logiciel. « Au lieu de suspendre de nouvelles ventes, il serait également intéressant de rappeler le logiciel dans son ensemble, comme cela se fait couramment avec d'autres produits défectueux ou peu fiables », a déclaré Stefflbauer.
Microsoft
Le président des affaires juridiques de Microsoft, Brad Smith, a déclaré dans une interview au Washington Post, le jeudi 11 juin, que Microsoft ne vend pas de technologie de reconnaissance faciale aux forces de police américaines et s'est engagé à ne pas la vendre jusqu'à ce qu'une loi nationale régissant son utilisation soit adoptée.
« Le point numéro un que je voudrais vraiment souligner est le suivant : nous devons vraiment profiter de ce moment pour appliquer une loi nationale solide régissant la reconnaissance faciale fondée sur la protection des droits de l'homme », a déclaré Smith.
Cela est intervenu deux jours après que plus de 250 employés de Microsoft ont publié une lettre ouverte appelant l'entreprise à rompre les relations commerciales avec les forces de police de manière plus générale.
Sans cadre juridique, d'autres entreprises pourraient se précipiter pour combler le vide
Smith a averti que des grandes enseignes comme Microsoft, Amazon et IBM qui se retireraient entièrement du marché de la reconnaissance faciale pourraient signifier que de plus petites entreprises allaient se précipiter pour combler le vide.
« Si toutes les entreprises responsables du pays cèdent ce marché à celles qui ne sont pas prêtes à prendre position, nous ne servirons pas nécessairement l'intérêt national ou la vie des Noirs et des Afro-Américains de cette nation. Il faut donc que le Congrès agisse, pas seulement les entreprises technologiques », a-t-il déclaré.
Le Dr Nakeema Stefflbauer a exprimé des préoccupations similaires selon lesquelles des entreprises moins connues pourraient commencer à proposer la reconnaissance faciale à la police.
« Du point de vue américain, ces annonces confirment le préjudice grave que la technologie de reconnaissance faciale non réglementée aux mains des forces de l'ordre a déjà causé aux Afro-Américains et à d'autres groupes [minoritaires] » a déclaré Stefflbauer.
Le Dr Steffblauer a ajouté que des fournisseurs de moindre envergure tels que Clearview, Kairos et PredPol pouvaient continuer à vendre des technologies de reconnaissance faciale sans nouvelles lois, aussi bien aux États-Unis que dans l'UE.
Elle a ajouté : « à mon avis, c'est le moment où les gouvernements américain et européen doivent prendre la réglementation technologique au sérieux et adopter une législation complète : ne pas le faire n'est rien de moins que donner la permission d'une attaque non contrôlée contre les droits de l'homme ».
Joy Buolamwini, qui a examiné les biais dans la technologie de reconnaissance faciale d'Amazon, a également souligné la nécessité d'un cadre réglementaire : « Nous ne pouvons pas compter sur l'autorégulation », a-t-elle déclaré.
Sources : Alexandria Ocasio-Cortez, Washington Post
Et vous ?
Que pensez-vous de ces réflexions ?Voir aussi :
Corsight AI, une start-up israélienne récolte 5 millions USD pour développer et commercialiser une technologie de reconnaissance faciale permettant d'identifier les visages, même masqués Chine : même les porteurs de masques peuvent être identifiés, selon une société chinoise de reconnaissance faciale Le Vatican, IBM et Microsoft ensemble pour appeler à une réglementation de la reconnaissance faciale et de façon générale, à une régulation de l'IA pour le bien de l'humanité 
