La Quadrature du Net et 80 organisations demandent l'interdiction de la reconnaissance faciale de la sécurité
Dans une lettre ouverte aux gouvernement et Parlement français
Le 2019-12-20 11:36:21, par Stan Adkens, Expert éminent sénior
Il y a un mois, la Quadrature du Net (LQDN) demandait à Matignon de mettre fin à l'usage abusif de son système d'identification automatique et massive des manifestants qui utilise illégalement la reconnaissance faciale. Jeudi, l’association – rejointe cette fois par 80 organisations qui ont signé une lettre ouverte – va plus loin dans son but de défendre les droits et libertés de la population à l’ère de l’Internet et des nouvelles technologies. Les organisations, collectifs, entreprises, associations et syndicats signataires appellent le gouvernement et le Parlement français à interdire toute utilisation actuelle et future de la reconnaissance faciale à des fins de sécurité et de surveillance.
La lettre commune reste toujours ouverte à d’autres signatures des organisations et des entreprises. Entre autres signataires, il y a l’Observatoire des Libertés et du Numérique, Abilian, ACAT France, Access Now, Mycélium, Numericatous, Ouvaton, etc. La grande diversité des organisations signataires de cette lettre montre à quel point la population condamne cette technologie, a observé LQDN dans son article qui a publié la lettre ouverte.
Selon la lettre ouverte, la technologie de reconnaissance faciale est déjà largement déployée en France. La technologie est déjà utilisée dans divers systèmes, depuis le système de passage automatisé rapide aux frontières extérieures (PARAFE) installé dans différents gares et aéroports en France depuis 2012, à la création de la base de données des antécédents judiciaires, selon la lettre. L’utilisation de la technologie de reconnaissance faciale s’étend également à la police civile et militaire qui peut l’utiliser sur les images captées dans la rue par les caméras de surveillance ou issues des médias sociaux. Et d'autres expériences d’application serait déjà en cours ou prévues.
Le déploiement continu des systèmes de reconnaissance faciale sans prêter attention à leurs conséquences possibles sur nos libertés
Selon LQDN, malgré de nombreux systèmes déjà installés, de nombreux acteurs publics et privés veulent aller plus loin dans le déploiement. « Enfermés dans le fantasme d'un développement technique inéluctable et poussant des arguments économiques et sécuritaires étroits, ils veulent accélérer et simplifier le déploiement de ces systèmes, quelles que soient les conséquences possibles sur nos libertés et notre modèle de société », disent les organisations dans la lettre.
« La reconnaissance faciale est une technologie unique, invasive et déshumanisante, qui permet, tôt ou tard, une surveillance constante de l'espace public. Elle crée une société dans laquelle nous sommes tous suspects. Elle transforme notre visage en un dispositif de repérage, plutôt qu'en un signifiant de la personnalité, le réduisant éventuellement à un objet technique. Il permet un contrôle invisible. Il établit un régime d'identification permanent et incontournable. Il élimine l'anonymat », lit-on également.
Ce n’est pas seulement en France que les associations combattent la reconnaissance faciale pour la sécurité et la surveillance
En mai 2018, l’ACLU, une association à but non lucratif de défense des droits numériques, accompagnée par plus de deux douzaines d'autres organisations du même type, a demandé à Amazon de cesser de vendre son système de reconnaissance d'image à la police. Pour ces associations, « Amazon Rekognition est susceptible de connaître des abus entre les mains des gouvernements ».
Amazon avait à l’époque expliqué, lorsqu’il mettait Rekognition, sa technologie de reconnaissance faciale, à la disposition des forces de l’ordre, que sa technologie permettrait de faciliter les enquêtes criminelles en reconnaissant des suspects dans des photos et des vidéos. Mais après avoir conduit ses propres tests (ACLU) sur le système, il s’est avéré que Rekognition a identifié 28 membres du Congrès américain comme étant des criminels.
En mai dernier, San Francisco est devenue la première grande ville à interdire l'utilisation de la reconnaissance faciale par les agences gouvernementales locales. Le texte de la ville exige également que les agences municipales obtiennent l'approbation de la ville avant de faire l'acquisition d'autres types de technologies de surveillance comme les lecteurs automatiques de plaques d'immatriculation et les drones avec caméras. Avant l’adoption du texte, des policiers ont tenté d'empêcher San Francisco d'interdire la surveillance par reconnaissance faciale.
Ailleurs dans d’autres pays, les populations et les groupes de défense mènent la même lutte. Dans une de ses publications parues au mois de mai 2018, The Independent a fait état de ce que l’IA utilisée par les forces de police anglaises a rapporté des faux positifs dans 98 % des cas, bien que les responsables de la police se soient défendus en soutenant que l’IA est assistée par les officiers de police. En juillet dernier, un rapport indépendant a révélé au média britannique Sky News qu’environ 81 % des suspects signalés par la technologie de reconnaissance faciale de la police du Grand Londres seraient en effet innocents.
En Chine, la reconnaissance faciale est utilisée pour chasser les voleurs de papier toilette, ou surveiller les étudiants dilettantes. La reconnaissance faciale est aussi utilisée dans la police pour renforcer l’arsenal de surveillance existante. Elle a permis à la police chinoise d’arrêter un fugitif recherché pour des crimes dans le sud-est du pays, en 2018, après l'avoir repéré dans une foule de cinquante à soixante mille (60 000) personnes assistant à un concert de musique pop. Mais le système de surveillance routière d’IA a aussi classé un célèbre CEO comme un piéton qui a grillé le feu rouge dans la province de Zhejiang.
Interdire la reconnaissance faciale de sécurité et de surveillance maintenant et à l'avenir
Selon la lettre de LQDN, aucun argument ne peut justifier le déploiement de la technologie de reconnaissance faciale. Selon l’association, au-delà de son utilisation pour se connecter en ligne ou déverrouiller son téléphone – plutôt que d’utiliser un mot de passe –, les seules autres utilisations efficaces consistent à remettre la technologie entre les mains de l'État pour exercer un pouvoir de contrôle total sur sa population, avec des risques d’être tenté d'en abuser contre ses opposants politiques et certaines populations.
« C'est pourquoi nous vous demandons d'interdire toute utilisation de la reconnaissance faciale à des fins de sécurité et de surveillance. De telles interdictions ont déjà été décidées dans plusieurs villes des États-Unis. La France et l'Union européenne doivent aller plus loin et, dans le respect du règlement général sur la protection des données, construire un modèle européen respectueux des libertés de ses citoyens. Il faudra également renforcer les exigences en matière de protection des données personnelles et limiter les autres usages de la reconnaissance faciale. Que ce soit à des fins d'authentification ou d'identification privées, ces systèmes n'offrent pas, dans l'ensemble, une protection suffisante de la vie privée, et ils préparent et normalisent une société de surveillance de masse », ont dit les cosignataires de la lettre ouverte.
En Chine, la police chinoise utilise désormais une caméra basée sur l'IA et des analyses raciales pour suivre les Ouïghours, une minorité ethnique vivant à Xinjiang, et les distinguer de la majorité Han, selon un récent rapport d’IPVM, une autorité mondiale en matière de vidéosurveillance. La caméra utilisée par la police est « Capable d'analyser le sexe, l'origine ethnique et la couleur de la peau de la cible, si la personne porte des lunettes, des masques, des casquettes ou une barbe, avec un taux de précision non inférieur à 90% », a dit Hikvision qui commercialise la camera.
La quadrature du Net et les autres organisations sont lancées dans une lutte contre l’utilisation des systèmes de reconnaissance faciale dans la sécurité et la surveillance, tout comme d’autres organisations dans plusieurs autres pays. Mais avec l’évolution de cette technologie, qui se retrouve entre les mains des gouvernements et les sociétés privées, on est tenté de se demander si le respect de la vie privée est encore possible.
Source : LQDN
Et vous ?
Que pensez-vous de la demande de LQDN et les autres organisations ?
Parviendront-ils à faire cesser l’utilisation de la reconnaissance faciale de sécurité et de surveillance en France ?
Pensez-vous que les gouvernements renonceront-ils à l’utilisation de la reconnaissance faciale de sécurité et surveillance – pour lutter contre les crimes – au profit de la vie privée ?
Lire aussi
La Quadrature du Net demande à Matignon de mettre fin à l'usage abusif de son système d'identification automatique et massive des manifestants, qui utilise illégalement la reconnaissance faciale
San Francisco devient la première ville US à interdire l'usage de la reconnaissance faciale, pour des raisons en lien avec les droits de l'Homme
81 % des suspects signalés par la technologie de reconnaissance faciale de la police du Grand Londres sont innocents, selon un rapport
Des policiers tentent d'empêcher San Francisco d'interdire la surveillance par reconnaissance faciale, le projet de loi a de nombreux défenseurs
La lettre commune reste toujours ouverte à d’autres signatures des organisations et des entreprises. Entre autres signataires, il y a l’Observatoire des Libertés et du Numérique, Abilian, ACAT France, Access Now, Mycélium, Numericatous, Ouvaton, etc. La grande diversité des organisations signataires de cette lettre montre à quel point la population condamne cette technologie, a observé LQDN dans son article qui a publié la lettre ouverte.
Selon la lettre ouverte, la technologie de reconnaissance faciale est déjà largement déployée en France. La technologie est déjà utilisée dans divers systèmes, depuis le système de passage automatisé rapide aux frontières extérieures (PARAFE) installé dans différents gares et aéroports en France depuis 2012, à la création de la base de données des antécédents judiciaires, selon la lettre. L’utilisation de la technologie de reconnaissance faciale s’étend également à la police civile et militaire qui peut l’utiliser sur les images captées dans la rue par les caméras de surveillance ou issues des médias sociaux. Et d'autres expériences d’application serait déjà en cours ou prévues.
Le déploiement continu des systèmes de reconnaissance faciale sans prêter attention à leurs conséquences possibles sur nos libertés
Selon LQDN, malgré de nombreux systèmes déjà installés, de nombreux acteurs publics et privés veulent aller plus loin dans le déploiement. « Enfermés dans le fantasme d'un développement technique inéluctable et poussant des arguments économiques et sécuritaires étroits, ils veulent accélérer et simplifier le déploiement de ces systèmes, quelles que soient les conséquences possibles sur nos libertés et notre modèle de société », disent les organisations dans la lettre.
« La reconnaissance faciale est une technologie unique, invasive et déshumanisante, qui permet, tôt ou tard, une surveillance constante de l'espace public. Elle crée une société dans laquelle nous sommes tous suspects. Elle transforme notre visage en un dispositif de repérage, plutôt qu'en un signifiant de la personnalité, le réduisant éventuellement à un objet technique. Il permet un contrôle invisible. Il établit un régime d'identification permanent et incontournable. Il élimine l'anonymat », lit-on également.
Ce n’est pas seulement en France que les associations combattent la reconnaissance faciale pour la sécurité et la surveillance
En mai 2018, l’ACLU, une association à but non lucratif de défense des droits numériques, accompagnée par plus de deux douzaines d'autres organisations du même type, a demandé à Amazon de cesser de vendre son système de reconnaissance d'image à la police. Pour ces associations, « Amazon Rekognition est susceptible de connaître des abus entre les mains des gouvernements ».
Amazon avait à l’époque expliqué, lorsqu’il mettait Rekognition, sa technologie de reconnaissance faciale, à la disposition des forces de l’ordre, que sa technologie permettrait de faciliter les enquêtes criminelles en reconnaissant des suspects dans des photos et des vidéos. Mais après avoir conduit ses propres tests (ACLU) sur le système, il s’est avéré que Rekognition a identifié 28 membres du Congrès américain comme étant des criminels.
En mai dernier, San Francisco est devenue la première grande ville à interdire l'utilisation de la reconnaissance faciale par les agences gouvernementales locales. Le texte de la ville exige également que les agences municipales obtiennent l'approbation de la ville avant de faire l'acquisition d'autres types de technologies de surveillance comme les lecteurs automatiques de plaques d'immatriculation et les drones avec caméras. Avant l’adoption du texte, des policiers ont tenté d'empêcher San Francisco d'interdire la surveillance par reconnaissance faciale.
Ailleurs dans d’autres pays, les populations et les groupes de défense mènent la même lutte. Dans une de ses publications parues au mois de mai 2018, The Independent a fait état de ce que l’IA utilisée par les forces de police anglaises a rapporté des faux positifs dans 98 % des cas, bien que les responsables de la police se soient défendus en soutenant que l’IA est assistée par les officiers de police. En juillet dernier, un rapport indépendant a révélé au média britannique Sky News qu’environ 81 % des suspects signalés par la technologie de reconnaissance faciale de la police du Grand Londres seraient en effet innocents.
En Chine, la reconnaissance faciale est utilisée pour chasser les voleurs de papier toilette, ou surveiller les étudiants dilettantes. La reconnaissance faciale est aussi utilisée dans la police pour renforcer l’arsenal de surveillance existante. Elle a permis à la police chinoise d’arrêter un fugitif recherché pour des crimes dans le sud-est du pays, en 2018, après l'avoir repéré dans une foule de cinquante à soixante mille (60 000) personnes assistant à un concert de musique pop. Mais le système de surveillance routière d’IA a aussi classé un célèbre CEO comme un piéton qui a grillé le feu rouge dans la province de Zhejiang.
Interdire la reconnaissance faciale de sécurité et de surveillance maintenant et à l'avenir
Selon la lettre de LQDN, aucun argument ne peut justifier le déploiement de la technologie de reconnaissance faciale. Selon l’association, au-delà de son utilisation pour se connecter en ligne ou déverrouiller son téléphone – plutôt que d’utiliser un mot de passe –, les seules autres utilisations efficaces consistent à remettre la technologie entre les mains de l'État pour exercer un pouvoir de contrôle total sur sa population, avec des risques d’être tenté d'en abuser contre ses opposants politiques et certaines populations.
« C'est pourquoi nous vous demandons d'interdire toute utilisation de la reconnaissance faciale à des fins de sécurité et de surveillance. De telles interdictions ont déjà été décidées dans plusieurs villes des États-Unis. La France et l'Union européenne doivent aller plus loin et, dans le respect du règlement général sur la protection des données, construire un modèle européen respectueux des libertés de ses citoyens. Il faudra également renforcer les exigences en matière de protection des données personnelles et limiter les autres usages de la reconnaissance faciale. Que ce soit à des fins d'authentification ou d'identification privées, ces systèmes n'offrent pas, dans l'ensemble, une protection suffisante de la vie privée, et ils préparent et normalisent une société de surveillance de masse », ont dit les cosignataires de la lettre ouverte.
En Chine, la police chinoise utilise désormais une caméra basée sur l'IA et des analyses raciales pour suivre les Ouïghours, une minorité ethnique vivant à Xinjiang, et les distinguer de la majorité Han, selon un récent rapport d’IPVM, une autorité mondiale en matière de vidéosurveillance. La caméra utilisée par la police est « Capable d'analyser le sexe, l'origine ethnique et la couleur de la peau de la cible, si la personne porte des lunettes, des masques, des casquettes ou une barbe, avec un taux de précision non inférieur à 90% », a dit Hikvision qui commercialise la camera.
La quadrature du Net et les autres organisations sont lancées dans une lutte contre l’utilisation des systèmes de reconnaissance faciale dans la sécurité et la surveillance, tout comme d’autres organisations dans plusieurs autres pays. Mais avec l’évolution de cette technologie, qui se retrouve entre les mains des gouvernements et les sociétés privées, on est tenté de se demander si le respect de la vie privée est encore possible.
Source : LQDN
Et vous ?
Lire aussi
-
TagashyMembre confirméQue pensez-vous de la réponse de Math71?
Que cette personne est totalement à côté de la plaque.
98% de taux d'erreur ca ne passe pas en prod ...
"Oui on perd de la liberté avec ce système, mais il y a tellement de dérive dans ce monde de m**** qu'il faut bien faire quelque chose.
Combien de crime sont classé sans suite car on arrive pas a trouver le coupable ?"
Combien d'innocents seront mis en prison à cause de faux positifs en laissant les vrai coupable impunis ...
"Je rappelle aussi qu'avec nos téléphones on sait déja ou nous nous trouvons.... "
Eum c'est faux tu sais ou est le téléphone pas qui le porte ...le 20/12/2019 à 13:23 -
SofEvansMembre émérite@Math71
Tu peux me donner ton vrai nom, prénom et ton adresse précise s'il te plaît ?le 20/12/2019 à 14:20 -
kirby_blueMembre régulierDes éléments de réponse à votre question ici :
https://fr.wikipedia.org/wiki/Rien_%...her_(argument)
Et là :
https://jenairienacacher.fr/le 20/12/2019 à 13:27 -
L33tigeMembre expérimentéle 20/12/2019 à 14:14
-
Ryu2000Membre extrêmement actifPar principe il faut toujours être fortement opposé dès le début, parce que si on accepte un petit truc, progressivement ils vont nous enfiler toujours un peu plus et à la fin on se retrouvera avec un sapin gonflable géant dans le rectum.
Le pouvoir n'est pas dans les mains de "bonnes personnes" et ça ne risque pas de s'arranger. (vous trouvez que Sarkozy/Hollande/Macron sont sympa et respectent le peuple ?)
Les crises économiques ont tendance à motiver les citoyens à voter pour des candidats extrême (dans les années 1920 il y a eu une hyperinflation en Allemagne, en 1933 Hitler était élu, déjà à l'époque il était flippant le type (à situation désespérée, mesure désespérée)).
Imaginez l'Allemagne de l'Est mais avec des algorithmes, c'est ça le futur !
le 20/12/2019 à 14:43 -
virginiehMembre expérimentéCa peut le devenir, si la personne observée n'a rien à se reprocher, peut tu en dire autant de ceux qui pourraient l'observer, les appareils connectés se font fréquemment pirater.
Est ce que tu as vraiment envie qu'une personne inconnue puisse facilement savoir tes habitudes, ou tes enfants vont à l'école à quelle heure ils rentrent ?
Combien de criminels pourrait être arrêter plus rapidement, sans parler de possible crime évité !
Oui on perd de la liberté avec ce système, mais il y a tellement de dérive dans ce monde de m**** qu'il faut bien faire quelque chose.
Combien de crime sont classé sans suite car on arrive pas a trouver le coupable ? Est-ce que ce système aura un taux de réussite de 100% ? Non car tout en informatique.
C'est dingue comme les gens sont contents d'avoir une protection qui n'est que de la poudre aux yeux.
Prenons l'exemple des "gilets jaunes", combien de "gilets jaune", black blocks (je crois que c'est ça le nom) ou de policier serait jugé ????
Ce seront les mêmes ou leurs chefs qui vont t'expliquer que toi tu dois être filmé dès que tu mets ton nez dehors; Ca ne te semble pas étrange ?
Je rappelle aussi qu'avec nos téléphones on sait déja ou nous nous trouvons....le 20/12/2019 à 14:14 -
Jon ShannowMembre extrêmement actifPour les "Math71" du forum...« Un peuple prêt à sacrifier un peu de liberté pour un peu de sécurité ne mérite ni l’une ni l’autre, et finit par perdre les deux. »
Benjamin Franklin, 1785–1788.l'asservirla servir... La reconnaissance faciale est peut-être l'ultime outil anti-peuple, et elle devient opérationnelle.le 20/12/2019 à 14:29 -
L33tigeMembre expérimentéBah à ce compte là je peux aussi dire que les dégradations sur l'arc de triomphe ont pas changées ma vie, je ne fais que suivre ta logique...le 20/12/2019 à 14:32
-
Jon ShannowMembre extrêmement actifPeut-être, et même surement, qu'ils ont ralés sur les pertes de liberté successives, mais le sujet est "la reconnaissance faciale". Et, de toutes façon, même s'ils ont alerté dans un canard lu par 2 péquins, sans faire une vraie grosse campagne d'alerte dans les médias mainstream, alors l'impact est nul. Tout comme l'impact de cette lettre sera nul. Nous sommes dans une guerre de la communication, et dans cette guerre, la Quadrature du Net et consorts sont très largement perdants et nous aussi, par la même occasion. Mais, la réalité, c'est que la majorité des gens croient ce qu'ils voient au JT de TF1/BFM/FT, ... Et qu'ils n'ont aucune connaissance, et peut-être même pas l'envie, pour remettre en cause le système.
Ici, dans ma boite, je passe pour un révolutionnaire (dangereux) quand j'explique le problème des violences policières. On me répond, "Si c'était le cas, ils en parlerait à TF1 !", et si tu leur dit que les journalistes de TF1, BFM,... sont à la solde du pouvoir, on te rit au nez, et on te traite de complotiste (c'est tellement facile).
Il n'y a pas plus aveugles que ceux qui ne veulent pas voir. Comme dit le dicton. Et, c'est exactement ce qui se passe dans notre société. On ne voit que ce qu'on nous montre, et on s'en contente (après tout, la soupe est chaude, et on est moins malheureux que - mettre ici le nom d'une population en crise -, donc tout va bien !)le 20/12/2019 à 14:59 -
Cpt AndersonMembre émériteIl est bien trop tard, malheureusement. La R&D a travaillé sur le sujet, c'est pas pour tout mettre à la poubelle maintenant !le 20/12/2019 à 14:13