Une erreur de reconnaissance faciale conduit une femme à être accusée de vol, après que son profil ait été ajouté par erreur à la liste de surveillance de la société Facewatch

Une erreur de reconnaissance faciale conduit une femme à être accusée de vol, après que son profil ait été ajouté par erreur à la liste de surveillance de la société Facewatch.

Une erreur de reconnaissance faciale conduit une femme à être accusée de vol. Son profil a été ajouté par erreur à la liste de surveillance de la sécurité commerciale par reconnaissance faciale de la société Facewatch afin de prévenir le vol à l'étalage. La société a déclaré qu'un examen de l'incident avait ensuite montré que les articles avaient été payés.

En 2023, la police de Louisiane se serait appuyée sur une fausse correspondance de reconnaissance faciale pour obtenir des mandats d'arrêt contre un homme noir pour des vols qu'il n'a pas commis. Randal Reid, 28 ans, était resté en prison pendant près d'une semaine après que la fausse correspondance ait conduit à son arrestation, pourtant Reid a déclaré qu'il n'avait jamais été en Louisiane.

Récemment, une situation similaire s'est produite en Angleterre. Danielle Horan a été accusée à tort d'avoir volé du papier toilette en raison d'une apparente confusion avec un système de reconnaissance faciale. La femme était "furieuse" après avoir été expulsée de deux magasins Home Bargains. Elle a été escortée hors des magasins de la région du Grand Manchester en mai et juin sans aucune explication.

Elle a découvert par la suite qu'elle avait été accusée à tort d'avoir volé des articles d'une valeur d'environ 12 euros après que son profil ait été ajouté à une liste de surveillance par reconnaissance faciale visant à prévenir le vol à l'étalage. La société de sécurité Facewatch, qui fournit la technologie, a déclaré : "Nous reconnaissons et comprenons à quel point cette expérience a dû être pénible et le détaillant a depuis entrepris une formation supplémentaire de son personnel." La société a déclaré qu'un examen de l'incident avait ensuite montré que les articles avaient été payés.


Horan, qui dirige une entreprise de maquillage, a déclaré qu'elle avait d'abord "pensé qu'il s'agissait d'une blague" lorsque le directeur du magasin Home Bargains de Regent Road, à Salford, lui a demandé de quitter le magasin le 24 mai. Elle a déclaré : "Tout le monde me regardait. Tous les clients à la caisse et je me suis dit « pourquoi ? »".

Après ses protestations, le gérant lui a conseillé de contacter directement Facewatch, mais Horan a déclaré qu'elle n'avait reçu aucune réponse à ses messages adressés à l'entreprise ou à Home Bargains. Elle s'est ensuite rendue dans un autre magasin Home Bargains à Fallowfield, Manchester, avec sa mère âgée de 81 ans, le 4 juin.

"Dès que j'ai franchi le seuil de la porte, ils se sont mis à communiquer par radio et m'ont tous encerclée en me disant : « Vous devez quitter le magasin »", a-t-elle déclaré. "Mon cœur s'est serré et j'étais anxieuse et inquiète pour ma mère, car elle était stressée. Mais j'étais prête à affronter la situation en raison de ce qui s'était passé la fois précédente. J'ai simplement défendu mon point de vue et j'ai dit : « Vous devez me dire pourquoi »".

Selon la BBC, l'entreprise Facewatch a déclaré à Horan qu'elle "s'appuie sur les informations fournies par les magasins" et que les succursales Home Bargains concernées avaient depuis été "suspendues de l'utilisation du système Facewatch."


Malgré les incidents similaires, la reconnaissance faciale est une technologie de plus en plus adoptée. En 2022, un rapport a révélé que les législateurs européens préparaient un énorme système international de reconnaissance faciale. Pour rappel, au cours des 15 dernières années, les forces de police à la recherche de criminels en Europe ont pu partager entre elles des empreintes digitales, des données ADN et des informations sur les propriétaires de véhicules. Selon la proposition de loi, des millions de photos de visages seraient incluses dans ce système pour permettre l'utilisation de la reconnaissance faciale à une échelle sans précédent.

Fait intéressant, selon une étude, des motifs de maquillage générés par un logiciel peuvent être utilisés pour contourner systématiquement les logiciels de reconnaissance faciale de pointe, le maquillage appliqué numériquement et physiquement trompant certains systèmes avec un taux de réussite de 98 %. Les chercheurs ne sont pas les premiers à démontrer comment le maquillage peut être utilisé pour tromper les systèmes de reconnaissance faciale, mais cela confirme les failles des systèmes de reconnaissance faciale.

Source : BBC

Et vous ?

Pensez-vous que la raison de l'erreur est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Arrêtés par l'IA : quand la police ignore les normes après les correspondances de reconnaissance faciale par l'IA. Toutes les personnes arrêtées à tort subissent d'énormes préjudices

L'utilisation de la technologie de reconnaissance faciale ne répond pas aux normes éthiques et légales : Trois cas d'utilisation ont montré une violation flagrante des droits de l'homme

L'utilisation de la reconnaissance faciale par la police viole les droits de l'homme, selon un tribunal britannique. Cependant, la Cour n'a pas complètement interdit l'utilisation de la technologie