IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Un homme noir emprisonné à tort pendant une semaine à la suite d'une erreur de reconnaissance faciale
Selon un rapport

Le , par Bruno

16PARTAGES

21  0 
La police de Louisiane se serait appuyée sur une fausse correspondance de reconnaissance faciale pour obtenir des mandats d'arrêt contre un homme noir pour des vols qu'il n'a pas commis. Randal Reid, 28 ans, est resté en prison pendant près d'une semaine après que la fausse correspondance ait conduit à son arrestation, selon un rapport publié lundi sur NOLA.com, le site web du journal Times-Picayune/New Orleans Advocate. Reid a déclaré au journal qu'il n'avait jamais été en Louisiane.

La police de Louisiane se serait appuyée sur une fausse correspondance de reconnaissance faciale pour obtenir des mandats d'arrêt contre un homme noir pour des vols qu'il n'a pas commis. Randal Reid, 28 ans, est resté en prison pendant près d'une semaine après que la fausse correspondance ait conduit à son arrestation, selon un rapport publié lundi sur "NOLA.com". Reid a déclaré au journal qu'il n'avait jamais été en Louisiane.


La police locale a arrêté Reid le 25 novembre alors qu'il conduisait sur l'Interstate 20 dans le comté de DeKalb, en Géorgie, pour se rendre à une fête de Thanksgiving tardive avec sa mère, a-t-il déclaré.« Ils m'ont dit que j'avais un mandat d'arrêt de la paroisse de Jefferson. J'ai dit, 'Qu'est-ce que c'est Jefferson Parish?' », a déclaré Reid. « Je ne suis jamais allé en Louisiane de ma vie. Puis ils m'ont dit que c'était pour vol. Donc non seulement je ne suis pas allé en Louisiane, mais en plus je ne vole pas. »

Reid a été placé dans la prison du comté de DeKalb en tant que fugitif, mais a été libéré le 1er décembre, selon un responsable de la prison. L'avocat de Reid, Tommy Calogero, a déclaré que les détectives du bureau du shérif de Jefferson Parish avaient « tacitement » admis leur erreur et annulé le mandat, selon le rapport. « Je pense qu'ils ont réalisé qu'ils avaient pris des risques en procédant à une arrestation sur la base d'un visage », a déclaré Calogero. « La police aurait pu vérifier sa taille et son poids ».

Décrivant son séjour en prison, Reid a déclaré qu'il « ne mangeait pas, ne dormait pas. Je pense à ces accusations. Je ne fais rien parce que je ne sais pas ce qui se passe vraiment pendant tout ce temps. Ils n'ont même pas essayé de faire la bonne identification. »

L'affaire aurait commencé par un vol, le 20 juin 2022, de sacs à main Chanel et Louis Vuitton d'une valeur de plus de 10 000 dollars à Metairie, en Louisiane. Calogero a déclaré qu'il n'aurait pas été difficile de déterminer que Reid n'était pas le coupable, qui aurait été « filmé en juin en train de saisir les numéros d'une carte de crédit volée à la caisse » du magasin.

Un grain de beauté sur le visage de Reid a été l'une des différences qui ont finalement obligé la police à le relâcher, a déclaré Calogero. Calogero a également « estimé qu'il y avait une différence de 40 livres entre Reid et le voleur de sac à main qu'il a vu sur les images de surveillance », selon le rapport Times-Picayune/New Orleans Advocate. Le coupable, contrairement à Reid, avait des « bras flasques ». «La police aurait pu vérifier sa taille et son poids ou faire un effort pour lui parler ou demander à marcher dans sa maison pour chercher des preuves. Il aurait obtempéré », a déclaré Calogero au journal.

Ce n'est pas la première fois qu’un tiers se fasse arrêter pour un crime qu’il n’a pas commis à l'aide de la technologie de reconnaissance faciale. Robert Julian-Borchak Williams, un Afro-Américain, se retrouve à gérer des démêlés avec la justice parce qu’un algorithme de reconnaissance faciale a, par « erreur », fait correspondre sa photo avec une vidéo d’une caméra de sécurité. La police a laissé filtrer que « l’ordinateur a dû se tromper. » Pourtant, le présumé voleur sort d’une audience de mise en accusation qui pourrait donner suite à d’autres. L’Union américaine pour les libertés civiles (ACLU) est sur le dossier et demande un arrêt total des poursuites judiciaires.

La technologie de reconnaissance faciale, lorsqu’on lui concède de pouvoir donner de bons résultats, est déjà problématique en ceci qu’elle peut être vue comme une intrusion à la vie privée. Dans la pratique, elle est surtout connue pour l’une des plus grosses tares qu’elle continue d’exhiber : les nombreux faux positifs. Des études tour à tour mises en ligne par l’ACLU et l’institut américain des normes et de la technologie (NIST) mettent en exergue le fait que les systèmes de reconnaissance faciale sont nettement plus susceptibles de générer des erreurs lorsqu'ils tentent de faire correspondre des images représentant des personnes dites de couleur.

Dans les chiffres, ceux-ci sont plus précis pour ce qui est des opérations d’identification d’individus blancs, mais sont 10 à 100 fois plus susceptibles de générer des faux positifs pour ce qui est des visages de Noirs et d’Asiatiques. Le NIST a également mis en avant le fait que les systèmes développés aux États-Unis sont très peu performants face aux visages des Amérindiens. C’est en tout cas ce qui ressort de l’étude de l’institut américain des normes et de la technologie qui a porté sur les performances de 189 algorithmes mis sur pied par 99 développeurs. L’évaluation des logiciels s’est faite sur plus de 18 millions d’images appartenant à plus de 8 millions d’individus.

En raison de préoccupations liées aux droits de l'homme, des chercheurs de l'université de Cambridge ont empêché la police d'utiliser la reconnaissance faciale pour des mesures de sécurité. Des chercheurs de l'université de Cambridge ont déclaré que la méthode de reconnaissance faciale ne répond pas aux normes éthiques et juridiques et que c'est pourquoi elle devrait être interdite dans les espaces publics.

Les chercheurs du Minderoo Center for Technology and Democracy ont analysé trois cas d'utilisation de la technologie de reconnaissance faciale (FRT) par des officiers de police et tous ces cas violaient les droits de l'homme.

Ces chercheurs ont ensuite inclus les lois britanniques sur la protection des données et l'égalité pour créer un audit permettant de vérifier les actes de FRT par rapport aux directives légales. Ils ont ensuite appliqué ces directives et ces normes aux FRT utilisés par la police britannique locale. Dans deux cas, il a été constaté que ce FRT était utilisé pour scanner des foules et comparer les visages à des criminels reconnus et permettre à d'autres d'être sur la "liste de surveillance". Même si les FRT étaient utilisés pour reconnaître et comparer les criminels, il y avait un manque de transparence, de responsabilité et de contrôle. La recherche a révélé que certaines informations importantes provenant de ces FRT étaient également cachées à la police. Il est donc difficile d'évaluer les problèmes liés à la technologie de reconnaissance faciale.

L'auteur principal de cette recherche a déclaré que la police n'est pas celle qui doit être déclarée responsable et tenue pour responsable des dommages causés par la technologie de reconnaissance faciale. Il n'y a pas eu de mauvaise utilisation de la technologie par la police et peu ou pas de preuves des communautés qui ont été affectées par cette technologie. Elle a également déclaré que "nous nous efforçons de rendre ces technologies éthiques et sûres pour les gens. Nous essayons toujours de trouver des preuves solides auprès des personnes et des communautés qui ont été lésées par le déploiement de la technologie de reconnaissance faciale par la police."

On ne sait pas exactement quelle reconnaissance faciale a été utilisée dans cette affaire. Dans des cas précédents, le bureau du shérif de la paroisse de Jefferson Joe Lopinto a demandé des analyses de reconnaissance faciale par l'intermédiaire du Louisiana State Analytic and Fusion Exchange de Baton Rouge, qui utilise les systèmes Clearview AI et MorphoTrak, indique le rapport.

Le logiciel Clearview compare les visages à des photos sur les médias sociaux et à de nombreuses autres sources. « Notre plateforme, alimentée par la technologie de reconnaissance faciale, comprend la plus grande base de données connue de plus de 30 milliards d'images faciales provenant de sources Web publiques, notamment les médias d'information, les sites Web de photos d'identité, les médias sociaux publics et d'autres sources ouvertes », a déclaré la société.

Le rapport du Times-Picayune/New Orleans Advocate indique que la mauvaise correspondance de la reconnaissance faciale a conduit à deux mandats d'arrêt pour Reid. Le premier a été obtenu par le bureau du shérif de Jefferson Parish, et le second concernait un crime distinct sur lequel la police de Baton Rouge enquête.

Un inspecteur de la police de Baton Rouge a ensuite adopté l'identification de Reid par le JPSO pour obtenir un mandat d'arrêt selon lequel il faisait partie des trois hommes impliqués dans un autre vol de sac à main de luxe commis la même semaine dans un magasin de l'autoroute Jefferson, comme le montrent les dossiers judiciaires, indique le Times-Picayune/New Orleans Advocate.

Le rapport indique que le bureau de Lopinto n'a pas répondu aux demandes d'information et « a refusé une demande officielle concernant le mandat d'arrêt du 18 juillet pour Reid et des copies de politiques ou d'achats liés à la reconnaissance faciale, citant une enquête en cours ». Le mandat distinct obtenu par la police de Baton Rouge « ne dit pas comment le bureau de Lopinto a identifié Reid », précise le rapport.

Les préoccupations relatives à la vie privée et les preuves de partialité des systèmes de reconnaissance faciale ont alimenté un mouvement visant à interdire l'utilisation de cette technologie par le gouvernement. « Les logiciels de reconnaissance faciale sont particulièrement mauvais lorsqu'il s'agit de reconnaître les Afro-Américains et d'autres minorités ethniques, les femmes et les jeunes. Ils les identifient souvent mal ou ne les identifient pas, ce qui a un impact disparate sur certains groupes », explique l'Electronic Frontier Foundation.

Source : Nola

Et vous ?

Quel est votre avis sur le sujet ?

Êtes-vous pour ou contre la technologie de reconnaissance faciale ?

Voir aussi :

Clearview AI, utilisé par la police pour trouver des criminels, est désormais entre les mains des avocats commis d'office, mais le logiciel de reconnaissance faciale fait l'objet de controverses

L'utilisation de la technologie de reconnaissance faciale ne répond pas aux normes éthiques et légales, trois cas d'utilisation ont montré une violation flagrante des droits de l'homme

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de xavier-Pierre
Membre éclairé https://www.developpez.com
Le 06/01/2023 à 8:34
cauchemardesque...
11  0 
Avatar de totozor
Membre chevronné https://www.developpez.com
Le 06/01/2023 à 7:42
Citation Envoyé par Bruno Voir le message
Quel est votre avis sur le sujet ?
Êtes-vous pour ou contre la technologie de reconnaissance faciale ?
On lit ce genre de news régulièrement donc je ne suis pas surpris.
Le problème est multiple:
1. Avant tout, l'humain perd une grosse partie de son sens critique quand l'information vient d'une machine. Ce qui est un problème dans ces cas, les hommes n'avaient même pas le même gabarit.
2. Les données de base des logiciel de reconnaissance faciale contiendraient essentiellement des personnes blanches (en tout cas c'est ce que j'entends à chaque formation qui me parle de reconnaissance faciale) ce qui expliquerait la différence de performance entre les personnes blanches et de couleur.
3. Le matériel d'acquisition est calibré pour des blancs (ce qui n'est pas étonnant dans une société majoritairement blanche) rendant les traits des noirs parfois moins visibles.

Mais le problème premier, je le rappelle, est que ces policiers ses sont basés sur un résultat sans évaluer sa pertinence.
10  0 
Avatar de marsupial
Expert éminent https://www.developpez.com
Le 06/01/2023 à 10:38
Non seulement, la reconnaissance faciale fait des erreurs grossières donnant lieu à des histoires kafkaïennes, mais en plus cela sert de prétexte à toutes sortes de fichage dans d'immenses bases de données d'Etat, et donc à un traçage digne de la Stasi. Il serait temps d'abandonner cette technologie qui n'est pas au point et ne le sera jamais.
10  0 
Avatar de Mingolito
Membre extrêmement actif https://www.developpez.com
Le 07/01/2023 à 16:16
Non, c'est scientifique.

D'après une étude d'Harvard, les logiciels de reconnaissances faciales ont plus ou moins de mal à fonctionner suivant la couleur : Racial Discrimination in Face Recognition Technology .



Du coup c'est normal de mentionner la couleur, puisque scientifiquement c'est bien les noirs qui sont le plus souvent victimes non seulement du logiciel de reconnaissance qui marche pas, mais surtout après c'est bien des flics américains qui laissent moisir un innocent en prison sans rien vérifier. Donc double connerie. Cet innocent n'aurait pas eu à moisir en prison si le logiciel fonctionnait bien, et si les flics avait immédiatement vérifié que le logiciel ne leur a pas fait un faux signalement. Quand une équipe de police américaine a dans ses rangs des hommes, des femmes, des noirs, et latinos, des asiatiques, etc en sus des hommes blancs, c'est bien. Quand une équipe de police américaine et constituée uniquement d'hommes blancs racistes dont certains sont même carrément membres du Ku Klux Klan, cela donne bien lieu à ce genre d'injustice inadmissible. Donc ici le problème c'est que le logiciel de reconnaissance faciale qui déconne est un nouveau prétexte pour alimenter la connerie policière.
6  1 
Avatar de Ehnix
Membre du Club https://www.developpez.com
Le 07/01/2023 à 11:04
nicopulse:
Des hommes BLANCS sont aussi embarqués et embastillés par erreur à cause de ce système, et même sans.

Merci de cesser ce racialisme / racisme.
Qui est en train de faire du "racialisme / racisme" quand c'est juste citer des faits?
Donc toi, t'as des chiffres ou un pourcentage pour comparer? Voire une histoire semblable avec un homme de couleur "blanche"?
6  2 
Avatar de AlexRutny
Membre du Club https://www.developpez.com
Le 09/01/2023 à 15:26
J'aurais tendance à penser qu'un mauvais score de reconnaissance avantage plutôt les personnes concernées. En effet, un délinquant moins reconnu aura moins chance de se faire prendre par la patrouille. Dans le cas présent, il s'agit plus d'un problème d’incompétence (ou de malhonnêteté) des forces de polices américaines que d'un supposé racisme des algorithmes de reconnaissance faciale comme le titre de cette news le laisse à penser.

J'aurais été nettement plus circonspect si, au contraire, le score de reconnaissance de la population noire aurait été supérieure à la population blanche alors qu'il est notoirement connu qu'il est techniquement plus difficile d'établir un contraste nécessaire aux lignes de reconnaissance faciale sur une peau noire que sur une peau blanche (particulièrement dans un environnement peu éclairé). De plus il est fort probable que les bases de données nécessaires à l'auto apprentissage des algorithmes contiennent bien plus de personnes blanches que de personnes noires (et c'est aussi vrai pour les femmes). Ce qui n'est pas totalement étonnant dans un pays où la population noire ne représente qu'environ 1/6 de la population blanche.

On pourrait légitimement estimer qu'il y a un biais raciste si la population noire avait été prioritairement ciblée par la reconnaissance faciale. Mais, ce n'est pas le cas et c'est même le contraire.

Dans le cas présent, je ne vois donc aucune malhonnêteté technique et encore moins raciste.
1  1 
Avatar de nicopulse
Membre régulier https://www.developpez.com
Le 06/01/2023 à 11:04
Des hommes BLANCS sont aussi embarqués et embastillés par erreur à cause de ce système, et même sans.

Merci de cesser ce racialisme / racisme.
5  11 
Avatar de croupion69
Nouveau Candidat au Club https://www.developpez.com
Le 07/01/2023 à 14:06
Tout a fait raison Nicopulse, forcément comme c'est un homme de couleur noire on le précise pour montrer qu'ils sont tjrs victimes du grand méchant blanc!!

Et ci comme le mentionne Ehnix "c'est un fait", alors pourquoi ne pas mentionner la couleur de peau des personnes dans les autres articles....?

Oui y'en a marre de ce racialisme à tout va c'est clair, surtout à sens unique....
2  10