Un officier de police de l'Indiana a démissionné à la suite d'une controverse sur l'utilisation non autorisée de la technologie de reconnaissance faciale Clearview AI. L'agent a utilisé l'outil à mauvais escient pour effectuer de fréquentes recherches personnelles sur des utilisateurs de médias sociaux, contournant les protocoles officiels en déguisant les recherches sous des numéros de dossier légitimes.Clearview AI est une société américaine de reconnaissance faciale, qui fournit des logiciels aux forces de l'ordre et aux agences gouvernementales, ainsi qu'à d'autres organisations. L'algorithme de l'entreprise fait correspondre les visages à une base de données de plus de 20 milliards d'images collectées sur Internet, y compris les applications de médias sociaux. Fondée par Hoan Ton-That et Richard Schwartz, l'entreprise est restée discrète jusqu'à la fin de l'année 2019, jusqu'à ce que son utilisation par les forces de l'ordre soit signalée pour la première fois.
Un policier de l'Indiana a démissionné après qu'il a été révélé qu'il utilisait fréquemment la technologie de reconnaissance faciale Clearview AI pour traquer des utilisateurs de médias sociaux qui n'étaient liés à aucun crime.
Selon un communiqué de presse de la police d'Evansville, il s'agit d'une "mauvaise utilisation" manifeste de la technologie controversée de reconnaissance faciale de Clearview AI, que certaines villes américaines ont interdite parce qu'elles craignaient qu'elle ne donne aux forces de l'ordre un pouvoir illimité pour traquer les gens dans leur vie quotidienne.
Philip Smith, Chef de police du Département de police d'Evansville, s'est exprimé concernant cette affaire :
Récemment, mon équipe de commandement a eu connaissance d'une utilisation abusive d'une technologie d'application de la loi appelée Clearview AI par une personne qui était, à l'époque, membre de cette agence. Cette personne n'est plus affiliée au département de police d'Evansville de quelque manière que ce soit. Mais j'y reviendrai.
Le logiciel Clearview AI permet aux forces de l'ordre d'utiliser la reconnaissance faciale à des fins d'enquête. Cet outil s'est avéré très utile pour nos officiers en termes de développement d'informations de base pour les enquêtes. Pour garantir que le logiciel est utilisé aux fins prévues, nous avons mis en place des lignes directrices opérationnelles internes et nous adhérons aux conditions de service de Clearview AI. Ces deux documents indiquent clairement qu'il s'agit d'un outil à usage officiel et qu'il ne doit pas être utilisé à des fins personnelles.
Mais en mars, alors que nous étions en pourparlers avec Clearview AI pour renouveler notre abonnement - et que nous examinions le nombre de licences à renouveler - nous avons réalisé un audit sur l'utilisation de Clearview AI par nos agents. Nous avons alors constaté une anomalie, à savoir une utilisation très intensive du logiciel par un agent dont le rendement n'était pas représentatif du nombre de recherches qu'il effectuait. Un examen plus approfondi de l'empreinte numérique laissée a révélé que cet agent utilisait un numéro de dossier réel associé à un incident réel pour masquer ses recherches sur des personnes qui n'avaient rien à voir avec l'incident. Nous avons ensuite localisé les images recherchées par ce policier, et elles ne correspondaient pas aux types d'images recherchées dans le cadre d'enquêtes légitimes. Lors d'enquêtes légitimes, les types d'images sont généralement des images en temps réel ou des images de télévision en circuit fermé. Les recherches de ce policier consistaient principalement en des images de médias sociaux.
Dès que j'ai appris cela, j'ai immédiatement demandé à la chaîne de commandement de l'officier de l'interroger et de lui permettre d'expliquer cette anomalie. Ils n'ont pas été en mesure de le faire à ma satisfaction.
Compte tenu des informations dont je disposais à l'époque, j'ai placé l'agent en congé administratif rémunéré jusqu'à ce que la chaîne de commandement ait terminé son enquête.
Lorsque cette enquête a montré clairement que cet agent utilisait Clearview AI à des fins personnelles pour le service de police d'Evansville, je l'ai suspendu sans solde pendant 21 jours et j'ai recommandé verbalement à la Commission du mérite de la police de mettre fin à l'emploi de cet agent au sein du service de police d'Evansville. Ce policier n'a pas contesté la suspension de 21 jours que je lui ai imposée, et il a démissionné avant que la Commission des mérites de la police ne puisse prendre une décision finale sur la question.
Le logiciel Clearview AI permet aux forces de l'ordre d'utiliser la reconnaissance faciale à des fins d'enquête. Cet outil s'est avéré très utile pour nos officiers en termes de développement d'informations de base pour les enquêtes. Pour garantir que le logiciel est utilisé aux fins prévues, nous avons mis en place des lignes directrices opérationnelles internes et nous adhérons aux conditions de service de Clearview AI. Ces deux documents indiquent clairement qu'il s'agit d'un outil à usage officiel et qu'il ne doit pas être utilisé à des fins personnelles.
Mais en mars, alors que nous étions en pourparlers avec Clearview AI pour renouveler notre abonnement - et que nous examinions le nombre de licences à renouveler - nous avons réalisé un audit sur l'utilisation de Clearview AI par nos agents. Nous avons alors constaté une anomalie, à savoir une utilisation très intensive du logiciel par un agent dont le rendement n'était pas représentatif du nombre de recherches qu'il effectuait. Un examen plus approfondi de l'empreinte numérique laissée a révélé que cet agent utilisait un numéro de dossier réel associé à un incident réel pour masquer ses recherches sur des personnes qui n'avaient rien à voir avec l'incident. Nous avons ensuite localisé les images recherchées par ce policier, et elles ne correspondaient pas aux types d'images recherchées dans le cadre d'enquêtes légitimes. Lors d'enquêtes légitimes, les types d'images sont généralement des images en temps réel ou des images de télévision en circuit fermé. Les recherches de ce policier consistaient principalement en des images de médias sociaux.
Dès que j'ai appris cela, j'ai immédiatement demandé à la chaîne de commandement de l'officier de l'interroger et de lui permettre d'expliquer cette anomalie. Ils n'ont pas été en mesure de le faire à ma satisfaction.
Compte tenu des informations dont je disposais à l'époque, j'ai placé l'agent en congé administratif rémunéré jusqu'à ce que la chaîne de commandement ait terminé son enquête.
Lorsque cette enquête a montré clairement que cet agent utilisait Clearview AI à des fins personnelles pour le service de police d'Evansville, je l'ai suspendu sans solde pendant 21 jours et j'ai recommandé verbalement à la Commission du mérite de la police de mettre fin à l'emploi de cet agent au sein du service de police d'Evansville. Ce policier n'a pas contesté la suspension de 21 jours que je lui ai imposée, et il a démissionné avant que la Commission des mérites de la police ne puisse prendre une décision finale sur la question.
Et vous ?
Quel est votre avis sur le sujet ? Pensez-vous que l'utilisation des technologies de reconnaissance faciale par les forces de l'ordre pourront être suffisamment encadrées afin d'éviter de telles dérives ?Voir aussi :
Clearview AI, utilisé par la police pour trouver des criminels, est désormais entre les mains des avocats commis d'office, mais le logiciel de reconnaissance faciale fait l'objet de controverses Clearview AI voudrait mettre presque tous les humains dans sa base de données de reconnaissance faciale, 100 milliards de photos rendraient presque tout le monde « identifiable » selon l'entreprise