Une nouvelle étude publiée le 11 janvier dans Scientific Reports du groupe Nature affirme qu'un algorithme open source de reconnaissance faciale peut exposer, avec une précision de 72 %, l'orientation politique d'une personne (par exemple, libérale ou conservatrice) à partir d'une seule image de profil dans les médias sociaux, tels que Facebook. L'auteur de l'étude, Michal Kosinski, affirme que cela pose des risques considérables pour la vie privée et les libertés civiles, mais dit que cela n’est pas spécifique à son algorithme, même si d’autres entreprises sont réticentes à révéler la précision de leurs modèles.Michal Kosinski, professeur associé à la Graduate School of Business de l'Université de Stanford, a publié de nombreux ouvrages sur les implications sociales de la technologie de reconnaissance faciale. Certaines de ses études antérieures sur le profilage algorithmique ont suscité une grande controverse, par exemple son article de 2018 sur l'utilisation de l'IA pour détecter l'orientation sexuelle. Selon son récent rapport, un algorithme montre une plus grande précision dans la déduction de l'orientation politique d'une personne que le jugement humain ou un test de personnalité.
Selon le rapport, l'étude de Kosinski a appliqué un algorithme de reconnaissance faciale à 1 085 795 visages obtenus à partir de profils de médias sociaux en ligne. Sur cet ensemble de données, 977 777 provenaient d'utilisateurs de sites de rencontres aux États-Unis, au Royaume-Uni et au Canada qui avaient déclaré eux-mêmes leur orientation politique. Les 108 018 autres visages proviennent d'utilisateurs de Facebook aux États-Unis qui ont également déclaré leur orientation politique et ont en outre rempli un test de personnalité en 100 points.
L'algorithme a comparé les traits du visage de chaque participant aux traits du visage moyen des libéraux et des conservateurs. La technologie a utilisé ces mesures de similarité pour déterminer la probabilité qu'un participant soit un conservateur ou un libéral.
Les résultats ont montré que l'algorithme était capable de prédire l'orientation politique de manière alarmante et avec une précision similaire dans tous les pays et sur toutes les plateformes de médias sociaux, d’après le rapport. Parmi les utilisateurs américains de Facebook, cette précision a atteint 73 %. Parmi les utilisateurs américains de sites de rencontres, la précision était de 72 %. Parmi les utilisateurs de sites de rencontres au Royaume-Uni et au Canada, la précision a atteint 70 % et 71 %, respectivement.
Kosinski note que l'algorithme a été nettement plus performant que les humains, qui ne sont capables de distinguer entre un libéral et un conservateur qu'avec une précision de 55 %, soit un peu plus que le hasard. « Les algorithmes excellent dans la reconnaissance de modèles dans d'énormes ensembles de données qu'aucun humain ne pourrait jamais traiter », a écrit Kosinski. De plus, les algorithmes « nous surpassent de plus en plus dans les tâches visuelles allant du diagnostic du cancer de la peau à la reconnaissance faciale en passant par le jugement des attributs intimes basé sur le visage ».
L'orientation politique est liée à certains traits démographiques qui peuvent être facilement observés sur le visage. Par exemple, aux États-Unis, les conservateurs sont plus susceptibles d'être blancs, âgés et de sexe masculin, a écrit Kosinski. Pour déterminer si ces traits démographiques sont à l'origine de la précision de l'algorithme, le chercheur a recalculé l'analyse en comparant uniquement des paires de visages ayant le même sexe, le même âge et la même origine ethnique. La précision n'a baissé que d'environ 3,5 %, ce qui suggère que de nombreuses caractéristiques faciales autres que les traits démographiques fournissent des indices sur l'orientation politique.
En outre, l’algorithme de reconnaissance faciale de Kosinski a mieux prédit l'orientation politique que les tests de personnalité effectués par les utilisateurs de Facebook. « Combinés, cinq facteurs de personnalité ont prédit l'orientation politique avec une précision de 66 %, ce qui est nettement inférieur à ce qui a été obtenu par le classificateur basé sur le visage dans le même échantillon (73 %) », a rapporté Kosinski. « En d'autres termes, une seule image faciale en dit plus sur l'orientation politique d'une personne que ses réponses à un questionnaire de personnalité assez long, comprenant de nombreux éléments ostensiblement liés à l'orientation politique (par exemple, "Je traite tout le monde de la même manière" ou "Je pense que trop d'argent des impôts va au soutien des artistes"
».Préoccupations en matière de protection de la vie privée
Le chercheur a également cherché à savoir si certains traits du visage étaient liés à l'orientation politique, notamment l'expression du visage, les lunettes, la pilosité faciale et l’orientation de la tête. Kosinski a découvert que l'orientation de la tête avait un pouvoir prédictif de 58 %, les libéraux étant plus susceptibles de faire face directement à la caméra. L'expression émotionnelle avait un pouvoir prédictif de 57 %, les libéraux étant plus susceptibles de montrer de la surprise et moins susceptibles de montrer du dégoût, d’après l’étude.
La plupart des objections les plus passionnées à l'égard des travaux de Kosinski proviennent de membres de groupes sociaux qui craignent (à juste titre) que la technologie de reconnaissance faciale ne fasse que renforcer et légitimer les préjugés sexistes, sexuels et ethniques qui sont endémiques dans nos sociétés. Le chercheur a mis à disposition le code source et l'ensemble des données du projet, mais pas les images réelles, en invoquant les implications en matière de vie privée.
Des critiques, comme le professeur Alexander Todorov de Princeton, craignent que, comme nous le voyons dans l'exploitation impitoyable de cette technologie par certains pays comme la Chine, elle puisse conduire à la discrimination, à l'exclusion et peut-être même au génocide. L'argument est qu'en publiant des recherches qui semblent donner du crédit aux revendications de l'industrie technologique en matière de reconnaissance faciale, Kosinski la rend effectivement respectable dans les milieux corporatifs et autoritaires.
Toutefois, bien que certains aient exprimé des préoccupations en matière de protection de la vie privée concernant ces nouvelles capacités de surveillance, l'auteur de la nouvelle étude affirme que ces préoccupations ne représentent que la partie émergée de l'iceberg. « Depuis plus d'une décennie maintenant, j'étudie les risques pour la vie privée liés aux algorithmes et aux données volumineuses », a déclaré le chercheur Kosinski.
« Les entreprises collectent des données et développent des algorithmes visant à extraire des informations de ces données, mais elles sont réticentes à révéler la précision de ces modèles. En 2012, par exemple, Facebook a breveté un algorithme visant à extraire les traits psychologiques de "Facebook Likes". J'ai examiné leur approche et démontré qu'elle pouvait exposer avec précision des traits allant de l'orientation sexuelle à la personnalité ».
« Plus récemment, j'ai porté mon attention sur les algorithmes de reconnaissance faciale développés par des entreprises et des informaticiens. Mon étude la plus récente confirme leurs affirmations : malheureusement, il est possible de prédire avec précision l'orientation politique à partir des images faciales », a expliqué Kosinski.
Todorov met en doute les résultats des travaux de Kosinski, affirmant également que des méthodes utilisées dans l’étude sur la reconnaissance faciale, dont parle le rapport, sont techniquement défectueuses. Selon lui, les motifs relevés par un algorithme comparant des millions de photos pourraient n'avoir que peu de rapport avec les caractéristiques faciales. Par exemple, les photos autopubliées sur les sites de rencontres donnent un certain nombre d'indices non faciaux.
De plus, les recherches actuelles en psychologie montrent qu'à l'âge adulte, la personnalité est surtout influencée par l'environnement. « Bien qu'il soit potentiellement possible de prédire la personnalité à partir d'une photo, c'est au mieux légèrement mieux que le hasard dans le cas des humains », a déclaré lors d'une récente interview Daniel Preotiuc-Pietro, un chercheur postdoctoral de l'Université de Pennsylvanie qui a travaillé sur la prédiction de la personnalité à partir d'images de profil.
Source : Rapport d’étude
Et vous ?
Que pensez-vous de cette étude ? Pertinente ou pas ? Quel commentaire faites-vous de la précision (72 %) avec laquelle l’algorithme de reconnaissance faciale prédit l’orientation politique d'une personne ? Quel est votre avis sur la mise à disposition du code source de cet outil ? Y a-t-il des conséquences ?Voir aussi :
Le port d'un masque n'empêchera plus la reconnaissance faciale, le coronavirus ayant incité les sociétés à développer des solutions pour les personnes dont le visage est partiellement couvert L'utilisation de la reconnaissance faciale par la police viole les droits de l'homme, selon un tribunal britannique, cependant, la Cour n'a pas complètement interdit l'utilisation de la technologie Le taux d'erreurs des algorithmes de reconnaissance faciale conçus pour détecter le contour des masques faciaux a augmenté, selon une étude de l'Institut US des normes et de la technologie Facebook veut utiliser la reconnaissance faciale pour vous prévenir, lorsque quelqu'un publie une photo de vous sur sa plateforme 
Envoyé par chrtophe
