IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

La technologie de reconnaissance faciale peut-elle révéler une orientation politique ?
Elle peut prédire la tendance politique d'une personne avec une précision de 72 %, selon une étude de Stanford

Le , par Stan Adkens

62PARTAGES

6  0 
Une nouvelle étude publiée le 11 janvier dans Scientific Reports du groupe Nature affirme qu'un algorithme open source de reconnaissance faciale peut exposer, avec une précision de 72 %, l'orientation politique d'une personne (par exemple, libérale ou conservatrice) à partir d'une seule image de profil dans les médias sociaux, tels que Facebook. L'auteur de l'étude, Michal Kosinski, affirme que cela pose des risques considérables pour la vie privée et les libertés civiles, mais dit que cela n’est pas spécifique à son algorithme, même si d’autres entreprises sont réticentes à révéler la précision de leurs modèles.

Michal Kosinski, professeur associé à la Graduate School of Business de l'Université de Stanford, a publié de nombreux ouvrages sur les implications sociales de la technologie de reconnaissance faciale. Certaines de ses études antérieures sur le profilage algorithmique ont suscité une grande controverse, par exemple son article de 2018 sur l'utilisation de l'IA pour détecter l'orientation sexuelle. Selon son récent rapport, un algorithme montre une plus grande précision dans la déduction de l'orientation politique d'une personne que le jugement humain ou un test de personnalité.


Selon le rapport, l'étude de Kosinski a appliqué un algorithme de reconnaissance faciale à 1 085 795 visages obtenus à partir de profils de médias sociaux en ligne. Sur cet ensemble de données, 977 777 provenaient d'utilisateurs de sites de rencontres aux États-Unis, au Royaume-Uni et au Canada qui avaient déclaré eux-mêmes leur orientation politique. Les 108 018 autres visages proviennent d'utilisateurs de Facebook aux États-Unis qui ont également déclaré leur orientation politique et ont en outre rempli un test de personnalité en 100 points.

L'algorithme a comparé les traits du visage de chaque participant aux traits du visage moyen des libéraux et des conservateurs. La technologie a utilisé ces mesures de similarité pour déterminer la probabilité qu'un participant soit un conservateur ou un libéral.

Les résultats ont montré que l'algorithme était capable de prédire l'orientation politique de manière alarmante et avec une précision similaire dans tous les pays et sur toutes les plateformes de médias sociaux, d’après le rapport. Parmi les utilisateurs américains de Facebook, cette précision a atteint 73 %. Parmi les utilisateurs américains de sites de rencontres, la précision était de 72 %. Parmi les utilisateurs de sites de rencontres au Royaume-Uni et au Canada, la précision a atteint 70 % et 71 %, respectivement.


Kosinski note que l'algorithme a été nettement plus performant que les humains, qui ne sont capables de distinguer entre un libéral et un conservateur qu'avec une précision de 55 %, soit un peu plus que le hasard. « Les algorithmes excellent dans la reconnaissance de modèles dans d'énormes ensembles de données qu'aucun humain ne pourrait jamais traiter », a écrit Kosinski. De plus, les algorithmes « nous surpassent de plus en plus dans les tâches visuelles allant du diagnostic du cancer de la peau à la reconnaissance faciale en passant par le jugement des attributs intimes basé sur le visage ».

L'orientation politique est liée à certains traits démographiques qui peuvent être facilement observés sur le visage. Par exemple, aux États-Unis, les conservateurs sont plus susceptibles d'être blancs, âgés et de sexe masculin, a écrit Kosinski. Pour déterminer si ces traits démographiques sont à l'origine de la précision de l'algorithme, le chercheur a recalculé l'analyse en comparant uniquement des paires de visages ayant le même sexe, le même âge et la même origine ethnique. La précision n'a baissé que d'environ 3,5 %, ce qui suggère que de nombreuses caractéristiques faciales autres que les traits démographiques fournissent des indices sur l'orientation politique.

En outre, l’algorithme de reconnaissance faciale de Kosinski a mieux prédit l'orientation politique que les tests de personnalité effectués par les utilisateurs de Facebook. « Combinés, cinq facteurs de personnalité ont prédit l'orientation politique avec une précision de 66 %, ce qui est nettement inférieur à ce qui a été obtenu par le classificateur basé sur le visage dans le même échantillon (73 %) », a rapporté Kosinski. « En d'autres termes, une seule image faciale en dit plus sur l'orientation politique d'une personne que ses réponses à un questionnaire de personnalité assez long, comprenant de nombreux éléments ostensiblement liés à l'orientation politique (par exemple, "Je traite tout le monde de la même manière" ou "Je pense que trop d'argent des impôts va au soutien des artistes" ».

Préoccupations en matière de protection de la vie privée

Le chercheur a également cherché à savoir si certains traits du visage étaient liés à l'orientation politique, notamment l'expression du visage, les lunettes, la pilosité faciale et l’orientation de la tête. Kosinski a découvert que l'orientation de la tête avait un pouvoir prédictif de 58 %, les libéraux étant plus susceptibles de faire face directement à la caméra. L'expression émotionnelle avait un pouvoir prédictif de 57 %, les libéraux étant plus susceptibles de montrer de la surprise et moins susceptibles de montrer du dégoût, d’après l’étude.


La plupart des objections les plus passionnées à l'égard des travaux de Kosinski proviennent de membres de groupes sociaux qui craignent (à juste titre) que la technologie de reconnaissance faciale ne fasse que renforcer et légitimer les préjugés sexistes, sexuels et ethniques qui sont endémiques dans nos sociétés. Le chercheur a mis à disposition le code source et l'ensemble des données du projet, mais pas les images réelles, en invoquant les implications en matière de vie privée.

Des critiques, comme le professeur Alexander Todorov de Princeton, craignent que, comme nous le voyons dans l'exploitation impitoyable de cette technologie par certains pays comme la Chine, elle puisse conduire à la discrimination, à l'exclusion et peut-être même au génocide. L'argument est qu'en publiant des recherches qui semblent donner du crédit aux revendications de l'industrie technologique en matière de reconnaissance faciale, Kosinski la rend effectivement respectable dans les milieux corporatifs et autoritaires.

Toutefois, bien que certains aient exprimé des préoccupations en matière de protection de la vie privée concernant ces nouvelles capacités de surveillance, l'auteur de la nouvelle étude affirme que ces préoccupations ne représentent que la partie émergée de l'iceberg. « Depuis plus d'une décennie maintenant, j'étudie les risques pour la vie privée liés aux algorithmes et aux données volumineuses », a déclaré le chercheur Kosinski.

« Les entreprises collectent des données et développent des algorithmes visant à extraire des informations de ces données, mais elles sont réticentes à révéler la précision de ces modèles. En 2012, par exemple, Facebook a breveté un algorithme visant à extraire les traits psychologiques de "Facebook Likes". J'ai examiné leur approche et démontré qu'elle pouvait exposer avec précision des traits allant de l'orientation sexuelle à la personnalité ».

« Plus récemment, j'ai porté mon attention sur les algorithmes de reconnaissance faciale développés par des entreprises et des informaticiens. Mon étude la plus récente confirme leurs affirmations : malheureusement, il est possible de prédire avec précision l'orientation politique à partir des images faciales », a expliqué Kosinski.

Todorov met en doute les résultats des travaux de Kosinski, affirmant également que des méthodes utilisées dans l’étude sur la reconnaissance faciale, dont parle le rapport, sont techniquement défectueuses. Selon lui, les motifs relevés par un algorithme comparant des millions de photos pourraient n'avoir que peu de rapport avec les caractéristiques faciales. Par exemple, les photos autopubliées sur les sites de rencontres donnent un certain nombre d'indices non faciaux.

De plus, les recherches actuelles en psychologie montrent qu'à l'âge adulte, la personnalité est surtout influencée par l'environnement. « Bien qu'il soit potentiellement possible de prédire la personnalité à partir d'une photo, c'est au mieux légèrement mieux que le hasard dans le cas des humains », a déclaré lors d'une récente interview Daniel Preotiuc-Pietro, un chercheur postdoctoral de l'Université de Pennsylvanie qui a travaillé sur la prédiction de la personnalité à partir d'images de profil.

Source : Rapport d’étude

Et vous ?

Que pensez-vous de cette étude ? Pertinente ou pas ?
Quel commentaire faites-vous de la précision (72 %) avec laquelle l’algorithme de reconnaissance faciale prédit l’orientation politique d'une personne ?
Quel est votre avis sur la mise à disposition du code source de cet outil ? Y a-t-il des conséquences ?

Voir aussi :

Le port d'un masque n'empêchera plus la reconnaissance faciale, le coronavirus ayant incité les sociétés à développer des solutions pour les personnes dont le visage est partiellement couvert
L'utilisation de la reconnaissance faciale par la police viole les droits de l'homme, selon un tribunal britannique, cependant, la Cour n'a pas complètement interdit l'utilisation de la technologie
Le taux d'erreurs des algorithmes de reconnaissance faciale conçus pour détecter le contour des masques faciaux a augmenté, selon une étude de l'Institut US des normes et de la technologie
Facebook veut utiliser la reconnaissance faciale pour vous prévenir, lorsque quelqu'un publie une photo de vous sur sa plateforme

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 06/03/2021 à 17:42
Pour résumer, on parle d'un système de prédiction binaire (libéral vs. conservateur). Au pire, il ne peut pas faire moins que 50% de précision. Il s'agit des prédictions les plus faciles à faire. Or ici on parle d'une précision de l'ordre de 72%... C'est naze, ça vaut rien ! On n'arrive même pas à en identifier 3/4 alors qu'au pif on sait déjà en identifier 2/4. Qu'on me parle de 90% pour du binaire, là je me poserai des questions. Mais si avec du binaire on arrive à faire un peu mieux que 50%, avec 3 partis différents (33% au pif) on peut espérer monter à combien ? 45% de précision ? Et avec 4 partis (25% au pif) à 32% ? Je n'attend rien d'un tel système prédictif.

Si les réflexions sur l'usage de ces technos est pertinente, cet exemple n'apporte rien au débat. Avant de l'utiliser pour faire de la discrimination, il faudrait déjà qu'il donne des résultats exploitables, et on en est loin.
3  0 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 06/03/2021 à 18:08
Citation Envoyé par chrtophe Voir le message
C'est la que c'est flippant, la précision de 72% semblant importante. Si ça s'améliore, bonjour le fichage d'opinion automatisé, si ça stagne, bonjour le fichage d'opinion automatisé et erroné.
On n'a pas besoin de ce système pour le mettre en place : on te fait un système à 50% (alias "random" et on l'utilise comme base et voilà le fichage d'opinion automatisé et erroné ! 72% c'est pas plus exploitable que 50%. Si on me sort un résultat bien plus important, là ça peut servir d'illustration au problème, mais ici la seule valeur est la réflexion générale. L'étude en elle-même n'apporte pas grand chose.

Dit autrement, cette étude fait partie des études où on peut dire qu'on n'a pas réussit à établir une prédiction binaire exploitable sur la base de photos. S'il est important de publier ce genre de choses autant que le reste, pour autant de tels résultats ne sont pas en faveur de la capacité de prédiction dont il est question ici. N'importe quelle étude faisant aussi bien que de l'aléatoire aurait pu être utilisé s'il s'agissait juste de dire "y'en a qui cherchent, imaginez qu'un jour ils y arrivent !".
1  0 
Avatar de chrtophe
Responsable Systèmes https://www.developpez.com
Le 06/03/2021 à 10:56
Minority Report.
0  0 
Avatar de chrtophe
Responsable Systèmes https://www.developpez.com
Le 06/03/2021 à 17:53
C'est la que c'est flippant, la précision de 72% semblant importante. Si ça s'améliore, bonjour le fichage d'opinion automatisé, si ça stagne, bonjour le fichage d'opinion automatisé et erroné.
0  0 
Avatar de pierre-y
Membre chevronné https://www.developpez.com
Le 07/03/2021 à 8:02
A parce que maintenant il y a un lien entre ton visage et ton orientation politique et ceci sans même avoir parlé à la personne. Dans le genre arnaque.
0  0 
Avatar de Kelfo
Membre du Club https://www.developpez.com
Le 08/03/2021 à 9:21
Pour résumer, on parle d'un système de prédiction binaire (libéral vs. conservateur). Au pire, il ne peut pas faire moins que 50% de précision. Il s'agit des prédictions les plus faciles à faire. Or ici on parle d'une précision de l'ordre de 72%... C'est naze, ça vaut rien ! On n'arrive même pas à en identifier 3/4 alors qu'au pif on sait déjà en identifier 2/4. Qu'on me parle de 90% pour du binaire, là je me poserai des questions. Mais si avec du binaire on arrive à faire un peu mieux que 50%, avec 3 partis différents (33% au pif) on peut espérer monter à combien ? 45% de précision ? Et avec 4 partis (25% au pif) à 32% ? Je n'attend rien d'un tel système prédictif.
C'est vrai on peut faire la même chose pour définir si quelqu'un est de droite ou gauche (je pense que tu es de droite) mais justement une IA fonctionne avec engrangement de données plus tu lui fournis d'infos sur les personnes et que tu fait correspondre ces données à quelque chose, au bout d'un moment l'IA aura un meilleur taux de réussite. Elle apprendra de ses erreurs beaucoup plus vite que nous. Et sera bien plus rapide qu'un humain pour identifier un nombre conséquent de personnes.
0  0 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 08/03/2021 à 19:47
À la condition qu'il y ait effectivement des tendances à extraire de ces données. Or ici on parle d'un million d'exemples, c'est beaucoup de données pour une simple prédiction binaire. Et malgré ça ils ne font que 72% de réussite. Autant dire que cet algorithme ne tire pas grand chose de ce jeu de données. En donner davantage n'apportera rien de significatif. Il faut soit changer l'algo, soit changer les données, soit le deux.
0  0 
Avatar de tanaka59
Expert confirmé https://www.developpez.com
Le 08/03/2021 à 22:20
Bonsoir

La technologie de reconnaissance faciale peut-elle révéler une orientation politique ? Elle peut prédire la tendance politique d'une personne avec une précision de 72 %, selon une étude de Stanford.

Que pensez-vous de cette étude ? Pertinente ou pas ?
L'idée de fond faire coller un faciesse à un idéo politique est assez alarmant .. voir discriminant dans certains contextes politiques ou de surveillance de masse

Quel commentaire faites-vous de la précision (72 %) avec laquelle l’algorithme de reconnaissance faciale prédit l’orientation politique d'une personne ?
Comme dit par d'autre le modèle binaire est plus que gênant ... A ou B . La même experience avec

Quel est votre avis sur la mise à disposition du code source de cet outil ? Y a-t-il des conséquences ?
Cela me dérange ... quid des faux positif ou du fichage dans certains contexte politique / sécuritaire ?

Citation Envoyé par chrtophe Voir le message
Minority Report.
Exactement

Citation Envoyé par Matthieu Vergne Voir le message
Pour résumer, on parle d'un système de prédiction binaire (libéral vs. conservateur). Au pire, il ne peut pas faire moins que 50% de précision. Il s'agit des prédictions les plus faciles à faire. Or ici on parle d'une précision de l'ordre de 72%... C'est naze, ça vaut rien ! On n'arrive même pas à en identifier 3/4 alors qu'au pif on sait déjà en identifier 2/4. Qu'on me parle de 90% pour du binaire, là je me poserai des questions. Mais si avec du binaire on arrive à faire un peu mieux que 50%, avec 3 partis différents (33% au pif) on peut espérer monter à combien ? 45% de précision ? Et avec 4 partis (25% au pif) à 32% ? Je n'attend rien d'un tel système prédictif.

Si les réflexions sur l'usage de ces technos est pertinente, cet exemple n'apporte rien au débat. Avant de l'utiliser pour faire de la discrimination, il faudrait déjà qu'il donne des résultats exploitables, et on en est loin.
Citation Envoyé par chrtophe Voir le message
C'est la que c'est flippant, la précision de 72% semblant importante. Si ça s'améliore, bonjour le fichage d'opinion automatisé, si ça stagne, bonjour le fichage d'opinion automatisé et erroné.
Pour mener une étude bien plus efficace je propose la même chose avec tous les courants politiques :

anarchiste
trotskiste
marxiste
communiste
écologiste
socialiste
sociale démocrate
chrétien démocrate
démocrate
centriste gauche
centriste
centriste droit
droite
extrême droite
libéral
ultra libérale
néo libéral
conservateur
ultra conservateur
nationaliste
indépendantiste
sécessionniste
autonomiste
fasciste
républicain



La on va rigoler
0  0