Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

L'IA peut-elle prédire qu'un tiers sera criminel sur la base d'une photo ? Oui, avec une précision de 80 % et sans biais racial, selon une étude
Retirée d'Internet en raison de la controverse

Le , par Patrick Ruiz

137PARTAGES

16  0 
Repérer un individu dans une foule de cinquante à soixante mille personnes est le genre de prouesse que les forces de l’ordre sont capables de réaliser dans des pays où l’on fait un usage extensif des systèmes de reconnaissance faciale. Le cas Ao, suspect d’implication dans des crimes économiques et inscrit sur un système national en ligne répertoriant les personnes recherchées en Chine, en est une illustration. Des systèmes plus récents relèguent même le port de masque au rang d’artifices inutiles. Autrement dit, en arborer un n’empêche pas d’être reconnu.

Dans un cas des cas cités comme dans l’autre, une intelligence artificielle s’appuie sur des informations extraites d’une base de données de visages pour permettre aux autorités de pincer un individu. Une récente publication d’une équipe universitaire montre qu’on peut aller encore plus loin avec ces systèmes. L’étude de chercheurs de l'université américaine privée à but non lucratif de Harrisburg a de quoi plonger les lecteurs dans l’univers du film américain de science fiction Minority Report. En effet, sa conclusion de façon ramassée est qu’un logiciel peut prédire qu’un tiers sera criminel avec une précision de 80 % et sans biais racial, ce, rien qu’en s’appuyant sur sa photo. Le communiqué, qui avait commencé à être partagé sur Twitter, a fait l’objet du site web de l’institution en raison d’un afflux important de contradicteurs.

« L'étude a été retirée du site web à la demande de la faculté impliquée dans la recherche. Elle travaille sur une mise à jour du document afin de répondre aux préoccupations soulevées », indique la nouvelle mouture du communiqué.



L’étude de l’université d’Harrisburg n’est pas la première dans le genre. Elle fait suite à celle d’une université chinoise. En 2016, une équipe de recherche de la Jiao Tong University de Shanghai publiait son étude liant criminalité et caractéristiques faciales des individus. Dans les chiffres, l’étude rapporte que le système est capable de détecter avec une précision de 90 % qui est le plus susceptible d’être un criminel, ce, sans biais.

La phase d’entraînement de l’IA de l’université chinoise s’est faite avec plus de mille clichés d’individus tirés de cartes d’identité nationales dont sept cents appartenaient à des criminels reconnus. Il est peut-être là le problème avec ces systèmes. En effet, une étude de chercheurs du MIT montre que la création d’une intelligence artificielle psychopathe tient à une chose essentielle : la nourrir d’images ultras violentes lors du processus d’entraînement. C’est une illustration du problème de biais des données fournies aux IA qui semble être la raison profonde de la controverse que l’on observe. Si l’on inverse le regard sur les taux de précision, il faut dire qu’il y a 10 à 20 % de faux positifs en fonction des résultats de l’université auxquels on fait allusion. C’est un problème quand on sait que cela représente un paquet de personnes susceptibles d’être accusées à tort comme l'ont été des membres du Congrès des USA par une IA.

Sources : Twitter, Université de Jiao Tong

Et vous ?

Un logiciel peut-il prédire si quelqu’un est susceptible d’être un criminel sur la base de sa photo ?
Pourquoi l’utilisation de l’intelligence artificielle peut-elle ne pas être pertinente dans la recherche de solutions à ce type de problématiques ?

Voir aussi :

Chine : le système de crédit social, comme une science-fiction dystopique, est en marche, et fait déjà des victimes
La police chinoise utilise le big data pour des arrestations préventives dans la région du Xinjiang, d'après l'association Human Rights Watch
Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif, la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ?
À Londres, la police teste une technologie de reconnaissance faciale pour retrouver des suspects : les populations entre approbation et condamnation
Espagne : la police s'appuie sur l'IA pour débusquer les fausses déclarations de vol, VeriPol dispose d'un taux de précision de 83 %

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 07/05/2020 à 19:40
Citation Envoyé par Patrick Ruiz Voir le message
C’est un problème quand on sait que cela représente un paquet de personnes susceptibles d’être accusées à tort comme l'ont été des membres du Congrès des USA par une IA.
Ah bon ? Faire partie du congrès n'est pas la garantie d'être un criminel ? Qui l'eut crû ! {^o^}

Citation Envoyé par Patrick Ruiz Voir le message
Un logiciel peut-il prédire si quelqu’un est susceptible d’être un criminel sur la base de sa photo ?
Rien ne l'interdit, physiquement parlant. Et tout l'objet de la recherche est de répondre à ce genre de question au travers de méthodes qui permettent d'évaluer la fiabilité de tel ou tel façon de faire. La question n'est alors pas de savoir si c'est possible, la réponse étant fondamentalement oui, mais avec quelle fiabilité (precision & recall).

Cependant, si quelqu'un arrive à démontrer qu'on peut construire un système fiable sur la seule base d'une photo, cela démontre qu'être un criminel s'exprime physiquement, et là c'est beaucoup de personnes qui se feront taxer de criminel latent alors qu'elles n'auront encore rien fait. C'est la porte ouverte à la discrimination et au délit de sale gueule "scientifiquement justifié". Bonjour l'ambiance.

Citation Envoyé par Patrick Ruiz Voir le message
Pourquoi l’utilisation de l’intelligence artificielle peut-elle ne pas être pertinente dans la recherche de solutions à ce type de problématiques ?
Je ne vois pas pourquoi elle ne le serait pas. Mais comme toute technique, elle vient avec ses limitations. Un système d'apprentissage ne fait que reproduire un comportement observé, sans règle de logique "humaine" : on juge la couleur d'un pixel et la forme d'un sourcil plutôt que l'acte et l'intention de la personne. Je vois mal comment on pourrait justifier une inculpation sur seul jugement "automatique". Je ne vois cependant rien contre l'orientation de recherches sur la base de tels outils.

De la même manière qu'un humain va réduire l'espace de recherche en se focalisant sur des groupes particuliers, et mener l'enquête pour déterminer s'il y en a qui doivent effectivement être arrêtés, un système d'IA intervient dans cette première étape de réduction de l'espace de recherche. Pas dans le jugement final. Même si elle est utilisée dans le cadre du jugement, ce serait uniquement pour lister des arguments, à charge du juge de les prendre en compte et de tirer sa conclusion en prenant la responsabilité du jugement. Un juge qui fonderait son jugement sur la seule base que celui-ci soit celui de l'IA, pour moi, ferait une faute professionnelle (e sachant qu'en France, la responsabilité du juge est visiblement reléguée à l'État). Une telle décision mériterait a minima de faire appel.
6  0 
Avatar de Nym4x
Membre régulier https://www.developpez.com
Le 07/05/2020 à 22:15
ben voyons... il faudrait déjà commencer par prouver scientifiquement un lien entre une physique et une aptitude au crime. Parce qu’une ia si on lui demande de sortir une correspondance entre un axe d’analyse et un autre elle y arrivera surtout si tu on la programme pour ça.... Afin d’avoir une référence je propose que la même étude soit faite avec un lien entre la taille du sexe et l’aptitude au crime pour comparer 😀au moins l’étude sera drôle à défaut de pouvoir servir à qq chose...
4  1 
Avatar de Mingolito
Membre extrêmement actif https://www.developpez.com
Le 10/05/2020 à 3:14
Peut être que c'est une étude basée sur la célèbre méthode du Professeur Raoult :
1) on à une idée à la con.
2) on fait une étude faussée pour prouver que cette idée à la con est vrai, quitte à menacer les laborantins de se faire virer.
3) on proclame qu'on à eu une idée de génie et qu'on à une étude qui le prouve.
4) on trouve des gogos pour continuer à faire financer les recherches, ici par exemple un parti néo nazi.
5) on publie un livre qui explique la brillante idée de génie et l'irréprochable étude.
6) on invite les journalistes pour des interviews et on deviens de plus en plus médiatique.
5  2 
Avatar de Mingolito
Membre extrêmement actif https://www.developpez.com
Le 07/05/2020 à 19:20
J'ai eu accès au dossier l'étude a été faite d'après cet échantillon :



Et aussi celui ci :



Comme disais Coluche, le mec il a une mine pas tibulaire mais presque

Bon si j'ai bien compris dans le futur on aura une IA qui enverra directement les gens en prison suivant leur bobine, encore mieux que pré-crime

Ceci dit d'après l'IA le plus dangereux c'est celui ci :

5  3 
Avatar de Mat.M
Expert éminent sénior https://www.developpez.com
Le 07/05/2020 à 20:04
Citation Envoyé par Mingolito Voir le message
Bon si j'ai bien compris dans le futur on aura une IA qui enverra directement les gens en prison suivant leur bobine, encore mieux que pré-crime
Et si l'IA se trompait ? Par exemple si l'IA envoyait une beauté canonique comme Monica Belluci ?

Citation Envoyé par Mingolito Voir le message
J'ai eu accès au dossier l'étude a été faite d'après cet échantillon :
il manque sans doute le portrait de l'actuel chef de l'Etat, culte de la personnalité oblige...
mais vous me décevez Mr Mingolito,où est passé votre verve anti 35heures, anti assistés de l'Etat et tutti-quanti ? Un petite faiblesse passagère peut-être ? :
3  1 
Avatar de Aiigl59
Membre habitué https://www.developpez.com
Le 15/05/2020 à 20:45
@Neckara: Mois mon IA voit juste un bon citoyen modèle qui porte un masque par soucis d'enrayer ce covid-19... What else ?
2  0 
Avatar de CoderInTheDark
Membre chevronné https://www.developpez.com
Le 09/05/2020 à 11:52
Ca ressemble à de la Phrénologie numérique.
Au lieu d'avoir la bosse du crime, il a le pixel du crime.

Et puis toute personne est innocente tant qu'elle n'a pas comi de crime.
C'est encore une idée à la con comme celle du petit président qui voulait détecter les criminels dès la maternel.
2  1 
Avatar de
https://www.developpez.com
Le 15/05/2020 à 18:22
Que pense l'université chinoise à l'origine de cette étude des individus qui commettent cela ?
1  0 
Avatar de Neckara
Inactif https://www.developpez.com
Le 16/05/2020 à 15:38
Citation Envoyé par deathman8683 Voir le message
Rechercher le mal (pire : le prévoir) sur des critères physiques n'est rien d'autres que du racisme, tout le reste n'est que mensonge.
Une photo ne montre pas que des critères physiques.

Juger sur le physique n'est pas du racisme… arrêtez d'utiliser ce type de mots à tort et à travers, vous allez leur faire perdre tout leur sens, ce qui est très préjudiciable à la lutte contre le racisme, justement.
1  0 
Avatar de gerard093
Membre actif https://www.developpez.com
Le 18/05/2020 à 17:45
Le vrai problème est posé par le jeu d'apprentissage :
- il y a des criminels qui n'ont pas encore agi
- il y a des criminels qui ne se sont pas fait prendre
- la notion de crime est floue : être un opposant politique, est-ce un crime ? faire un excès de vitesse, est ce un crime ? que dire de ceux qui pètent à table ?
- la notion de crime évolue dans le temps #balance_ton-porc, et transmettre le corona virus, est ce un crime ?

le problème est que dans leur vie, certains individus sont innocents, puis criminels. D'autres sont criminels et passent pour des innocents. Al Capone avait ses bonne oeuvres, Bill Gates en a aussi.

Bref, les têtes d'assassins ... c'est pour celui qui voit tout !!!
1  0