IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Les humains trouvent les visages générés par l'IA plus dignes de confiance que les vrais visages
Ils peinent à distinguer les images de visages créés par des machines de celles de véritables humains

Le , par Nancy Rey

116PARTAGES

9  1 
L'adoption rapide de l'intelligence artificielle a des répercussions majeures sur notre vie privée. Une nouvelle étude menée par deux chercheurs montre qu'il est de plus en plus difficile pour les gens de faire la distinction entre un visage créé à l'aide de l'IA et un vrai visage. De manière surprenante, les chercheurs ont déclaré que leur étude a montré que les fausses images sont plus dignes de confiance que les vraies. Les chercheurs appellent maintenant à davantage de mesures de protection pour empêcher les "deep fake" de s'immiscer dans nos vies. Les chercheurs ont mis en garde contre les graves conséquences de cette pratique, affirmant que des textes, des sons, des images et des vidéos synthétisés par l'IA ont déjà été utilisés à des fins de fraude, de propagande et de "revenge porn".


Les faux visages créés par l'intelligence artificielle IA semblent plus dignes de confiance que les visages de personnes réelles, révèle une nouvelle étude inquiétante. Les chercheurs ont mené plusieurs expériences pour voir si les faux visages créés par l’apprentissage automatique étaient capables de tromper les humains. Les "deepfakes" ont déjà été utilisés pour la "revenge porn", la fraude et la propagande, ce qui a conduit à des erreurs d'identité et à la diffusion de fausses nouvelles. La nouvelle étude a été menée par Sophie J. Nightingale de l'université de Lancaster et Hany Farid de l'université de Californie, Berkeley.

« Notre évaluation du réalisme photographique des visages synthétisés par l'IA indique que les moteurs de synthèse ont franchi la "vallée de la peur" et sont capables de créer des visages impossibles à distinguer - et plus dignes de confiance - que les visages réels », affirment leschercheurs. La conséquence la plus pernicieuse est peut-être que, dans un monde numérique où toute image ou vidéo peut être truquée, l'authenticité de tout enregistrement gênant ou importun peut être remise en question.

Pour l'étude, les experts ont utilisé de faux visages créés avec StyleGAN2, un "réseau génératif contradictoire" de la société technologique américaine Nvidia. Les réseaux génératifs adverses opposent deux algorithmes dans le but de créer des représentations convaincantes du monde réel. Les visages synthétiques de cette étude ont été développés dans le cadre d'interactions en va-et-vient entre deux réseaux neuronaux, exemples d'un type connu sous le nom de réseaux adversatifs génératifs. L'un des réseaux, appelé générateur, a produit une série évolutive de visages synthétiques, à la manière d'un étudiant travaillant progressivement sur des brouillons. L'autre réseau, appelé discriminateur, s'est entraîné sur des images réelles et a ensuite évalué le résultat généré en le comparant à des données sur des visages réels.

Le générateur a commencé l'exercice avec des pixels aléatoires. Grâce aux commentaires du discriminateur, il a progressivement produit des visages humains de plus en plus réalistes. En fin de compte, le discriminateur a été incapable de distinguer un vrai visage d'un faux. Les réseaux se sont entraînés sur une série d'images réelles représentant des visages de Noirs, d'Asiatiques de l'Est, d'Asiatiques du Sud et de Blancs, hommes et femmes, contrairement à l'utilisation plus courante de visages d'hommes blancs dans les recherches précédentes.

Lors de la première expérience, 315 participants ont classé 128 visages tirés d'un ensemble de 800 comme étant réels ou synthétiques. Leur taux d'exactitude était de 48 %, proche d'une performance aléatoire de 50 %, ont-ils constaté.

Dans une deuxième expérience, 219 nouveaux participants ont été formés et ont reçu des informations sur la façon de classer les visages. Ils ont classé 128 visages tirés du même ensemble de 800 visages que lors de la première expérience ; mais malgré leur entraînement, le taux de précision n'a atteint que 59 %.

Les chercheurs ont donc décidé de déterminer si la perception de la fiabilité pouvait aider les gens à identifier des images artificielles dans le cadre d'une troisième expérience. « Les visages constituent une riche source d'informations, et une exposition de quelques millisecondes suffit pour faire des déductions implicites sur des caractéristiques individuelles telles que la fiabilité », indiquent les auteurs. La troisième expérience a demandé à 223 participants d'évaluer la fiabilité de 128 visages pris dans le même ensemble de 800 visages sur une échelle de 1 (très indigne de confiance) à 7 (très digne de confiance). La note moyenne attribuée aux visages synthétiques était 7,7 % plus fiable que celle attribuée aux visages réels, ce qui est « statistiquement significatif ».

Les visages noirs ont été jugés plus dignes de confiance que les visages sud-asiatiques, mais pour le reste, il n'y a pas eu d'effet sur la diversité raciale. Cependant, les femmes ont été jugées significativement plus dignes de confiance que les hommes. Les chercheurs affirment que le fait que les visages soient souriants ou non) ce qui aurait pu augmenter la perception de la fiabilité (n'a pas affecté les résultats. « Un visage souriant est plus susceptible d'être jugé digne de confiance, mais 65,5 % des visages réels et 58,8 % des visages synthétiques sont souriants, de sorte que l'expression faciale ne peut expliquer à elle seule pourquoi les visages synthétiques sont jugés plus dignes de confiance », soulignent-ils. Ils suggèrent plutôt que les visages synthétiques peuvent être considérés comme plus dignes de confiance parce qu'ils ressemblent à des visages ordinaires, qui sont eux-mêmes jugés plus dignes de confiance.


Pour protéger le public des "deepfakes", les chercheurs proposent des lignes directrices pour la création et la distribution d'images de synthèse

Les garanties pourraient inclure, par exemple, l'intégration de filigranes robustes dans les réseaux de synthèse d'images et de vidéos, qui fourniraient un mécanisme en aval pour une identification fiable. Les auteurs de l'étude terminent par une conclusion sévère après avoir souligné que les utilisations trompeuses des deepfakes continueront à représenter une menace. Ils encouragent donc ceux qui développent ces technologies à se demander si les risques associés sont plus importants que leurs avantages. Si c'est le cas, alors ils decouragent le développement d'une technologie simplement parce qu'elle est possible.

« Étant donné que c'est la démocratisation de l'accès à cette technologie puissante qui constitue la menace la plus importante, nous encourageons également le réexamen de l'approche souvent laxiste de la diffusion publique et sans restriction du code que chacun peut intégrer dans n'importe quelle application. À ce moment crucial et comme l'ont fait d'autres domaines scientifiques et techniques, nous encourageons la communauté des graphistes et des visionneurs à élaborer des lignes directrices pour la création et la distribution de technologies de médias synthétiques qui intègrent des directives éthiques pour les chercheurs, les éditeurs et les distributeurs de médias ».

Source : PNAS

Et vous ?

Que pensez-vous des résultats de cette recherche ? Les trouvez-vous pertinent ?
Les experts affirment que nous ne pouvons pas faire la différence entre un visage créé par l'IA et un vrai visage. Êtes-vous d’accord avec cette affirmation ?
Pensez-vous être capable de différencier un visage vrai, d’un généré par l’IA ?

Voir aussi :

Nvidia a mis au point une IA capable de générer des visages humains totalement crédibles, une menace pour l'identité en ligne ?

Des cybercriminels ont utilisé la technologie deepfake pour voler 35 millions de dollars à une banque, en clonant la voix du directeur

Deepfake : les vidéos manipulées et parfaitement réelles, pourront être créées par n'importe qui d'ici 6 à 12 mois, d'après Hao Li, un pionnier de cette technologie

Ce site montre des portraits de visages humains générés par une IA. Aucun d'entre eux n'est réel. Actualisez la page pour en voir un nouveau

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de SofEvans
Membre chevronné https://www.developpez.com
Le 16/02/2022 à 10:41
Bonjour !

Est-ce que quelqu'un pourrait m'expliquer ce qu'est un visage fiable ?
Parce que l'article en parle pas mal, mais honnêtement, moi et mes 4 neurones n’arrivons pas à comprendre.

Est-ce qu'on parle de la "fiabilité de quelqu'un à reconnaitre si un visage est réelle ou a été généré" comme le laisse supposer la fin de l'article ?
Ou alors on cherche à savoir si on pourrait se fier à quelqu'un par rapport à une photo ? Du style "tiens lui il a l'air sympa".
5  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 16/02/2022 à 11:14
Citation Envoyé par SofEvans Voir le message
Est-ce que quelqu'un pourrait m'expliquer ce qu'est un visage fiable ?
Là dans le contexte, je crois que ça veut dire qu'on a montré des photos à des gens en leur demandant "est-ce que c'est une vraie personne ou est-ce que c'est une image créée par un algorithme ?".
Et parfois ils se sont trompés. (après la question change peut-être)
Ça me rappel un jeu où il fallait différencier des vrais seins et des faux seins.

Citation Envoyé par Nancy Rey Voir le message
Le générateur a commencé l'exercice avec des pixels aléatoires. Grâce aux commentaires du discriminateur, il a progressivement produit des visages humains de plus en plus réalistes. En fin de compte, le discriminateur a été incapable de distinguer un vrai visage d'un faux. Les réseaux se sont entraînés sur une série d'images réelles représentant des visages de Noirs, d'Asiatiques de l'Est, d'Asiatiques du Sud et de Blancs, hommes et femmes, contrairement à l'utilisation plus courante de visages d'hommes blancs dans les recherches précédentes.

Lors de la première expérience, 315 participants ont classé 128 visages tirés d'un ensemble de 800 comme étant réels ou synthétiques. Leur taux d'exactitude était de 48 %, proche d'une performance aléatoire de 50 %, ont-ils constaté.

Dans une deuxième expérience, 219 nouveaux participants ont été formés et ont reçu des informations sur la façon de classer les visages. Ils ont classé 128 visages tirés du même ensemble de 800 visages que lors de la première expérience ; mais malgré leur entraînement, le taux de précision n'a atteint que 59 %.

Les chercheurs ont donc décidé de déterminer si la perception de la fiabilité pouvait aider les gens à identifier des images artificielles dans le cadre d'une troisième expérience. « Les visages constituent une riche source d'informations, et une exposition de quelques millisecondes suffit pour faire des déductions implicites sur des caractéristiques individuelles telles que la fiabilité », indiquent les auteurs. La troisième expérience a demandé à 223 participants d'évaluer la fiabilité de 128 visages pris dans le même ensemble de 800 visages sur une échelle de 1 (très indigne de confiance) à 7 (très digne de confiance). La note moyenne attribuée aux visages synthétiques était 7,7 % plus fiable que celle attribuée aux visages réels, ce qui est « statistiquement significatif ».
2  0 
Avatar de vanquish
Membre expérimenté https://www.developpez.com
Le 16/02/2022 à 9:22
Notre cerveau est fait pour reconnaitre très rapidement des visages, c'est pourquoi on voit un visage même avec ça :
ou sur la calandre d'une voiture.
Dès qu'il y a 2 trucs pour symboliser des yeux, on voit un visage même si en réalité cela n'a absolument rien à voir.

Alors pas étonnant qu'une image photoréaliste puisse nous tromper.
1  0 
Avatar de Arya Nawel
Membre extrêmement actif https://www.developpez.com
Le 17/02/2022 à 12:13
Cela nous amène donc à nous demander si nous pourrons faire confiance à ce que nous voyons sur nos écrans dans un avenir proche, si l'IA générer m de fausses images qui peuvent tromper tout le monde
1  0 
Avatar de Fagus
Membre expérimenté https://www.developpez.com
Le 16/02/2022 à 21:39
La troisième expérience a demandé à 223 participants d'évaluer la fiabilité de 128 visages pris dans le même ensemble de 800 visages sur une échelle de 1 (très indigne de confiance) à 7 (très digne de confiance). La note moyenne attribuée aux visages synthétiques était 7,7 % plus fiable que celle attribuée aux visages réels
C'est difficile à interpréter. Ont-ils montré les visages réels tirés de la base qui a servi à entraîner les réseaux (si non, ça n'a pas de sens). Les photos sont-elle issu d'un choix à la discrétion des organisateurs ou ont-elle été tirées au hasard (même remarque sur le sens).

Pensez-vous être capable de différencier un visage vrai, d’un généré par l’IA ?
C'est difficile et contre-instinctif car en effet comme dit vanquish ceci est un visage.
Je suppose que pour l'instant oui dans une majorité des cas, en se concentrant et en s'entraînant comme les réseaux... mais avec un réseau assez entraîné à la fin, je pense que non.

Par ex., on voit que ces réseaux sont entraînés sur les visages. Par contre, l'arrière plan est soit flou, soit un méli-mélo insensé (comme le 1er en haut à gauche avec les lunettes et le sourire). Ou bien les vêtements sont problématiques comme l'enfant en haut à droite. En regardant quelques images sur https://thispersondoesnotexist.com/image , on trouve d'autres anomalies : des mélanges de traits de visage infantiles et adultes (la femme/fille en haut milieu) ; des dents bizarres ; des problème de fusion des contours entre les parties du visages , les oreilles etc.
C'est un peu comme savoir en un clin d'oeil équilibrer la balance des couleurs/niveaux d'une photo à la main ou reconnaître un codec son ou vidéo à ses artéfacts. C'est pas inné, mais quand on a beaucoup traité, on ne voit plus que ça. Ou comme les musiciens qui entendent les notes qui manquent...
0  0 
Avatar de Arya Nawel
Membre extrêmement actif https://www.developpez.com
Le 22/03/2022 à 10:57
Nous aimons les visages symétriques et beaucoup de gens ont des imperfections.
0  0