Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Des chercheurs créent une IA qui rend facile la création de deepfakes à partir d'une seule image
Et les résultats sont dangereusement réalistes

Le , par Michael Guilloux

95PARTAGES

9  0 
Faisant actuellement l'objet de recherches pour les rendre plus efficaces, les deepfakes - contraction de deep learning (apprentissage profond) et fake (truqué) - font allusion à des techniques de synthèse d'images basées sur l'intelligence artificielle. Si elles sont assez récentes, les techniques actuelles de deepfakes donnent déjà des résultats très impressionnants, ce qui inquiète les législateurs US.

L'on craint qu'elles soient utilisées contre des personnes pour les représenter dans des situations auxquelles elles s'opposeraient, comme dans des vidéos pornographiques. Précisons en effet que c'était le but original de cette technologie : elle peut être utilisée dans l’industrie porno, où des visages peuvent être supposés à d’autres. Selon les législateurs US, les deepfakes représentent aussi un danger politique réel. Ils pensent par exemple que cette technique de synthèse d’images pourrait être utilisée dans le cadre de campagnes de désinformation plus larges dans l’optique d’influencer des élections en diffusant de fake news qui pourraient alors paraître plus crédibles. Autrement dit, les technologies de création de deepfakes pourraient être des armes dangereuses entre les mains des personnes malveillantes.

Malgré les craintes que les deepfakes soient utilisés à des fins malveillantes, les recherches pour rendre cette technologie plus puissante se multiplient. La toute dernière est le résultat des travaux d'une équipe composée de chercheurs d'un centre d'intelligence artificielle de Samsung et de l'Institut des sciences et de la technologie de Skolkovo, tous deux basés à Moscou.

Les chercheurs ont mis au point un moyen de créer des deepfakes ou « portraits vivants » à partir d'un très petit ensemble de données - une seule photographie suffit dans certains cas. Leur recherche intitulée « Few-Shot Adversarial Learning of Realistic Neural Talking Head Models » a été publiée lundi dans arXiv, l'archive de prépublications électroniques d'articles scientifiques.

Ils utilisent des techniques de machine learning appelées few-shot ou one-shot learning, qui font allusion à un apprentissage à partir de quelques exemples ou d'un seul exemple. En effet, si l'intelligence artificielle est performante dans les applications utilisant beaucoup de données, il lui manque la capacité d'apprendre d'un nombre limité d'exemples. Autrement dit, les méthodes d'apprentissage profond actuelles souffrent d'une faible efficacité pour de petits échantillons, ce qui contraste nettement avec la perception humaine : même un enfant peut reconnaître une girafe par exemple après avoir visionné une seule photo. Le few/one-shot learning vise donc à doter les réseaux neuronaux profonds de cette capacité : atteindre un haut niveau d'apprentissage à partir de très petits ensembles de données.

Dans leurs travaux, les chercheurs de Samsung ont donc pu utiliser une image pour créer un portrait animé convaincant. En augmentant le nombre de clichés (en passant à 8 ou 32 photos par exemple), le portait animé devient de plus en plus réaliste. Et cela fonctionne même sur le portait de Mona Lisa et d'autres photos uniques. Dans une vidéo publiée par l'un des chercheurs sur YouTube, les célèbres portraits d’Albert Einstein, Fyodor Dostoyevsky et Marilyn Monroe prennent vie comme si c’était des vidéos qui avaient été capturées en direct à partir de l’appareil photo de votre smartphone.


Le fait que l'IA de Samsung ait besoin d'une seule photo pour générer un portrait vivant ou deepfake ne veut pas dire que l'algorithme ne repose que cette seule photo. Derrière, il y a un travail préliminaire de meta-learning qui a été réalisé. Les chercheurs ont en effet effectué de longs apprentissages sur une grande base de données d’un référentiel public de 7000 images de célébrités extraites de YouTube. Cela permet à l'algorithme d’identifier ce qu’ils appellent des caractéristiques « historiques » des visages : yeux, formes de la bouche, longueur et forme d’un pont nasal.

À partir de là, le système est capable de générer une vidéo ou un portrait animé à partir de photos de personnes qui n'ont pas été prises en compte dans la phase de meta-learning. Concrètement, quand le système reçoit en entrée la photo d'une nouvelle personne, il initialise ses paramètres d’une manière spécifique à la personne, de sorte que la génération du deepfake ou portrait animé puisse se baser sur quelques images et se faire rapidement, « malgré la nécessité d’ajuster des dizaines de millions de paramètres ».

Comme avec la plupart des deepfakes, il y a quelques défauts. La plupart des visages sont entourés d'artefacts visuels. Mais les résultats restent impressionnants étant donné que cette technique est à ses débuts.

Cette recherche représente une avancée significative par rapport à ce que les autres deepfakes et algorithmes utilisant des réseaux adverses génératifs peuvent accomplir. Au lieu d'apprendre à l'algorithme comment coller un visage sur un autre à l'aide d'un catalogue d'expressions d'une personne, les chercheurs utilisent les traits de visage qui sont communs à la plupart des humains pour ensuite marionnettiser un nouveau visage.

« Plusieurs travaux récents ont montré comment des images de tête humaine extrêmement réalistes peuvent être obtenues en formant des réseaux de neurones convolutifs pour les générer. Afin de créer un modèle personnalisé de la tête d'une personne qui est en train de parler, ces travaux nécessitent une formation sur un grand ensemble de données d'images de la même personne. Cependant, dans de nombreux scénarios pratiques, de tels modèles peuvent être formés à partir de quelques images d'une personne, voire d'une seule image », expliquent les chercheurs. « Nous montrons qu’une telle approche permet de créer des modèles très réalistes et personnalisés de nouveaux personnages et même des portraits. »


Source : Publication de la recherche

Et vous ?

Que pensez-vous de cette recherche ? Exploit ou rien d'extraordinaire ? Quelles sont les éventuelles applications ?
Les chercheurs en IA ne sont-ils pas en train de construire une arme dangereuse pour les individus et la société ?
Les technologies de deepfake ne devraient-elles pas être interdites ? Dans ce cas, comment cela peut-il se faire ? Est-ce déjà trop tard ?

Voir aussi :

Un sénateur propose un projet de loi prohibant l'utilisation de la technologie deepfake, si elle venait à servir des buts frauduleux
Une vidéo deepfake de Donald Trump diffusée sur une chaine de TV nationale ? L'employé responsable a été licencié
Les législateurs US estiment que la technologie deepfake constitue une menace à la sécurité nationale et appellent à des contremesures
Une nouvelle méthode inédite de deepfake a été mise au point par des chercheurs, permettant de transférer le style d'une personne à une autre

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de laloune
Membre averti https://www.developpez.com
Le 24/05/2019 à 13:08
Vous avez déjà vu le film Running Man ? Il est excellent !
moui, amha je conseillerais plutôt le roman de Richard Bachmann (alias Stephen King)
2  0 
Avatar de Neckara
Expert éminent sénior https://www.developpez.com
Le 24/05/2019 à 6:37
Je crains qu'il n'y ai plus de choix, il faut que les caméras embarquent des éléments sécurisés pour signer les vidéos.
1  0 
Avatar de transgohan
Expert éminent https://www.developpez.com
Le 24/05/2019 à 9:43
Citation Envoyé par archqt Voir le message
Et comme disait Abraham Lincoln "il ne faut pas tout croire ce que l'ont lit ou voit sur internet"
A qui le dis-tu.
1  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 24/05/2019 à 10:32
Citation Envoyé par Michael Guilloux Voir le message
Les technologies de deepfake ne devraient-elles pas être interdites ? Dans ce cas, comment cela peut-il se faire ? Est-ce déjà trop tard ?
Ça ne changerait rien de l'interdire, les états continueront de l'utiliser en secret (il y a plein d'états qui développent des armes illégales).

Là le risque c'est qu'un état créer une vidéo d'utilisation d'arme chimique, en Syrie par exemple, pour justifier une intervention militaire.
Vous avez déjà vu le film Running Man ? Il est excellent ! Et il y a une histoire de gouvernement qui modifie des vidéos pour manipuler l'opinion publique.

Ça rappelle cette histoire de 2011 :
Al-Jazeera prépare de fausses images de la Syrie
Pourtant, dès le début de la bataille de Tripoli, Al-Jazeera diffusa des images de propagande tournées dans ce studio pour faire croire que les rebelles étaient entrés dans la ville, alors que celle-ci était encore sous les bombardements massifs de l’OTAN. Il s’agissait de casser le moral des Libyens en leur faisant croire que tout était perdu. Par la suite, le chef du Conseil national de transition, Mustafa Abdul Jalil, a admis les faits et les a présentés comme une ruse de guerre.
1  0 
Avatar de pierre-y
Membre éprouvé https://www.developpez.com
Le 24/05/2019 à 13:45
Citation Envoyé par Ryu2000 Voir le message

Vous avez déjà vu le film Running Man ? Il est excellent !
Al-Jazeera prépare de fausses images de la Syrie
Oui il est tres bon, j'aime bien le reoir de temps en temps.
1  0 
Avatar de archqt
Membre confirmé https://www.developpez.com
Le 24/05/2019 à 8:58
C'est énorme comme truc.

L'avantage est que l'on va pouvoir faire disparaître les acteurs bientôt et faire des films entièrement virtuels...

Et comme disait Abraham Lincoln "il ne faut pas tout croire ce que l'ont lit ou voit sur internet"
0  0 
Avatar de Edrixal
Membre éclairé https://www.developpez.com
Le 24/05/2019 à 9:43
L'industrie du porno vont avoir à s'inquiéter tandis que les faiseurs de fake news n'aurons plus grand chose à faire...
0  0 
Avatar de grunk
Modérateur https://www.developpez.com
Le 24/05/2019 à 9:47
Citation Envoyé par Neckara Voir le message
Je crains qu'il n'y ai plus de choix, il faut que les caméras embarquent des éléments sécurisés pour signer les vidéos.
C'est déjà le cas dans pas mal d'équipement de vidéo surveillance , ou il est possible de signer des exports et d'ensuite vérifier qu'ils n'ont pas été altéré.
0  0 
Avatar de Uther
Expert éminent sénior https://www.developpez.com
Le 24/05/2019 à 11:35
Citation Envoyé par archqt Voir le message
Et comme disait Abraham Lincoln "il ne faut pas tout croire ce que l'ont lit ou voit sur internet"
La majorité des citation attribuées à Albert Einstein ne sont pas de lui
Albert Einstein
0  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 24/05/2019 à 13:52
Citation Envoyé par laloune Voir le message
je conseillerais plutôt le roman de Richard Bachmann (alias Stephen King)
Un prof avait une liste de ses livres préférés pour un TP XSLT et il apparaissait dans la liste.

J'aime bien la soundtrack du film, il y a une musique qui me fait penser à Final Fantasy 7 (vers 44 secondes) :


Citation Envoyé par pierre-y Voir le message
Oui il est tres bon
Ce qui me stress c'est qu'il est tellement bien qu'un jour ils en feront un remake, comme ils ont fait avec Total Recall ou Robo Cop
0  0