Si vous regardez les images présentées sur le site Web ThisPersonDoesnotExist.com (cette personne n’existe pas), vous pouvez penser être tombé sur des portraits aléatoires de lycée ou des photos issues d’une autre source. Pourtant, chaque photo sur le site a été créée en utilisant un type spécial d'algorithme d'intelligence artificielle appelé generative adversarial network (GAN, ou, en français, réseau antagoniste génératif).Chaque fois que le site est rafraîchi, une image débordant de réalisme présente le visage d’une personne. Phillip Wang, ingénieur en logiciel chez Uber, a créé la page pour démontrer les capacités du GAN, puis l'a publiée sur le groupe public "Intelligence artificielle et apprentissage en profondeur".
Le code sous-jacent qui a rendu cela possible, intitulé StyleGAN, a été écrit par Nvidia et fait l'objet d'un article qui n'avait pas encore été approuvé par des pairs. Ce type de réseau de neurones a le potentiel de révolutionner la technologie du jeu vidéo et de la modélisation 3D, mais, comme presque tout type de technologie, il pourrait également être utilisé à des fins plus sinistres. Rappelons par exemple que les deepfakes, ou des images générées par ordinateur superposées à des images ou des vidéos existantes, peuvent être utilisés pour diffuser de faux récits d’actualité ou d’autres canulars. C’est donc dans un but de sensibilisation que Wang a choisi de faire cette page Web.
S’il fallait simplifier, nous pourrions dire que le GAN implique que deux réseaux travaillent l’un contre l’autre. Le premier va être nourri en données brutes qu’il va décomposer. À partir de ces données, il va tenter de créer une image. Il va ensuite soumettre cette image à un autre réseau qui, lui, n’a que des photos ou images réelles dans sa base de données. Ce deuxième réseau va alors juger de l’image et va informer le premier de son jugement. Si l’image ne ressemble pas au résultat attendu, le premier algorithme va recommencer le processus. Si le résultat correspond, il va être informé qu’il est sur la bonne voie et finir par comprendre ce qu’est une bonne image. Une fois qu’il est suffisamment entraîné, il peut en produire à la chaîne.
Début avril 2019, NVidia a publié en open source StyleGAN.
Une technologie qui fait le bonheur des startups
Des startups d'intelligence artificielle ont décidé de vendre des images de visages générés par ordinateur qui ressemblent à la réalité, offrant aux entreprises la possibilité « d'augmenter la diversité » de leurs annonces sans avoir besoin d'êtres humains.
Une entreprise propose de vendre diverses photos pour des brochures marketing et a déjà signé des clients, y compris une application de rencontres qui a l'intention d'utiliser les images dans un chatbot. Une autre entreprise a déclaré qu'elle allait faire plus que générer des têtes par une IA et se lancer dans la génération de faux corps dès ce mois-ci.
StyleGAN, la technologie utilisée pour créer de tels visages est disponible en open source et s'améliore rapidement, permettant aux startups de créer facilement des contrefaçons si convaincantes qu'elles peuvent tromper l'œil humain. Les systèmes s'entraînent sur des bases de données massives de visages réels, puis tentent de reproduire leurs caractéristiques dans de nouveaux designs.
Mais les experts en IA craignent que les contrefaçons ne conduisent à une nouvelle génération d'escrocs, de bots et d'espions, qui pourraient utiliser les photos pour créer des personnages en ligne imaginaires, masquer les biais d'embauche et nuire aux efforts visant à apporter de la diversité aux industries. Le fait qu'un tel logiciel ait désormais un modèle commercial pourrait également alimenter une plus grande érosion de la confiance sur un Internet déjà attaqué par des campagnes de désinformation, des vidéos deepfake et d'autres techniques trompeuses.
Elana Zeide, diplômé en intelligence artificielle, droit et politique à l'Université de Californie à la faculté de droit de Los Angeles, a déclaré que la technologie « met en évidence le peu de pouvoir et de connaissances dont disposent les utilisateurs par rapport à la réalité de ce qu'ils voient en ligne ».
« Il n'y a pas de réalité objective pour comparer ces photos », a-t-elle déclaré. « Nous sommes habitués à des mondes physiques avec une entrée sensorielle... mais avec cela, nous n'avons pas de réponses instinctives ou enseignées sur la façon de détecter ce qui est réel et ce qui ne l'est pas. C'est épuisant ».
l'IA est capable de faire des variantes d'une même personne
Icons8, une firme de design basée en Argentine qui vend des illustrations numériques et des photos d'archives, a lancé son activité en ligne Generated.photos le mois dernier, offrant « des modèles divers à la demande à l'aide de l'IA ».
Le site permet à quiconque de filtrer les fausses photos en fonction de l'âge (de « nourrisson » à « personnes âgées »), de l'origine ethnique (y compris « blanc », « latino », « asiatique » et « noir ») et de l'émotion (« joie », « neutre » , « surprise »), ainsi que le sexe, la couleur des yeux et la longueur des cheveux. Le système montre cependant un certain nombre de lacunes et de biais...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par MRSizok
