Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Les applications de rencontres ont besoin de femmes. Les annonceurs ont besoin de diversité.
Les entreprises d'IA proposent une solution : des visages générés par ordinateur

Le , par Stéphane le calme

56PARTAGES

9  1 
Si vous regardez les images présentées sur le site Web ThisPersonDoesnotExist.com (cette personne n’existe pas), vous pouvez penser être tombé sur des portraits aléatoires de lycée ou des photos issues d’une autre source. Pourtant, chaque photo sur le site a été créée en utilisant un type spécial d'algorithme d'intelligence artificielle appelé generative adversarial network (GAN, ou, en français, réseau antagoniste génératif).

Chaque fois que le site est rafraîchi, une image débordant de réalisme présente le visage d’une personne. Phillip Wang, ingénieur en logiciel chez Uber, a créé la page pour démontrer les capacités du GAN, puis l'a publiée sur le groupe public "Intelligence artificielle et apprentissage en profondeur".

Le code sous-jacent qui a rendu cela possible, intitulé StyleGAN, a été écrit par Nvidia et fait l'objet d'un article qui n'avait pas encore été approuvé par des pairs. Ce type de réseau de neurones a le potentiel de révolutionner la technologie du jeu vidéo et de la modélisation 3D, mais, comme presque tout type de technologie, il pourrait également être utilisé à des fins plus sinistres. Rappelons par exemple que les deepfakes, ou des images générées par ordinateur superposées à des images ou des vidéos existantes, peuvent être utilisés pour diffuser de faux récits d’actualité ou d’autres canulars. C’est donc dans un but de sensibilisation que Wang a choisi de faire cette page Web.

S’il fallait simplifier, nous pourrions dire que le GAN implique que deux réseaux travaillent l’un contre l’autre. Le premier va être nourri en données brutes qu’il va décomposer. À partir de ces données, il va tenter de créer une image. Il va ensuite soumettre cette image à un autre réseau qui, lui, n’a que des photos ou images réelles dans sa base de données. Ce deuxième réseau va alors juger de l’image et va informer le premier de son jugement. Si l’image ne ressemble pas au résultat attendu, le premier algorithme va recommencer le processus. Si le résultat correspond, il va être informé qu’il est sur la bonne voie et finir par comprendre ce qu’est une bonne image. Une fois qu’il est suffisamment entraîné, il peut en produire à la chaîne.

Début avril 2019, NVidia a publié en open source StyleGAN.


Une technologie qui fait le bonheur des startups

Des startups d'intelligence artificielle ont décidé de vendre des images de visages générés par ordinateur qui ressemblent à la réalité, offrant aux entreprises la possibilité « d'augmenter la diversité » de leurs annonces sans avoir besoin d'êtres humains.

Une entreprise propose de vendre diverses photos pour des brochures marketing et a déjà signé des clients, y compris une application de rencontres qui a l'intention d'utiliser les images dans un chatbot. Une autre entreprise a déclaré qu'elle allait faire plus que générer des têtes par une IA et se lancer dans la génération de faux corps dès ce mois-ci.

StyleGAN, la technologie utilisée pour créer de tels visages est disponible en open source et s'améliore rapidement, permettant aux startups de créer facilement des contrefaçons si convaincantes qu'elles peuvent tromper l'œil humain. Les systèmes s'entraînent sur des bases de données massives de visages réels, puis tentent de reproduire leurs caractéristiques dans de nouveaux designs.

Mais les experts en IA craignent que les contrefaçons ne conduisent à une nouvelle génération d'escrocs, de bots et d'espions, qui pourraient utiliser les photos pour créer des personnages en ligne imaginaires, masquer les biais d'embauche et nuire aux efforts visant à apporter de la diversité aux industries. Le fait qu'un tel logiciel ait désormais un modèle commercial pourrait également alimenter une plus grande érosion de la confiance sur un Internet déjà attaqué par des campagnes de désinformation, des vidéos deepfake et d'autres techniques trompeuses.

Elana Zeide, diplômé en intelligence artificielle, droit et politique à l'Université de Californie à la faculté de droit de Los Angeles, a déclaré que la technologie « met en évidence le peu de pouvoir et de connaissances dont disposent les utilisateurs par rapport à la réalité de ce qu'ils voient en ligne ».

« Il n'y a pas de réalité objective pour comparer ces photos », a-t-elle déclaré. « Nous sommes habitués à des mondes physiques avec une entrée sensorielle... mais avec cela, nous n'avons pas de réponses instinctives ou enseignées sur la façon de détecter ce qui est réel et ce qui ne l'est pas. C'est épuisant ».


l'IA est capable de faire des variantes d'une même personne

Icons8, une firme de design basée en Argentine qui vend des illustrations numériques et des photos d'archives, a lancé son activité en ligne Generated.photos le mois dernier, offrant « des modèles divers à la demande à l'aide de l'IA ».

Le site permet à quiconque de filtrer les fausses photos en fonction de l'âge (de « nourrisson » à « personnes âgées »), de l'origine ethnique (y compris « blanc », « latino », « asiatique » et « noir ») et de l'émotion («  joie », « neutre » , « surprise »), ainsi que le sexe, la couleur des yeux et la longueur des cheveux. Le système montre cependant un certain nombre de lacunes et de biais étranges : par exemple, la seule couleur de peau disponible pour les nourrissons est le blanc.

La société affirme que ses visages pourraient être utiles pour les clients qui ont besoin de dynamiser du matériel promotionnel, de remplir des prototypes ou d'illustrer des concepts trop délicats pour un modèle humain, tels que des « situations embarrassantes » et des « procédures pénales ». Son guide en ligne promet également aux clients qu'ils peuvent « augmenter la diversité » et « réduire les biais » en incluant « de nombreuses origines ethniques différentes dans vos projets ».

Certains émettent des réserves sur l'utilisation d'une telle technologie

Alors que les startups proposent d'offrir aux entreprises l'illusion de la diversité avec l'IA, leurs systèmes ont un défaut crucial: ils imitent uniquement les ressemblances qu'ils ont déjà vues. Valerie Emanuel, cofondatrice basée à Los Angeles de l'agence de talents Role Models Management, a déclaré qu'elle craignait que ce genre de fausses photos ne transforme le médium en monoculture, dans laquelle la plupart des visages se ressemblent.

« Nous voulons créer plus de diversité et montrer des visages uniques dans la publicité à l'avenir », a déclaré Emanuel. « Cela homogénéise un seul regard ».

Icons8 a créé ses visages en premier en prenant des dizaines de milliers de photos d'environ 70 modèles dans des studios du monde entier, a déclaré Ivan Braun, fondateur de la société. Les collègues de Braun (qui travaillent à distance aux États-Unis, en Italie, en Israël, en Russie et en Ukraine) ont ensuite passé plusieurs mois à préparer une base de données, à nettoyer les images, à étiqueter les données et à organiser les photos selon les spécifications précises de l'ordinateur.

Une fois ces images prêtes, les ingénieurs ont ensuite utilisé StyleGAN pour générer un flot de nouvelles photos, générant 1 million d'images en une seule journée. Son équipe a ensuite sélectionné les 100 000 images les plus convaincantes, qui ont été mises à la disposition du public. Les prochains mois ils ont l'intention d'en proposer plus.

La société, a déclaré Braun, a signé trois clients au cours de sa première semaine : une université américaine, une application de rencontres et une société de planification des ressources humaines. Braun a refusé de nommer les clients. Les clients peuvent télécharger jusqu'à 10 000 photos par mois à partir de 100 $.

Une autre entreprise, la startup basée à San Francisco, Rosebud AI, offre à ses clients une galerie de 25 000 photos « de modèles personnalisés d'IA de différentes ethnies ». Lisha Li, la fondatrice de l'entreprise, a déclaré qu'elle avait d'abord commercialisé les photos comme un moyen pour les petites entreprises sur les sites de vente en ligne d'inventer des modèles élégants sans avoir besoin de photographies coûteuses.


Les images sources de son entreprise proviennent de bases de données en ligne de photos gratuites et non protégées, et le système permet aux clients de superposer facilement différents visages sur un ensemble de corps changeant. Elle promeut le système comme un outil puissant pour augmenter les capacités des photographes, les laissant facilement adapter les modèles pour un shooting de mode à la nationalité ou l'origine ethnique du spectateur.

Le système est proposé à un groupe limité de clients, que la société évalue individuellement dans l'espoir de bloquer les mauvais acteurs. Environ 2000 clients potentiels sont sur la liste d'attente.

Les techniques d'apprentissage automatique sont open source, permettant à pratiquement n'importe qui de les utiliser et de les développer. Et le logiciel s'améliore tout le temps: une nouvelle version de StyleGAN, dévoilée le mois dernier par des chercheurs en IA de Nvidia, promet des méthodes de génération plus rapides et des images de meilleure qualité.

Les chercheurs disent que les images sont un cadeau pour les fournisseurs de désinformation, car contrairement aux vraies photos prises ailleurs, elles ne peuvent pas être facilement retracées. De telles contrefaçons sont déjà utilisées, y compris sur Facebook, où les vérificateurs des faits ont trouvé les images utilisées pour créer de faux profils pour promouvoir des pages présélectionnées ou des idées politiques.

Dans un autre cas, il a été établi que le profil LinkedIn d'une jeune femme prétendument nommée Katie Jones, qui a créé des liens avec de hauts responsables de Washington, se servait d'une image générée par l'IA. Des experts du contre-espionnage ont déclaré à l'Associated Press qu'il portait les signatures d'espionnage étranger.

La création d'images générées par l'IA à ce volume pourrait être extrêmement coûteuse, car le processus nécessite une puissance de calcul extraordinaire. Mais la société de Braun, comme d'autres, bénéficie de la concurrence entre Google et Amazon dans le cloud computing, qui offrent tous deux des « crédits » que les start-ups peuvent utiliser pour un travail intensif en IA à des tarifs fortement réduits.

Braun a déclaré que la crainte que des images générées par l'IA soient utilisées à des fins de désinformation ou d'abus est raisonnable, ajoutant : « nous devons nous en inquiéter. La technologie est déjà là, nous devons faire avec ». Mais la solution à ce problème, a-t-il dit, n'est pas la responsabilité d'entreprises comme la sienne : au lieu de cela, il faudra une « combinaison de changement social, de changement technologique et de politique ». (La société n'utilise aucune mesure d'authentification, comme des filigranes, pour aider les gens à vérifier si les images sont réelles ou des images générées par une IA).

Source : Associated Press, Analysis, NVidia, Rosebud AI, Generated.Photos

Et vous ?

Que pensez-vous de cette technologie dans l'absolu ?
Étant donné que cette technologie a déjà été utilisée par des acteurs malveillants (notamment la personne avec un faux compte LinkedIn en contact avec de hauts responsables de Washington) faut-il craindre le pire ?
Quels sont les scénarios catastrophes que vous pouvez imaginer avec cette technologie ?
Quels pourraient être les cas d'utilisation les plus intéressants ?
Un raccourci pour certaines plateformes qui pourraient donner l'illusion de la diversité ?
Dans le cas d'espèce, l'IA qui est capable de générer des visages réalistes est-elle une menace pour les mannequins de publicité ? Dans quelle mesure ?

Voir aussi :

Airbnb prétend que son IA peut prédire si les clients sont des psychopathes, après avoir scanné leur vie en ligne et regroupé des informations sur eux
Samsung a créé un nouveau logiciel qui utilise l'IA et l'appareil photo de votre téléphone, pour suivre les mouvements de vos doigts pendant qu'ils tapent sur un clavier invisible en face de vous
L'année 2020 marquera les débuts d'une véritable adoption de l'IA dans les entreprises, selon une étude d'IBM
Ubisoft a construit une nouvelle IA pour apprendre à une voiture à se conduire dans un jeu de course, en utilisant l'apprentissage par renforcement

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de yahiko
Rédacteur/Modérateur https://www.developpez.com
Le 08/01/2020 à 16:18
Je vois en tout cas des applications de cette technologie dans le domaine des jeux vidéos ou dans les films où on a régulièrement besoin de générer une grande quantité de personnages.
3  0 
Avatar de calvaire
Membre averti https://www.developpez.com
Le 08/01/2020 à 17:50
Euh... pour contourner le probleme de la diversité et du nombre de femmes on mets des fake à la place ?...
Je veux bien mais à la seul condition de m'envoyer une femme réel qui ressemble à la photo pour la rencontre ainsi qu'une personnalité proche du blabla que l'ia m'aura donné.

Cela dit les site de rencontres ont déja pas mal de compte fake, c'est pas comme si on ne mentait encore pas au client... autant améliorer la technique.

C'est du bullshit total, déja la miniature de la video montre une femme tres jolie... comme par hasars ils évident les femmes vielle, grosse et moche... sa n'attire pas.
Et je parle pas de l'argumentaire bateau :
des « situations embarrassantes » et des « procédures pénales ».
J'attends des exemples concrets qu'on rigole !
2  1 
Avatar de tanaka59
Membre émérite https://www.developpez.com
Le 08/01/2020 à 20:08
Bonjour ,

Que pensez-vous de cette technologie dans l'absolu ?
Cela peut avoir du bon pour le domaine du jeu, du loisir ou du film quand on veut créer du personnage de fiction en grande quantité

Beaucoup moins quand on chercher à créer "le corp parfait" ou pour les faussaires ... L'histoire des faux profils de femmes n'est la n'y plus ni moins que pour augmenter les revenus des sites de rencontres ... Quand on sait que dans certains pays comme le Chine ou l'Inde il manque plusieurs dizaine de millions de femmes proportionnelement au nombre d'hommes. C'est plutôt malsain de jouer avec "l'emotionnalité" des gens

Étant donné que cette technologie a déjà été utilisée par des acteurs malveillants (notamment la personne avec un faux compte LinkedIn en contact avec de hauts responsables de Washington) faut-il craindre le pire ?
Tout a fait . Associer cette techno à l'impression 3D de "faux visages". Vous avez des personnes qui peuvent passer sous le coup de la surveillance de masse ...

Quels pourraient être les cas d'utilisation les plus intéressants ?
Créer des avatars pour le JV ou le cinéma.

Un raccourci pour certaines plateformes qui pourraient donner l'illusion de la diversité ?
Tout à fait les sites de rencontre seraient prêts à jouer avec la crédulité des utilisateurs . En quoi est ce de la faute de la classe masculine par exemple d'être en surnombreuse par rapport à la classe féminine ? Avec de telles pratiques on accepterait et trouverait "normal" que d'user du temps et de l'argent de personnes qui finiront célibataire leur vie ?

Une entreprise aurait donc pouvoir de vie ou de mort sur des utilisateurs ? Le jour ou les utilisateurs masculins célibataires ne sont plus rentables on leur envoie un message en disant "suicidez vous on plus besoin de vous sur terre" ?

C'est caricatural je sais . En réfléchissant 2 minutes il y a tout de même de quoi se poser des questions ...

Cela ne choque personne de se dire tien il y a plus d'hommes que de femmes ? Qu'est ce que cela génère ? Des comportements malsain envers la gente féminine ou même déviant ...

C'est comme avec les sectes, il y a une sorte de lavage de cerveau et de "tirage de la mentalité" vers le bas. Pousser au consumérisme jusqu'à qu'on est plus besoin de l'individu et qu'il soit considéré comme un vulgaire déchet puis on passe au suivant ...

Dans le cas d'espèce, l'IA qui est capable de générer des visages réalistes est-elle une menace pour les mannequins de publicité ? Dans quelle mesure ?
Pour l'univers de la mode au lieu d'avoir des frais femmes mannequin on aura des femmes virtuelles , sous forme d'avatars aux mensurations parfaite ... Ou comment précariser d'une part l'univers de la mode . Les jeunes qui arrivent à faire du mannequina et a gagner quelques euros car elles ont le physique X ou Y tant mieux. Puis on s'en passera car il faut payer des êtres humains, on remplacera par des lignes de codes et des avatars ... La "beauté" est un critère très subjectif ...

Dans 5 ans on diraa que la femme parfaite c'est la baroudeuse rousse et masculine ? Puis dans 10 ans la femme latina ? Puis dans dans 20 ans la femme africaine ?

Je dis cela, je dis rien mais depuis quelques temps déjà la "femme" parfait dans les pubs/medias/JV ... c'est la blonde / brune a frange , de style urbain, moderne , cadre dynamique , insoumise , déterminée ... Et pourquoi pas le femme à bourrelé rousse ?

Je sais c'est méchant , mais en même temps quand on voit les caricatures pour vendre et faire consommer ...
1  0 
Avatar de MRSizok
Membre habitué https://www.developpez.com
Le 09/01/2020 à 8:05
Pour information, le minitel rose à l'époque utilisé des hommes déjà pour tchater avec des hommes... Les sites actuels de rencontre utilise déjà ces méthodes. Ils sont plus à une image prêt.

On peut voir ça comme la continuité de tout ce qui nous entoure "de fausses promesses"
0  0 
Avatar de tanaka59
Membre émérite https://www.developpez.com
Le 09/01/2020 à 11:00
Bonjour,

Citation Envoyé par MRSizok Voir le message
Pour information, le minitel rose à l'époque utilisé des hommes déjà pour tchater avec des hommes... Les sites actuels de rencontre utilise déjà ces méthodes. Ils sont plus à une image prêt.

On peut voir ça comme la continuité de tout ce qui nous entoure "de fausses promesses"
Avec la proliferation des contenus les problèmes sont amplifiés . D'autant qu'aujourd'hui 60% de la population mondial a accès à internet . On est plus au temps du minitel. Donc les problèmatiques liées à l'hyperconnectivité , aux contenux addictif et j'en passe , crée comme des "manques" ou le même effet que les drogues .

Le propre de chaque espèce est d'assurer sa descendance , humains compris. Va dire à une partie de la population mondiale qu'elle n'aura jamais accès à la chose. D'une part tu vas te faire incendier, d'autre part tu risques vite de déclencher de vives hostilités et des sentiments de frustrations , avec bon nombre de comportement malsains et immondes que l'on connait ...

On parle de plusieurs millions individus . Selon les estimations de l'omc près de 60 à 80 millions d'hommes en trop sur terre par rapport au nombre de femmes.
0  0