Ce photographe dont les portraits sont devenus viraux a une confession : ses « photos » sont générées par IA

« tout a commencé comme une expérience sociale » explique-t-il pour justifier son mensonge

Avec plus de 29 000 abonnés et un compte en pleine croissance, le compte Instagram de Jos Avery a un tour dans sa manche. Bien qu’il puisse sembler présenter de superbes portraits photo de personnes, ce ne sont pas du tout des personnes, enfin... pas toutes. Avery publie des portraits générés par l’IA depuis quelques mois, et alors que de plus en plus de fans louent ses talents de photographe apparemment magistraux, il s'est senti obligé de dire la vérité, probablement de peur que quelqu'un ne découvre le pot aux roses.

Le profil Instagram de Jos Avery est passé de 12 000 abonnés en octobre à plus de 29 000 en quelques mois seulement. Ses portraits montrent des visages d'hommes et de femmes d'âges et d'horizons différents, parfois aux expressions mélancoliques. Il n'y a qu'un hic : il les a réalisés avec Midjourney, une Intelligence Artificielle générative qui prend en entrée de courtes descriptions textuelles et les transforme en image. Regardez-vous même quelques clichés.


Pour enfumer encore plus les spectateurs, il écrivait de petites descriptions sur ces personnes supposées être ses mannequins, prenant le soin de leur inventer des noms et donnant des détails colorés sur un passage de leur vie ou donnait le lieu où il aurait filmé son mannequin. Voici un exemple :

Les histoires semblent captiver les téléspectateurs, qui apprécient suffisamment le travail pour laisser des éloges effusifs. Cela a été une épée à double tranchant pour Avery, car la plupart de ses nouveaux fans pensent que les images sont de vraies photos, et il n'a pas su comment divulguer ce fait. Il est pris au piège entre la célébrité soudaine d'Instagram et le fait de savoir que dire la vérité pourrait tout gâcher.

En effet, peu de temps après le lancement du flux Instagram d'Avery en octobre, des commentaires positifs sur ses photos générées par IA ont commencé à affluer. « Tout ce que je peux dire, c'est : votre art est en quelque sorte unique, très unique, également très précieux », a écrit un commentateur le mois dernier. « Vous établissez de nouveaux points forts dans la photographie contemporaine à mon humble avis ! Votre travail est un grand plaisir pour l'esprit et l'âme ».

Jusqu'à très récemment, lorsqu'il lui a été demandé, Avery était soit vague sur la façon dont il créait les images, soit disait aux gens que ses œuvres étaient de véritables photographies, allant même jusqu'à décrire le type d'appareil photo qu'il utilisait pour les créer; il est passé d'un commentaire générique ("J'utilise Nikon" à des commentaires plus spécifiques ("Un Nikon D810 avec un objectif 24-70 mm".

Et peut-être qu'Avery utilise vraiment cet appareil photo pour ses prises de vue. Mais pas pour les images qui ont été publiées sur Instagram.

Quoi qu'il en soit, sa culpabilité a commencé à grandir à mesure qu'il connaissait du succès.

Pour justifier sa tromperie dans sa propre conscience, il a commencé par remettre en question le spectre flou de la « réalité » dans le paysage des multimédias, qui a fortement manipulé les images visuelles, devant et derrière la caméra, pendant plus d'un siècle. Étant donné qu'il y a des astuces pour retoucher la photo allant de la chambre noire à Photoshop, la synthèse de l'IA était peut-être la prochaine étape de cette évolution, s'est-il demandé. Peut-être que c'était OK ?

« Il semble peut-être "juste" que divulguer qu'une œuvre d'art a été générée par l'IA est plus honnête », déclare Avery. « Cependant, les personnes qui se maquillent sur les photos le révèlent-elles ? Qu'en est-il de la chirurgie esthétique ? Chaque photographie de mode commerciale a une forte dose de Photoshopping, y compris le remplacement du corps des célébrités sur les couvertures des magazines ».

D'une certaine manière, la tromperie fait partie de la photographie depuis le début. Mais déformer votre métier est une tout autre chose, et c'est la réalité avec laquelle Avery allait se débattre une fois que les gens sauraient qu'il n'a pas utilisé d'appareil photo pour faire ses images.

Malgré tout, Avery se considère toujours comme un artiste précisément parce que l'image créée par Midjourney est ensuite retouchée longuement à l'aide de programmes tels que Lightroom et Photoshop.

« Il faut beaucoup d'efforts pour prendre des éléments générés par l'IA et créer quelque chose qui ressemble à un photographe humain », a déclaré Avery. « Le processus de création est entre les mains du photographe, pas de l'ordinateur ».

Mais Avery n'a pas fait ce qu'il dit : il n'a pas prévenu qu'il utilisait des photographies générées avec une IA générative comme Midjourney.


Le mea culpa ?

« [Mon compte Instagram] a explosé jusqu'à près de 12 000 abonnés depuis octobre, plus que ce à quoi je m'attendais », a écrit Avery lorsqu'il a contacté un quotidien pour la première fois en janvier. « Parce que c'est là que je poste des portraits générés par l'IA et finis par l'homme. Probablement plus de 95 % des abonnés ne se rendent pas compte. J'aimerais être clair ».

Avery souligne que même si ses images ne sont pas de véritables photographies (sauf deux, assure-t-il), elles nécessitent encore beaucoup de talent artistique et de retouches de sa part pour passer pour photoréalistes. Pour les créer, Avery utilise initialement Midjourney, un outil de synthèse d'images alimenté par l'IA. Il combine et retouche ensuite les meilleures images à l'aide de Photoshop.

Avec Midjourney, n'importe qui peut payer un abonnement pour avoir le privilège de générer des images à partir de descriptions textuelles. Les créateurs de Midjourney ont appris au modèle d'IA comment synthétiser des images en lui montrant des millions d'exemples d'art d'autres artistes. Il peut générer de superbes images photoréalistes qui peuvent tromper certaines personnes en leur faisant croire qu'il s'agit de vraies photos, surtout si elles sont retouchées plus tard.

Avery a expliqué son processus de création d'images, qui consiste à générer des milliers d'images avec Midjourney et à combiner souvent les meilleures parties de plusieurs images. La sélection de ces images générées par l'IA, qui incluent souvent des défauts évidents (en particulier dans les yeux, les visages et les mains), est un processus fastidieux avec les outils actuels.

« J'ai quelque chose comme 160 publications Instagram », déclare Avery. « Afin de les créer, j'ai généré 13 723 images, sans compter les milliers d'annulations en cours de travail non comptées. En d'autres termes, je génère environ 85 images pour créer une image utilisable, sans compter plusieurs images dont je finis par ne pas me servir ».

À l'origine sceptique de l'IA, Avery s'est converti à la nouvelle forme d'art. Un tel travail suscite une grande controverse dans le monde de l'art, en partie en raison de problèmes éthiques liés au scrapping d'œuvres d'art créées par l'homme sans consentement. Mais grâce à ces connaissances artistiques intégrées au modèle, certains des praticiens les plus qualifiés, aidés par l'IA, peuvent rendre l'imagerie beaucoup plus vivante que si un humain travaillait seul dessus.

« Honnêtement, je suis en conflit », a déclaré Avery lorsqu'il a approché un journal pour raconter son histoire. « Mon objectif initial était de tromper les gens pour qu'ils présentent l'IA, puis d'écrire un article à ce sujet. Mais maintenant, c'est devenu un exutoire artistique. Mon point de vue a changé ».

Quoiqu'il en soit, depuis quelques semaines, les commentaires sur les publications Instagram de son profil sont désactivés et la description utilise le hashtag #ia et #digitalart pour indiquer qu'il ne s'agit pas de photographies prises avec un appareil photo.

Une plainte en recours collectif est déposée contre Stability AI, Midjourney et DeviantArt

Tandis qu'Avery se sert de ce type de produit, des artistes ont décidé d'attaquer leurs concepteurs.

Daniel Danger est un illustrateur et graveur qui a appris qu'un certain nombre de ses œuvres avaient été utilisées pour entraîner Stable Diffusion. Danger, dont les œuvres d'art comprennent des affiches pour des groupes comme Phish et Primus, est l'un des nombreux artistes professionnels qui ont déclaré qu'ils craignaient que les générateurs d'images IA ne menacent leur gagne-pain. Il craint que les images que les gens produisent avec les générateurs d'images IA ne remplacent certains de ses travaux plus « utilitaires », qui comprennent des supports comme des couvertures de livres et des illustrations pour des articles publiés en ligne. « Pourquoi allons-nous payer un artiste 1 000 dollars alors que nous pouvons avoir 1 000 images à choisir gratuitement ? », a-t-il demandé.

Tara McPherson, une artiste basée à Pittsburgh dont les œuvres figurent sur des jouets, des vêtements et dans des films comme le film oscarisé « Juno », s'inquiète également de la possibilité de perdre certains travaux au profit de l'IA. Elle se sent déçue et « exploitée » du fait que son travail a été inclus dans l'ensemble de données à l'origine de Stable Diffusion sans qu'elle en soit informée, a-t-elle déclaré. « À quel point cela va-t-il être facile ? À quel point cet art va-t-il devenir élégant ? Pour l'instant, c'est parfois un peu bancal, mais ça ne fait que commencer », s’est-elle interrogée.

Si les inquiétudes sont réelles, les recours ne sont pas clairs. Même si les images générées par l'IA ont un impact généralisé (par exemple en changeant les modèles commerciaux) cela ne signifie pas nécessairement qu'elles violent les droits d'auteur des artistes, selon Zahr Said, professeur de droit à l'Université de Washington. Et il serait prohibitif d'accorder une licence à chaque image d'un ensemble de données avant de l'utiliser, a-t-elle ajouté. « On peut avoir de la sympathie pour les communautés artistiques et vouloir les soutenir, mais aussi se dire qu'il n'y a pas moyen de le faire. Si nous faisions cela, cela reviendrait à dire que l'apprentissage automatique est impossible », a-t-elle conclu.

McPherson et Danger ont envisagé la possibilité d'apposer des filigranes sur leurs œuvres lors de leur mise en ligne afin de protéger les images (ou du moins de les rendre moins attrayantes). Mais McPherson a déclaré que lorsqu'elle a vu des amis artistes mettre des filigranes sur leurs images en ligne, cela « ruine l'art, et la joie des gens qui le regardent et y trouvent de l'inspiration ».

S'il le pouvait, Danger a déclaré qu'il retirerait ses images des ensembles de données utilisés pour former les systèmes d'IA. Mais le fait de retirer les images de l'œuvre d'un artiste d'un ensemble de données n'empêcherait pas Stable Diffusion de générer des images dans le style de cet artiste.

C'est dans ce contexte qu'a été déposée une plainte en recours collectif.

Le Joseph Saveri Law Firm, LLP (un cabinet de recours collectif de premier plan avec des bureaux en Californie et à New York) en association avec Matthew Butterick et Lockridge, Grindal, Nauen P.L.L.P. ont intenté une action en justice devant le tribunal de district des États-Unis pour le district nord de la Californie au nom d'une catégorie de plaignants demandant une indemnisation pour les dommages causés par Stability AI, DeviantArt et Midjourney, et une injonction pour prévenir de futurs dommages.

Le procès allègue une violation directe du droit d'auteur, une violation indirecte du droit d'auteur liée à des contrefaçons, des violations du Digital Millennium Copyright Act (DMCA), une violation des droits de publicité des membres du groupe, une rupture de contrat liée aux conditions d'utilisation de DeviantArt et diverses violations de la loi californienne sur la concurrence déloyale.

Source : Jos Avery

Et vous ?

Que pensez-vous du fait qu'Avery n'ait pas indiqué dès le départ que ses œuvres étaient produites par une IA ?
Le fait qu'il ait dû retoucher les images avant publication pouvait-il l'exempter de l'indiquer ?
Que penser alors des descriptions et noms qu'il donne à ses personnages ainsi que les lieux où il indique les avoir filmés ?
« Cependant, les personnes qui se maquillent sur les photos le révèlent-elles ? Qu'en est-il de la chirurgie esthétique ? Chaque photographie de mode commerciale a une forte dose de Photoshopping, y compris le remplacement du corps des célébrités sur les couvertures des magazines ». Que pensez-vous du fait d'utiliser cet argument pour ne pas révéler la supercherie au public ?
Au vu de la qualité des images, vous seriez-vous laissé avoir ?