De faux profils créés pour augmenter les ventes des entreprises sans avoir à payer pour du personnel supplémentaire ? C'est ce qu'ont découvert des chercheurs sur les faux profils avec des images générés par l'IA : en utilisant de faux profils, les entreprises peuvent élargir leur réseau en ligne sans renforcer leur propre personnel de vente ni atteindre les limites de LinkedIn en matière de messages. La demande de prospects en ligne a explosé pendant la pandémie, car il est devenu difficile pour les équipes de vente de présenter leurs produits en personne.Deux chercheurs de Stanford ont trouvé plus de 1 000 faux profils sur LinkedIn qui ont utilisé des visages générés par l'IA. Renée DiResta et Josh Goldstein de l'Observatoire Internet de Stanford ont fait cette découverte après que DiResta ait reçu un message d'un profil signalé comme appartenant à un certain « Keenan Ramsey ». Cela ressemblait à un argumentaire de vente de logiciels normal à première vue, mais après une enquête plus approfondie, il est devenu évident que Ramsey était une personne entièrement fictive.
Alors que l'image semblait être une photo d'entreprise standard, elle comprenait également des éléments qui laissaient penser qu'il s'agissait d'un visage généré par l'IA comme ceux générés par des sites Web à l'instar de This Person Does Not Exist. DiResta a été spécifiquement avertie par l'alignement des yeux de Ramsey (le point mort de la photo), ses boucles d'oreilles (elle n'en portait qu'une) et ses cheveux, dont plusieurs mèches étaient floues en arrière-plan.
DiResta a d'abord pensé que le message de Ramsey pouvait être une tentative de phishing - essayant de la tromper pour qu'elle révèle des informations sensibles. Elle est devenue encore plus méfiante lorsqu'elle a reçu un message LinkedIn identique - comprenant les mêmes emojis - de quelqu'un d'autre prétendant être un employé de RingCentral et dont la photo de profil semblait également générée par ordinateur.
Puis elle a reçu un e-mail d'un troisième employé de RingCentral, faisant référence au message LinkedIn de Ramsey. Mais quand elle a recherché le nom de celui-ci, il semblait appartenir à une vraie personne qui travaillait dans l'entreprise.
Intrigués, DiResta et Goldstein, un stagiaire postdoctoral à Stanford, ont commencé à parcourir LinkedIn à la recherche de profils comme celui de Ramsey.
« En l'espace de quelques semaines, nous avons trouvé plus d'un millier de comptes qui semblent être de faux comptes avec des images générées par le GAN », a déclaré Goldstein. « Et lorsque nous avons recherché ces personnes sur Internet, nous n'avons trouvé aucune preuve de leur existence ailleurs, ce qui est rare ».
Les profils qu'ils ont repérés avaient également d'autres modèles en commun. Beaucoup ont décrit leurs emplois avec des variantes de titres tels que responsable du développement commercial, responsable du développement des ventes, responsable de la croissance et spécialiste de la génération de la demande.
Ils avaient souvent une brève liste de deux ou trois anciens employeurs, parfois des noms bien connus comme Amazon et Salesforce, sans aucun détail sur ces expériences. Lorsque NPR a contacté certaines des entreprises répertoriées comme anciens employeurs, aucune n'avait de trace des employés supposés y travailler.
« Ce n'est pas une histoire de mésinformation ou de désinformation, mais plutôt l'intersection d'un cas d'utilisation commerciale assez banal avec la technologie de l'IA, et les questions d'éthique et d'attentes qui en résultent. Quelles sont nos hypothèses lorsque nous rencontrons d'autres personnes sur les réseaux sociaux ? Quelles actions traversent la ligne de la manipulation », s'est demandé DiRestra sur Twitter.
Un recours à la génération d'images par IA pour embaucher moins de personnes ?
Un média a tenté de vérifier les affirmations des chercheurs et a découvert plus de 70 entreprises qui étaient répertoriées comme employeurs sur ces faux profils. Plusieurs ont déclaré qu'ils avaient embauché des spécialistes du marketing externes pour aider aux ventes. Cependant, ils ont déclaré qu'ils n'avaient autorisé aucune utilisation d'images générées par ordinateur, et beaucoup ont été surpris et ont semblé les découvrir lorsque la question leur a été posée.
De nombreux profils LinkedIn semblent avoir un objectif beaucoup plus banal : augmenter les ventes pour les entreprises, grandes et petites. Des comptes comme celui de Keenan Ramsey envoient des messages à des clients potentiels. Quiconque mord à l'hameçon est mis en relation avec un vrai vendeur qui essaie de conclure l'affaire. Pensez-y comme du télémarketing à l'ère du numérique.
En utilisant de faux profils, les entreprises peuvent élargir leur réseau en ligne sans renforcer leur propre personnel de vente ni atteindre les limites de LinkedIn en matière de messages. La demande de prospects en ligne a explosé pendant la pandémie, car il est devenu difficile pour les équipes de vente de présenter leurs produits en personne.
Le média n'a pas été en mesure de vérifier de manière indépendante qui a créé les profils ou les images, ni trouvé quiconque ayant autorisé leur utilisation. Il n'a pas non plus trouvé d'activité illégale associée à ces profils. Mais ces photos de profil LinkedIn générées par ordinateur illustrent comment une technologie qui a été utilisée pour propager la désinformation et le harcèlement en ligne a fait son chemin dans le monde de l'entreprise.
D'un point de vue commercial, créer des comptes de médias sociaux avec des visages générés par ordinateur a ses avantages : cela revient moins cher que d'embaucher plusieurs personnes pour créer de vrais comptes, et les images sont convaincantes.
Une étude récente a révélé que les visages créés par l'IA sont devenus « indiscernables » des vrais visages. Les gens n'ont que 50 % de chances de deviner correctement si un visage a été créé par un ordinateur. « Si vous demandez à la personne moyenne sur Internet, 'Est-ce une personne réelle ou générée synthétiquement ?' ils vont essentiellement répondre au hasard », a déclaré Hany Farid, expert en digital media forensics à l'Université de Californie à Berkeley, coauteur de l'étude avec Sophie J. Nightingale de l'Université de Lancaster.
Quelle est la personne réelle ? Quelle est celle qui est générée par une IA ?
Leur étude a également révélé que les gens considèrent les visages créés par ordinateur légèrement plus fiables que les vrais. Farid soupçonne que c'est parce que l'IA s'en tient aux caractéristiques les plus moyennes lors de la création d'un visage.
« Ce visage a tendance à sembler digne de confiance, parce qu'il est familier, n'est-ce pas ? Il ressemble à quelqu'un que nous connaissons », a-t-il déclaré. Il craint que la prolifération du contenu généré par l'IA n'augure une nouvelle ère de tromperie en ligne, utilisant non seulement des images fixes, mais aussi des « deepfakes » audio et vidéo.
La réaction de LinkedIn
Après que les chercheurs de Stanford ont alerté LinkedIn sur les profils, LinkedIn a déclaré avoir enquêté et supprimé ceux qui enfreignaient ses politiques, y compris les règles contre la création de faux profils ou la falsification d'informations. LinkedIn n'a pas donné de détails sur la manière dont il a mené son enquête.
« Nos politiques indiquent clairement que chaque profil LinkedIn doit représenter une personne réelle. Nous mettons constamment à jour nos défenses techniques pour mieux identifier les faux profils et les supprimer de notre communauté, comme nous l'avons fait dans ce cas », a déclaré la porte-parole de LinkedIn, Leonna Spilman. « En fin de compte, il s'agit de s'assurer que nos membres peuvent entrer en contact avec de vraies personnes, et nous nous efforçons de garantir qu'ils disposent d'un environnement sûr pour le faire ».
En effet, sur sa page Professional community policies, à la section fiabilité, LinkedIn est très clair : « Nous vous demandons d’utiliser votre véritable identité sur LinkedIn, de fournir des informations exactes vous concernant ainsi que votre organisation, et de partager uniquement des informations réelles et authentiques » :
- ne partagez pas de contenu faux ou trompeur : ne partagez pas de contenu d’une façon dont vous savez ou pensez qu’elle pourrait être trompeuse ou inexacte, y compris de fausses informations ou de la désinformation ;
- ne créez pas de faux profil et ne falsifiez pas des informations vous concernant : tout faux profil ou fausse entité est interdit. Ne publiez pas d’informations trompeuses ou fallacieuses sur vous-même, votre entreprise, vos qualifications, votre expérience professionnelle, vos affiliations ou vos réalisations. N’utilisez pas la photo de quelqu’un d’autre ou toute autre image qui ne vous représente pas comme photo de profil.
Des motifs parfois plus obscurs
Ce n'est pas la première fois que visages créés par une IA sont utilisés sur les réseaux sociaux. En 2021, une série de tweets antisyndicaux ont été envoyés à partir de comptes prétendant être des employés des entrepôts Amazon. Ils ont été bannis de Twitter et bon nombre de leurs photos de profil semblaient provenir du même type d'IA que les photos utilisées sur LinkedIn. Amazon a nié tout lien ou responsabilité pour les profils et leurs tweets.
Bien sûr, les types d'incidents comme celui qui s'est produit sur Twitter sont différentq de ce qu'ont vécu les deux chercheurs et sans doute pire : au lieu d'essayer de faire une vente d'une manière moins directe, les robots Twitter d'Amazon et d'autres sources poussent généralement la désinformation et la propagande, à la fois pour les entreprises et les gouvernements. Par exemple, dans le cas des « faux » comptes prétendant être des travailleurs d'Amazon, ils ont été créés dans un contexte où des employés d’Amazon en Alabama ont été invités à voter pour décider si ledit entrepôt devient le premier de l'entreprise à voir son personnel se regrouper en syndicats aux États-Unis.
Nombreuses étaient les publications qui dénonçaient les conditions de travail au sein des locaux du géant du commerce en ligne : usage de logiciels de navigation, bracelets, caméras thermiques, caméras de sécurité, enregistrements. Amazon tentait de justifier son recours à ces outils en arguant qu’il s’agit de dispositifs destinés à encadrer la productivité des employés : « Les performances des employés sont mesurées et évaluées sur une longue période, car nous savons que divers facteurs peuvent avoir un impact sur la capacité à répondre aux attentes d'un jour ou d'une heure donnés. Nous soutenons les personnes qui ne sont pas performantes au niveau attendu grâce à un accompagnement spécifique pour les aider à s'améliorer. »
Les entrepôts d’Amazon sont automatisés et certains postes sont occupés par des robots. La société s’appuie sur des capteurs animés par une intelligence artificielle afin de suivre la productivité des employés. L’IA est même en mesure de générer de façon automatique les documents nécessaires au licenciement en cas de non-atteinte des objectifs. Ce seul motif a mené au licenciement de plus de 300 employés travaillant dans un des entrepôts de l’entreprise à Baltimore pendant la période allant d'août 2017 à septembre 2018.
L'objectif des faux comptes était donc de faire pencher la balance en faveur du « non » à la création d'un syndicat. Pour y parvenir, ils faisaient les éloges des conditions de travail chez Amazon et plantaient les graines du doute quant à l'utilité de former un syndicat. Il y avait par exemple ce tweet qui disait : « Ce qui me dérange le plus dans les syndicats, c'est qu'il n'y a pas de possibilité de se retirer des cotisations », ou encore cet autre qui disait : « Les syndicats sont bons pour certaines entreprises, mais je ne veux pas avoir à débourser des centaines de dollars par mois uniquement pour les avocats ! »
Les visages générés par IA
Les faux visages utilisés par Ramsey et l'innombrable armée de bots comme elle sont générés par des réseaux antagonistes généraux, ou GAN.
Le concept de GAN a été introduit pour la première fois en 2014 par le célèbre informaticien Ian Goodfellow, et depuis lors, NVIDIA est à la pointe de la technologie. Tero Karras, chercheur principal de la société, a dirigé de nombreuses études sur le GAN.
Un GAN est un modèle génératif où deux réseaux sont placés en compétition dans un scénario de théorie des jeux. Le premier réseau est le générateur, il génère un échantillon (ex. une image), tandis que son adversaire, le discriminateur essaie de détecter si un échantillon est réel ou bien s'il est le résultat du générateur. L'apprentissage peut être modélisé comme un jeu à somme nulle. Ces programmes informatiques se font concurrence des millions de fois afin d’affiner leurs compétences en matière de génération d’images jusqu’à ce qu’ils aient la capacité de créer des images complètes.
Il peut être difficile de distinguer un visage généré par GAN d'un vrai, mais il y a quelques signes révélateurs :
- les arrière-plans sont souvent indistincts, flous ou irréguliers ;
- les vêtements semblent souvent irréguliers, avec des cols incohérents, des lignes imprécises et d'autres artefacts similaires ;
- les dents peuvent apparaître irrégulières ou se fondre dans les lèvres ;
- les cheveux semblent avoir des mèches rebelles en excès, qui peuvent disparaître et réapparaître, tandis que les cheveux plus longs peuvent sembler imprécis ;
- les reflets et l'éclairage peuvent être irréguliers ;
- des pépins dans la peau ;
- des accessoires manquants ou irréguliers ;
- les yeux de la personne sont parfaitement centrés dans l'image.
Une étude récente a révélé que la personne moyenne n'a pas plus de chance que de chance de distinguer un vrai visage d'un visage généré par l'IA. Si vous pensez pouvoir faire mieux, testez-vous sur ce site.
Quel visage est réel et lequel a été généré par une IA ? Testez-vous sur ce site ?Sources : étude sur les visages générés par IA, LinkedIn
Et vous ?
Que pensez-vous d'une stratégie visant à employer des faux profils avec des images générés par une IA pour conclure des ventes ? Êtes-vous surpris de voir des entreprises y avoir recours, volontairement ou non ? Êtes-vous pour ou contre ce genre de pratique ? Dans quelle mesure ? Arrivez-vous à distinguer le visage réel de celui généré par une IA ?Voir aussi :
Ce site montre des portraits de visages humains générés par une IA. Aucun d'entre eux n'est réel. Actualisez la page pour en voir un nouveau De « faux » comptes prétendant être des travailleurs d'Amazon ont fait l'éloge de leurs conditions de travail sur Twitter, pour encourager les employés à ne pas voter pour la syndicalisation 
