L'éditeur de logiciels V7 Labs a créé une nouvelle extension Google Chrome qui serait capable de détecter les fausses photos de profil créées à l'aide de l'intelligence artificielle (IA). L'éditeur estime que son logiciel peut déterminer, avec un taux de précision de 99,28 %, si les images publiées sur Internet, en particulier les plateformes de médias sociaux, appartiennent à des personnes réelles ou ont été générées par une IA. Mais elle a averti que le modèle d'IA, "Fake Profile Detector", ne fonctionne qu'avec les images StyleGAN et ne détecte pas les deepfakes vidéo ou les transformations de visage.Avec la montée en puissance de l'imagerie générée par l'IA ces dernières années, la création de fausses images, même de visages humains très réalistes, est devenue plus répandue et plus facilement accessible que jamais, notamment grâce à des modèles d'IA tels que BigGAN et StyleGAN. BigGAN est un GAN (generative adversarial networks) conçu pour la génération à grande échelle d'images haute résolution et haute fidélité. StyleGAN quant à lui est un type de GAN introduit par les chercheurs en IA de Nvidia en décembre 2018 et rendu disponible en février 2019. StyleGAN dépend du logiciel CUDA de Nvidia, des GPU et de TensorFlow.
Ainsi, il devient de plus en plus difficile de distinguer avec les yeux les images réelles de celles qui ont été générées à l'aide de ces outils. Par exemple, "This Person Does Not Exist", le générateur de portraits artificiels en ligne alimenté par le réseau neuronal StyleGAN de NVIDIA, est devenu très populaire dernièrement en raison du réalisme des visages qu'elle génère. Cependant, une nouvelle extension Chrome de V7 Labs dénommée "Fake Profile Detector" (FPD) veut faire en sorte qu'il ne soit plus nécessaire de deviner quels visages sur le Web sont faux et lesquels sont légitimes, et ce, avec une précision annoncée de 99,28 %.
Comme l'explique Alberto Rizzoli, fondateur de V7 Labs, dans une vidéo publiée sur Loom, l'extension est conçue pour nous débarrasser des contenus trompeurs et des faux profils de personnes qui n'existent tout simplement pas dans le monde réel. Rizzoli espère que la sensibilisation aux faux profils, ainsi que son outil de détection de faux visage permettront aux utilisateurs de ne pas être la proie d'escroquerie en ligne et de désinformation. « Il y a beaucoup de contenu trompeur sur les médias sociaux ces jours-ci et l'un de ses propagateurs est les faux profils », a-t-il déclaré tout en faisant la démonstration du logiciel dans la vidéo.
Rizzoli a également noté que certaines photos, en particulier celles générées par le site Web mentionné plus haut, présentent des anomalies notables, notamment des pupilles de forme étrange et des boucles d'oreilles maladroitement placées qui laissent penser qu'il s'agit d'un faux. Comme le souligne This Person Does Not Exist lui-même - qui sensibilise également sur les faux profils - un réseau neuronal fait parfois des erreurs, d'où l'apparition d'artefacts tels qu'un motif mal plié, une couleur de cheveux étrange, etc. Il existe toutefois des portraits générés par des logiciels plus avancés qui sont capables d'éviter les défauts typiques.
Mais FPD serait capable de déterminer rapidement si de telles photos de profil sont fausses en quelques clics. Selon V7 Labs, cette extension ne fonctionne pour l'instant que sur les images générées à l'aide de StyleGAN, comme celles de This Person Does Not Exist. Et bien que l'idée puisse sembler un peu exagérée, Rizzoli a déclaré que "cette extension Chrome aidera les autorités (et les gens ordinaires) à repérer et à signaler les profils qui diffusent des infox et créent un chaos informationnel", et a cité l'exemple d'un compte Twitter qu'il a détecté et qui utilise un visage généré par l'IA pour diffuser de fausses informations sur la guerre en Ukraine.
Il s'agit d'un cas un peu extrême, mais des exemples plus courants incluent des choses comme de faux profils sur Facebook qui tentent de vendre sur Marketplace des objets qu'ils ne possèdent pas (les cas d'escroquerie sont en augmentation), de faux profils sur LinkedIn, de faux témoignages d'entreprises voulant inspirer confiance à leurs victimes potentielles. Il existe d'innombrables autres exemples où des personnes se font passer pour quelqu'un qu'elles ne sont pas afin d'essayer d'obtenir un avantage financier ou autre de la part des victimes. Si Rizzoli estime que son logiciel est une solution contre problèmes, d'autres pensent que non.
Certains critiques ont émis des réserves quant à la fiabilité et l'efficacité de l'extension. « En toute discrétion, c'est la même société qui fabrique lesdites images. Le système est truqué », a déclaré l'un d'entre eux. « Pour les modèles GAN, étant donné qu'un générateur et un classificateur sont nécessaires pour s'améliorer l'un l'autre, il ne serait pas surprenant que la même entreprise crée à la fois le problème et la solution », a ajouté un autre. En matière de confidentialité, V7 Labs affirme que l'extension Fake Profile Detector ne collectera ni n'utilisera aucune des données de ses utilisateurs.
Source : Fake Profile Detector
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous de l'extension Fake Profile Detector ? Pensez-vous qu'elle pourrait aider à lutter contre la propagation des infox comme l'auteur le prétend ?Voir aussi
Une intelligence artificielle a recomposé des photos "réalistes" de personnages historiques comme Napoléon Bonaparte et Jules César, à l'aide de réseaux adverses génératifs Avec l'IA Deep Nostalgia, il est possible de transformer de vieilles photos de vos proches en vidéos émouvantes, les mouvements sur les vidéos sont pour l'instant limités au visage Clearview AI voudrait mettre presque tous les humains dans sa base de données de reconnaissance faciale, 100 milliards de photos rendraient presque tout le monde « identifiable » selon l'entreprise Microsoft met au point une IA qui restaure automatiquement les vieilles photos endommagées en éliminant les dégradations et les rayures, une technique basée sur l'apprentissage profond