Les deepfakes IA deviennent si efficaces qu’une publicité frauduleuse de MrBeast a échappé à la technologie de modération des publicités de TikTok pour se retrouver sur la plateforme. Dans la publicité, le créateur extrêmement influent semblait offrir à 10 000 téléspectateurs un iPhone 15 Pro pour seulement 2 $. Dans la plupart des cas, cela indiquerait clairement une arnaque, mais venant de MrBeast, cela pourrait en fait être crédible.Et cette publicité n'est que la partie émergée de l'iceberg.
TikTok, la populaire plateforme de partage de vidéos, a été critiquée pour avoir diffusé une publicité trompeuse mettant en scène une fausse image de MrBeast, un célèbre créateur de contenu sur YouTube, qui prétendait offrir des iPhone 15 Pro à 2 dollars dans le cadre d’un tirage au sort de 10 000 téléphones. La vidéo sponsorisée semblait officielle car elle comportait le logo de MrBeast et une coche bleue à côté de son nom. Mais pour les utilisateurs avertis, les traces de manipulation par l’IA étaient évidentes. La voix de MrBeast sonnait de façon déformée et ses mouvements de bouche paraissaient étranges.
MrBeast (un jeune de 25 ans nommé Jimmy Donaldson avec 189 millions d'abonnés sur YouTube) est devenu célèbre en créant des vidéos de cascades de plus en plus absurdes dans lesquelles il offre aux gens des maisons et des voitures gratuites sans aucune condition que celle d'accepter d'être dans sa vidéo). Ou, plus récemment, il demandera à des gens de « tous les pays du monde » de concourir pour un prix de 250 000 $ dans une série de mini-jeux de type olympique.
Il a également proposé de découvrir des voitures de la plus banale à la plus extravagante :
Donc, si vous n’êtes pas particulièrement doué pour repérer les arnaques, et que vous parcourez TikTok tard sans vous prendre la tête, il pourrait être dans le domaine du possible que MrBeast achète 10 000 iPhone pour les offrir via une publicité TikTok. Après tout, il a déjà offert des iPhones gratuits à des enfants qui faisaient du porte-à-porte pour Halloween (et l'un d'eux a même reçu 10 000 dollars) :
C'est sur X, l'ancien Twitter, que MrBeast a révélé la supercherie :
Beaucoup de gens reçoivent cette publicité frauduleuse de moi… les plateformes de médias sociaux sont-elles prêtes à gérer la montée des deepfakes de l’IA ? Ceci est un sérieux problème
Cela pourrait expliquer comment la publicité deepfake a été approuvée sur TikTok. TikTok utilise un mélange de modération humaine et, assez ironiquement, de technologie assistée par l'IA pour examiner les publicités avant leur publication.
TikTok a déclaré qu'il avait supprimé l'annonce quelques heures après sa publication, car elle violait les politiques publicitaires de TikTok. TikTok n’interdit pas totalement aux annonceurs d’utiliser des images de synthèses ou des deepfake, mais la plateforme exige que les annonceurs divulguent très clairement s’ils utilisent ce type de technologie.
TikTok n’est pas le seul à utiliser l’IA pour modérer les publicités. Meta affirme qu’elle s’appuie « principalement sur une technologie automatisée », mais comme TikTok, elle utilise des évaluateurs humains pour entraîner son IA et examine parfois manuellement les publicités.
Envoyé par Meta
Notre système d’examen des publicités repose principalement sur une technologie automatisée qui vérifie que les millions de publicités diffusées sur nos applications respectent bien les Standards publicitaires. Toutefois, nous avons aussi recours à des examinateur·ices humain·es afin d’améliorer et d’enrichir nos systèmes automatiques et, dans certains cas, de vérifier manuellement certaines publicités.
Le système d’examen des publicités vérifie qu’elles respectent nos Standards publicitaires. La conformité d’une publicité à l’ensemble de nos politiques peut ne pas être vérifiée avant de diffuser des impressions, même si toutes les publicités peuvent être soumises à tout moment à un nouvel examen. Nous continuons d’améliorer notre système de mise en application existant en testant et en implémentant de nouvelles approches afin de garantir un processus d’examen des publicités juste et efficace. Par exemple, nous pouvons examiner la conformité historique d’un annonceur à nos Standards publicitaires au moment de déterminer si une publicité donnée nécessite un examen supplémentaire par rapport à une politique spécifique.
Ce processus d’examen peut inclure les composants propres à une publicité, comme les images, les vidéos,...
Le système d’examen des publicités vérifie qu’elles respectent nos Standards publicitaires. La conformité d’une publicité à l’ensemble de nos politiques peut ne pas être vérifiée avant de diffuser des impressions, même si toutes les publicités peuvent être soumises à tout moment à un nouvel examen. Nous continuons d’améliorer notre système de mise en application existant en testant et en implémentant de nouvelles approches afin de garantir un processus d’examen des publicités juste et efficace. Par exemple, nous pouvons examiner la conformité historique d’un annonceur à nos Standards publicitaires au moment de déterminer si une publicité donnée nécessite un examen supplémentaire par rapport à une politique spécifique.
Ce processus d’examen peut inclure les composants propres à une publicité, comme les images, les vidéos,...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Quels sont les risques potentiels de cette pratique pour la société, la démocratie et la sécurité ? Comment les éviter ou les atténuer ?