« Voici l'IA que les hommes utilisent vraiment » : des publicités de Meta mettent en avant des applis de nudification de vraies adolescentes

La modération automatique se retrouve à nouveau au centre des débats

Une enquête majeure menée par l'organisme de surveillance Tech Transparency Project (TTP) a révélé que Meta a approuvé et diffusé des centaines de publicités pédocriminelles faisant la promotion d'applications de nudification par intelligence artificielle (Deepfakes). Ces annonces, diffusées sur Facebook, Instagram, Messenger et Threads, utilisaient parfois des photos de véritables adolescents et enfants pour inciter les utilisateurs à télécharger des applications permettant de générer des images déshabillées. Le tableau ravive la controverse autour de la modération automatisée de contenus en ligne.

Les annonces affichaient des slogans explicites comme "L'IA que les hommes utilisent vraiment" ou incitaient à "laisser libre cours à son imagination". Plus de 250 annonces ont directement exploité le visage de vrais enfants

Les annonces affichaient des slogans explicites comme "L'IA que les hommes utilisent vraiment" ou incitaient à "laisser libre cours à son imagination". En cliquant sur le lien, l'utilisateur était redirigé vers des plateformes (parfois sur l'App Store ou le Google Play Store) pour télécharger des applications conçues pour virtuellement déshabiller des personnes. Dans certains cas extrêmes, les visages des enfants étaient superposés sur des vidéos pornographiques explicites d'adultes.

Plus de 250 annonces ont directement exploité le visage de vrais enfants. Parmi les victimes identifiées figurent une jeune influenceuse d'Instagram, un enfant issu d'une banque d'images, et un jeune membre d'une famille royale européenne dont la photo de presse officielle a été détournée.

Selon le rapport du TTP, la majorité de ces publicités proviennent d'applications créées par des développeurs chinois et ont été diffusées via des agences publicitaires partenaires de Meta en Chine (telles que GIMC et BlueFocus).

Au total, 332 publicités à caractère pédocriminel ont passé avec succès les filtres de modération automatisés de Meta. L'organisme TTP a souligné que Meta a mis parfois plus d'une semaine à réagir après signalement, laissant les publicités accumuler des milliers de vues.

After researchers alerted Meta to hundreds of ads featuring AI-generated child sexual abuse images that were running on its platform, the ads continued to appear despite the company claiming its new detection tools would block such content. https://t.co/Kk5v1SOs7M

— SFist (@SFist) September 9, 2026

La controverse autour de cette affaire tient sur plusieurs aspects parmi lesquels la faillite de la modération de contenu automatique

La principale controverse réside dans le fait que ces publicités n'étaient pas des contenus publiés secrètement par des tiers sur des profils privés, mais des contenus payants audités et validés par Meta. Malgré les promesses répétées de Mark Zuckerberg concernant le déploiement de nouvelles technologies de détection par IA, le système automatisé s'est avéré totalement inefficace face à ces visuels explicites.

Les associations de protection de l'enfance pointent du doigt le modèle économique : Meta a perçu des revenus publicitaires directs pour diffuser des images exploitant sexuellement des mineurs. Bien que les sommes soient jugées dérisoires par Meta, le principe même de monétiser ces incitations au crime sexuel suscite une immense indignation.

Cette affaire explose alors même que Meta traverse une tempête judiciaire sans précédent. Une trentaine d'États américains ont intenté un procès historique à Oakland contre la firme, l'accusant d'avoir sciemment conçu Instagram et Facebook pour rendre les jeunes accros tout en dissimulant les dangers pour leur santé mentale. La révélation de ces failles de sécurité sur la pédopornographie aggrave considérablement la position de l'entreprise face aux procureurs généraux.


Quels enseignements techniques peut-on en tirer en matière de modération automatique de contenu en ligne ?

La publication du rapport du TTP met en lumière des failles systémiques majeures :

• L’obsolescence des bases de hachage traditionnelles face à l’IA générative : Les systèmes classiques de modération reposent sur la comparaison d'empreintes numériques (comme PhotoDNA) issues de bases de contenus déjà connus. L’IA générative crée des images ou des vidéos inédites et uniques (notamment via des applications de type nudify). Ces fichiers contournent nativement le blocage par signature (hachage). La modération doit migrer vers des modèles d'évaluation sémantique et contextuelle en temps réel capables de comprendre le contenu généré ex nihilo
• La faillite des filtres de modération sur le tunnel publicitaire : Les publicités signalées n'ont pas cherché à dissimuler leurs intentions (mots-clés explicites, liens vers des applications malveillantes) et ont pourtant passé l'étape de validation automatisée. Les barrières de contrôle automatique à l'entrée des régies publicitaires sont souvent moins robustes ou plus permissives que celles appliquées aux publications organiques des utilisateurs. Il est techniquement indispensable d'aligner le niveau d'exigence des classificateurs de sécurité sur les flux commerciaux payants.
• Les limites de la détection sur les vidéos courtes et altérées : Pour sa défense, Meta a argué que la détection était rendue difficile par le fait que les coupures montrant des mineurs étaient brèves, floutées ou insérées dans des animations. Les modèles de vision par ordinateur actuels souffrent d'un manque de granularité temporelle et spatiale. Les architectures d'IA doivent analyser les vidéos image par image et intégrer des algorithmes de super-résolution ou de "défloutage" prédictif pour identifier les micro-infractions dissimulées.

Meta minimise la portée après des sorties soulignant que ces annonces ont été « examinées, approuvées et diffusées par Meta, sans aucune interférence »

« Ce dont nous parlons ici n'est pas simplement du matériel d'abus sexuel sur enfant généré par IA. Il y a énormément de torts qui peuvent découler de cela, le tout pendant que Meta engrange de l'argent grâce au processus. » Elle a fustigé le fait que ces annonces ont été « examinées, approuvées et diffusées par Meta, sans aucune interférence », a estimé Katie Paul, directrice du Tech Transparency Project (TTP).

Dans une lettre officielle adressée à Mark Zuckerberg, le sénateur de Virginie Mark Warner s'est dit profondément indigné : « Il est décevant de constater que Meta continue de diffuser des publicités contenant du matériel d'abus sexuel sur des enfants et des images intimes non consenties après que cela a été porté à leur attention. »

Par la voix de son porte-parole Tracy Clayton, l'entreprise a minimisé la portée en affirmant que la majorité des publicités avaient une faible portée (moins de 200 impressions) et avaient généré moins de 5 000 dollars. Meta a déclaré : « Nous ne tolérons pas les applications de nudification ou tout type d'exploitation d'enfants [...]. Les criminels derrière ces activités savent que nous avons développé de solides défenses, c'est pourquoi ils changent constamment de tactique. »

Source : Rapport du Tech Transparency Project (TTP)

Et vous ?

La responsabilité des plateformes technologiques : Qui devrait être tenu responsable de la diffusion de ces publicités ? Meta, les annonceurs ou les utilisateurs qui les créent ?
L’efficacité des systèmes de modération : Comment pouvons-nous améliorer les outils d’intelligence artificielle utilisés pour filtrer ces annonces ? Quelles mesures supplémentaires Meta devrait-elle prendre pour empêcher leur diffusion ?
La régulation gouvernementale : Devrions-nous compter davantage sur les lois et les réglementations pour contrôler ces publicités, ou est-ce à l’industrie technologique de s’autoréguler ?

Voir aussi :

Google avertit la Cour suprême de USA que l'altération de l'article 230 de la Communications Decency Act pourrait ruiner Internet et déclencher des retombées dévastatrices