Meta a diffusé des publicités pour l'application Kromix AI promettant de dénuder des femmes politiques

Alors que l'application est utilisée pour créer des deepfakes à caractère sexuel

Meta fait l’objet d’une attention particulière après que ses plateformes ont diffusé des publicités pour une application d’IA qui serait utilisée pour créer des deepfakes à caractère sexuel, et ce malgré les règles de l’entreprise interdisant ce type de contenu. Selon le rapport, les publicités ciblaient exclusivement des utilisateurs masculins et portaient le slogan « Libérez la magie de l’IA nouvelle génération ». Malgré ces règles, des publicités pour de telles plateformes ont continué à apparaître sur les services de Meta, selon WIRED.

Un rapport du Center for Countering Digital Hate (CCDH) et une enquête conjointe du New York Times ont révélé que Grok a été capable de produire environ 3 millions d'images à caractère sexuel, dont 23 000 semblent représenter des enfants, sur une période de 11 jours entre le 29 décembre et le 8 janvier, alors que xAI était censé lutter contre les deepfakes « dénudés ». La publication a également établi un lien entre la forte augmentation de l'utilisation de Grok et les publications publiques du PDG Elon Musk le représentant en bikini, générées par Grok. En janvier 2026, la société mère de Grok, xAI, avait fait l'objet d'une enquête de la part de plusieurs gouvernements étrangers et de l'État de Californie pour son rôle dans la génération de deepfakes sexualisés ou « dénudés » de personnes et de mineurs.

Récemment, Meta Platforms fait l’objet d’une enquête suite à des allégations selon lesquelles elle aurait fait la promotion de Kromix, un outil qui se présente comme une application d’IA de retouche d’images mais qui aurait été utilisé pour créer des vidéos deepfakes à caractère sexuel représentant des femmes politiques, alors que les politiques de Meta interdisent les publicités contenant du contenu à caractère sexuel.

Meta Platforms, Inc. (opérant sous le nom de Meta) est une multinationale américaine du secteur des technologies dont le siège social est situé à Menlo Park, en Californie. Meta détient et exploite plusieurs plateformes de réseaux sociaux et services de communication de premier plan, notamment Facebook, Instagram, WhatsApp, Messenger et Threads. La société gère également un réseau publicitaire pour ses propres sites et pour des tiers ; en 2023, la publicité représentait 97,8 % de son chiffre d'affaires total. Meta est souvent considérée comme faisant partie des « Big Tech ».

Un article de WIRED consacré à cette vague publicitaire présumée indique qu’une publicité en particulier semblait montrer une femme politique américaine de premier plan debout devant un drapeau américain, aux côtés d’une image ressemblant au président des États-Unis. La publication comportait également une légende obscène. Kromix permet aux utilisateurs de télécharger des photos qui peuvent ensuite être transformées en vidéos mettant en scène des personnes dans des situations à caractère sexuel.


Selon l’article, les publicités ciblaient exclusivement des utilisateurs masculins et portaient le slogan « Libérez la magie de l’IA nouvelle génération ». Les publicités ont été supprimées après que le magazine a contacté Meta pour lui poser des questions à leur sujet. WIRED a indiqué que les publicités Kromix avaient été diffusées 32 fois, chacune restant active entre cinq et 46 heures. Les images et vidéos deepfake sont de plus en plus utilisées pour cibler des personnalités politiques et d’autres figures publiques. En janvier, Grok aurait été utilisé pour générer environ 3 millions d’images sexualisées de femmes et de jeunes filles.

Meta applique des règles strictes exigeant que chaque publicité publiée sur ses plateformes, notamment Instagram et Facebook, soit examinée au regard de ses politiques publicitaires, qui précisent ce que les annonceurs peuvent et ne peuvent pas promouvoir. La page qui hébergeait la publicité a été créée le 3 août, peu avant le début de la diffusion des publicités. Les politiques de Meta interdisent expressément les publicités contenant des images à caractère sexuel, notamment la nudité, des actes sexuels ou toute autre image obscène. L’entreprise interdit également les applications qui utilisent l’IA pour créer du contenu intime non consensuel. Malgré ces règles, des publicités pour de telles plateformes ont continué à apparaître sur les services de Meta, selon WIRED.

Ces allégations font suite à l’envoi par le procureur de la ville de San Francisco, David Chiu, d’une lettre de mise en demeure à Apple et Google, citant 13 applications de « face-swapping » et de « nudification » et donnant aux entreprises 28 jours pour les retirer et rompre tout lien avec leurs développeurs. L’argumentation portait également sur les systèmes de paiement des entreprises et sur l’article 230 du Communications Decency Act.

Cette loi, vieille de près de 30 ans, protège généralement les sites web de toute responsabilité quant aux contenus publiés par les utilisateurs, permettant ainsi aux plateformes d’héberger du contenu généré par les utilisateurs sans être poursuivies en justice chaque fois qu’une personne publie un contenu diffamatoire dans un commentaire ou un fil de discussion. Les arguments avancés portaient sur la manière dont, selon le Tech Transparency Project, Apple et Google généraient des revenus grâce à des applications pouvant servir à créer des images intimes non consensuelles.

En réponse à ces allégations, Apple a déclaré à WIRED avoir supprimé trois des applications signalées et commencé à résilier les comptes des développeurs associés, laissant ainsi 10 des 13 applications toujours disponibles. Dan Jackson, porte-parole de Google, a déclaré que l’entreprise avait déjà supprimé des centaines d’applications dotées de fonctionnalités de « nudification » pour violation des règles du Play Store.

Même si ces applications parviennent à passer les contrôles des boutiques d’applications, leur accorder l’accès aux photos d’un téléphone pourrait potentiellement leur permettre de télécharger des images vers un service externe, où elles pourraient être utilisées à mauvais escient ou exposées à des tiers. Avant d’installer de telles applications, les utilisateurs devraient examiner attentivement les autorisations demandées, vérifier les informations concernant le développeur et rechercher d’éventuels signalements ou plaintes concernant l’application et ses pratiques.

Les allégations soulevées par WIRED interviennent alors que Meta fait face à un procès majeur concernant la conception de sa plateforme et ses pratiques en matière de sécurité. Un groupe bipartite regroupant 29 États américains poursuit Meta en justice, réclamant des amendes pouvant s’élever à des dizaines, voire des centaines de milliards de dollars. La Californie, le Colorado, le Kentucky et le New Jersey ont accusé Meta d’avoir conçu Facebook et Instagram de manière à encourager les jeunes utilisateurs à rester actifs sur ces plateformes, ce qui aurait contribué à l’anxiété, à la dépression et au suicide, tout en induisant les utilisateurs en erreur quant à la sécurité de la plateforme. Les États ont en outre allégué que Meta avait enfreint la loi fédérale en collectant et en utilisant de manière abusive les données personnelles d’enfants lors de leur utilisation de ses plateformes.

En 2024, Brad Smith, vice-président de Microsoft, avait reconnu : "Nous assistons actuellement à une expansion rapide de l'utilisation abusive des nouveaux outils d'IA par des acteurs malveillants notamment par le biais de deepfakes basés sur des vidéos, des sons et des images générés par l'IA". Cette tendance fait peser de nouvelles menaces sur les élections, la fraude financière, le harcèlement par le biais de la pornographie non consensuelle et la nouvelle génération de cyberintimidation. Face à la situation, il a déclaré : "la plupart des gens ont appris qu'il ne faut pas croire tout ce que l'on lit sur l'internet (ou ailleurs). Une combinaison de curiosité et de scepticisme bien informé est une compétence essentielle pour tout le monde."

Source : WIRED

Et vous ?

Pensez-vous que ce rapport est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Meta condamné à payer 375 millions $ pour avoir induit les utilisateurs en erreur concernant la sécurité des enfants, après avoir mis ces derniers en danger et les avoir exposés à du contenu à caractère sexuel

L'IA Grok d'Elon Musk déshabille tout le monde, des mineurs aux dirigeants mondiaux sans leur consentement, et il ne semble pas possible d'y échapper. Des ministres français ont signalé l'affaire à l'Arcom

73 % des requêtes sont à caractère sexuel : la plateforme d'IA Hugging Face héberge des outils permettant de créer des images intimes non consensuelles et des « deepfakes » de femmes et d'enfants nus