Une analyse a révélé que de entreprises technologiques, dont Google et Apple, ont permis à des personnes de s'inscrire rapidement sur des sites Web de déshabillage, qui utilisent l'IA pour retirer des vêtements de photos réelles afin de faire apparaître les victimes nues sans leur consentement. Sur les 16 sites examinés, "Se connecter avec Apple" était utilisé sur six d'entre eux. L'API de connexion de Google a été utilisée sur les 16 sites, celle de Discord sur 13 sites, et celles de Patreon et Line sur deux sites. En outre, ces sites Web apparaissent en bonne position dans les résultats de recherche et sont promus par des publicités sur les réseaux sociaux.Les API de connexion de Google et d'Apple utilisées par des sites de faux nus
Les entreprises telles que Google et Apple décrivent leur API de connexion comme un moyen plus rapide, plus pratique et plus respectueux de la vie privée de s'inscrire à une application ou à un site Web. Mais une récente analyse de Wired a révélé que les options de connexion sont utilisées par de nombreuses plateformes permettant de générer des images intimes non consensuelles de femmes et de jeunes filles. Cette approche permet aux internautes de créer facilement des comptes sur les faux sites Web, ce qui leur confère un vernis de crédibilité, avant de payer des crédits et de générer des images.
L'analyse a révélé que 16 des plus grands sites de déshabillage et de « nudité » utilisent depuis des mois les API de connexion de Google, Apple, Discord, Twitter, Patreon et Line. Le système de connexion de Google apparaît sur les 16 sites, celui de Discord sur 13 et celui d'Apple sur six. Le bouton de X (anciennement Twitter) est présent sur trois sites, celui de Patreon et celui du service de messagerie Line apparaissant tous deux sur les deux mêmes plateformes.
Le nom des sites n'a pas été divulgué, car ils permettent des abus. Plusieurs d'entre eux font partie de réseaux plus vastes et appartiennent aux mêmes personnes ou entreprises. Les systèmes de connexion ont été utilisés malgré les règles générales des entreprises technologiques telles que Google et Apple qui stipulent que les développeurs ne peuvent pas utiliser leurs services d'une manière qui permettrait de nuire, de harceler ou d'envahir la vie privée des gens.
Le rapport a suscité des critiques à l'égard des fournisseurs d'API de connexion. Les critiques affirment que les fournisseurs d'API de connexion doivent s'assurer que leur technologie est utilisée à bon escient. « Il s'agit de la poursuite d'une tendance qui normalise les violences sexuelles commises par les entreprises technologiques à l'encontre des femmes et des jeunes filles », déclare Adam Dodge, avocat et fondateur de EndTAB (Ending Technology-Enabled Abuse).
Il a ajouté : « les API de connexion sont des outils de commodité. Nous ne devrions jamais faire de la violence sexuelle un acte de commodité. Nous devrions ériger des murs autour de l'accès à ces applications, mais au lieu de cela, nous donnons aux gens un pont-levis ». Dans le même temps, d'autres critiques affirment qu'il n'est pas souhaitable que les fournisseurs d'API de connexion gardent une mainmise sur les sites autorisés à utiliser leurs services.
À la suite des résultats de l'analyse, les porte-parole de Discord et d'Apple ont déclaré avoir supprimé les comptes de développeurs liés à leurs sites Web. Plus tard, l'accès de ces plateformes à l'API de connexion de Discord a été supprimé pour violation de sa politique de développement. L'un des sites de déshabillage a publié sur un canal Telegram que la connexion via Discord était « temporairement indisponible » et a déclaré qu'il essayait de rétablir l'accès.
Google a déclaré qu'il prendrait des mesures à l'encontre des développeurs s'il constatait que ses conditions n'étaient pas respectées. Patreon a déclaré qu'il interdit les comptes qui permettent la création d'images explicites, et Line a confirmé qu'il enquête, mais qu'il ne peut pas faire de commentaires sur des sites Web spécifiques. Enfin, le réseau social X d'Elon Musk n'a pas répondu à une demande de commentaire sur la manière dont ses systèmes sont utilisés.
Le problème persistant des deepfakes est devenu plus critique à l'ère de l'IA générative
Les deepfakes sont des images, des sons ou des vidéos générés par l'IA dans lesquels l'image ou l'apparence d'une personne réelle est modifiée numériquement d'une manière ou d'une autre. Ils sont utilisés à diverses fins...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.