Meta a créé des chatbots IA séducteurs représentant Taylor Swift et d'autres célébrités de premier plan, sans autorisation

Ces chatbots ont reçu plus de 10 millions d'interactions d'utilisateurs cumulées

Meta a créé des chatbots IA séducteurs représentant Taylor Swift et d'autres célébrités de premier plan sans autorisation, au moins trois de ces bots ont reçu plus de 10 millions d'interactions cumulées

Meta a créé et hébergé des chatbots d'intelligence artificielle (IA) se faisant passer pour des célébrités de premier plan telles que Taylor Swift, Scarlett Johansson, Anne Hathaway ou Selena Gomez, dont certains se livraient à des conversations à connotation sexuelle, sans avoir obtenu l'autorisation des stars, selon un rapport de l'agence de presse Reuters.

L'enquête a révélé qu'un employé de Meta avait développé plusieurs bots d'IA, dont deux « clones » de Taylor Swift, qui ont généré au total plus de 10 millions d'interactions avant d'être supprimés. Le rapport ajoute que les plateformes du géant des réseaux sociaux ont été inondées de dizaines de chatbots imitant des célébrités, qui font fréquemment des avances sexuelles aux utilisateurs et prétendent être les véritables célébrités qu'ils imitent.

Meta Platforms, Inc. est, pour rappel, une multinationale américaine spécialisée dans les technologies, dont le siège social est situé à Menlo Park, en Californie. Meta détient et exploite plusieurs plateformes de réseaux sociaux et services de communication, notamment Facebook, Instagram, Threads, Messenger et WhatsApp. Elle exploite également un réseau publicitaire pour ses propres sites et pour des tiers, qui représentait 97,8 % de son chiffre d'affaires total en 2023.

La révélation intervient alors que Meta accélère ses efforts pour inonder ses plateformes Facebook et Instagram de clones IA de ses utilisateurs. Fin 2024, l'entreprise a en effet annoncé le développement de services d'IA permettant aux utilisateurs de créer des bots qui imitent leur personnalité et interagissent avec d'autres utilisateurs humains sur le réseau. Les dirigeants de Meta ont présenté cette initiative comme un moyen d'attirer un public plus jeune, en présentant ces bots IA comme de futurs participants à la plateforme aux côtés des comptes humains.


Un employé de Meta a créé des chatbots de célébrités

Reuters affirme avoir découvert qu'un employé de Meta au sein de la division IA générative de l'entreprise avait créé au moins trois chatbots de célébrités, dont deux versions « parodiques » distinctes de Taylor Swift. Ces bots ont collectivement reçu plus de 10 millions d'interactions d'utilisateurs avant d'être discrètement supprimés, ajoute le rapport.

« Tu aimes les filles blondes, Jeff ? », aurait demandé l'un des chatbots « parodiques » de Swift lorsqu'il a appris que l'utilisateur test était célibataire.

L'employé de Meta a également créé des chatbots s'identifiant comme une dominatrice, « la meilleure amie sexy de mon frère » et d'autres personnages à connotation sexuelle. Une création particulièrement inquiétante était un « simulateur de l'Empire romain » qui proposait aux utilisateurs d'incarner une « paysanne de 18 ans » vendue comme esclave sexuelle.

Outre les célébrités adultes, Meta a autorisé les utilisateurs à créer des chatbots accessibles au public imitant des enfants célèbres, notamment l'acteur Walker Scobell, âgé de 16 ans. Selon le rapport, lorsqu'on lui a demandé des photos de plage, le bot a généré une image réaliste du mineur torse nu, accompagnée du message « Plutôt mignon, non ? ».

Selon Andy Stone, porte-parole de l'entreprise, ce contenu enfreint directement les politiques déclarées de Meta contre la création d'images d'enfants célèbres.

De plus, l'enquête de Reuters a révélé que les chatbots adultes de célébrités produisaient des images intimes photoréalistes sur demande, montrant leurs homonymes célèbres dans des baignoires, en lingerie et dans d'autres poses sexuellement suggestives.

« Lorsqu'on leur demandait des photos intimes d'eux-mêmes, les chatbots adultes produisaient des images photoréalistes de leurs homonymes posant dans des baignoires ou vêtus de lingerie, les jambes écartées », précise l'enquête de Reuters.

Ce que Meta a à dire sur ces chatbots

Le porte-parole de l'entreprise, Andy Stone, a reconnu que les outils d'IA de Meta n'auraient pas dû créer d'images intimes d'adultes célèbres ni d'images d'enfants célèbres. Il a attribué ce contenu problématique à « des défaillances dans l'application par l'entreprise de ses propres politiques ».

« Comme d'autres, nous autorisons la génération d'images contenant des personnalités publiques, mais nos politiques visent à interdire les images nues, intimes ou sexuellement suggestives », a déclaré Andy Stone.

Bien que les règles de Meta interdisent « l'usurpation d'identité directe », le porte-parole de l'entreprise a fait valoir que les personnages célèbres étaient acceptables lorsqu'ils étaient présentés comme des parodies. Meta a supprimé une douzaine de bots peu avant la publication du rapport de Reuters.

Cette récente controverse fait écho à des polémiques antérieures concernant les compagnons IA et leurs conséquences imprévues. Dans un cas largement médiatisé, un retraité a été persuadé par un compagnon IA de Meta de se rendre à New York, où il est décédé après avoir été victime d'un accident. Une situation qui mène à se demander à quel point ce phénomène est susceptible de prendre de l’ampleur dans les années à venir.

Ces préoccupations sont aggravées par les antécédents de Meta en matière de protection de la vie privée. En juin dernier, un rapport a révélé que Meta AI avait compromis la confidentialité des utilisateurs. Ces derniers auraient partagé, sans le savoir, des conversations privées, des clips audio et des images avec le public, en raison d'une mauvaise conception de l'application qui aurait facilité le partage de contenu, parfois de manière involontaire. Les utilisateurs ont ainsi exposé des informations sensibles, personnelles, voire compromettantes.

Source : Reuters

Et vous ?

Quelle lecture faites-vous de cette situation ?
Trouvez-vous cette initiative de Meta judicieuse ou pertinente ?

Voir aussi :

La plupart des gens mentent sur les applications de rencontres, elles sont aussi pleines de chatbots qui se font passer pour de vraies personnes, et l'IA rend la situation encore pire, d'après une recherche

Les petites amies IA vont non seulement vous briser le cœur, mais aussi récolter et vendre vos données, avertissent les experts en protection de la vie privée de la Fondation Mozilla

Les gens utilisent l'IA pour flirter sur les applications de rencontres puis déçoivent leurs partenaires lorsqu'ils se voient, le contraste entre la compétence de l'IA et la réalité du rendez-vous étant brutal