Le FBI enquête sur l'utilisation de Grok dans une affaire de harcèlement en cours. L'agence a obtenu un mandat de perquisition visant le réseau social X d'Elon Musk afin de récupérer les détails des prompts qu'un homme, Simon Tuck, aurait utilisés pour générer plus de 200 vidéos sexuelles non consenties mettant en scène une femme de son entourage réel. L'affaire ravive les critiques visant Elon Musk, qui a doté son Grok de capacités permettant de créer des images dénudées de femmes et de mineures à partir de photos publiées sur sa plateforme X. Le site avait été inondé de millions d'images à caractère sexuel, dont plus de 3 millions d'images en seulement 11 jours.Grok est un chatbot d'IA générative développé par xAI. Il a été lancé en novembre 2023 par Elon Musk, dispose d'applications pour iOS et Android et est intégré à X (ex-Twitter) et au robot Optimus de Tesla. Depuis sa sortie, il a généré de nombreuses réponses controversées, notamment des théories du complot, des éloges à Adolf Hitler, de l'antisémitisme et la création d'images non consensuelles et sexualisées de femmes et d'enfants dénudés.
Ces dérives ont, à chaque occurrence, suscité un tollé et conduit les autorités de nombreux pays à ouvrir des enquêtes sur le chatbot « excentrique » d'Elon Musk. Les informations concernant cette nouvelle enquête proviennent d'un affidavit du FBI versé au dossier judiciaire et rendu public.
L'affaire va bien au-delà de la création de deepfakes. Simon Tuck est accusé d'avoir mené une campagne de harcèlement intensive contre le mari de cette femme. Il aurait notamment procédé à un "swatting" à leur domicile (c'est-à-dire un faux appel aux forces spéciales) envoyé des signalements anonymes à l'employeur de la victime en l'accusant faussement d'être un pédophile ou un toxicomane... Il semblait vouloir nuire à la réputation de l'homme.
Il aurait également usurpé son identité pour proférer des menaces de fusillade de masse et de suicide, contacté une société de pompes funèbres pour signaler que l'homme allait bientôt mourir, et se serait même fait passer pour un membre de "Sector 16", un groupe de hackers russes, pour envoyer des menaces.
Grok utilisé pour créer des vidéos pornographiques non consenties
Selon l'affidavit, en janvier, le FBI a obtenu un mandat pour accéder aux conversations de Simon Tuck avec le chatbot et a reçu en retour « les prompts (instructions génératives) fournis à Grok ayant généré environ 200 vidéos pornographiques d'une femme ressemblant étroitement à l'épouse de la victime ». Cette fonctionnalité de Grok est sujette à polémique depuis son introduction, mais X et Elon Musk ont rejeté la responsabilité sur les utilisateurs.
L'entreprise a finalement décidé de restreindre l'accès à l'outil. Un exemple de prompt divulgué au FBI est cité dans le document judiciaire : Simon Tuck y décrivait en détail une femme blonde aux cheveux ondulés se déshabillant sur un court de tennis, avec des indications précises sur sa morphologie et ses vêtements. Ce niveau de détail révèle une utilisation délibérée et ciblée de l'outil pour créer un contenu visant une personne réelle et identifiable.
Envoyé par Simon Tuck à Grok
Dans un style sportif sensuel, une femme blonde sûre d'elle se déshabille de manière espiègle sur un court de tennis, en commençant par remonter son haut court blanc pour exposer ses seins nus. Elle a de longs cheveux ondulés, un corps athlétique tonique et un sourire séducteur, elle porte une jupe plissée courte bleu marine et tient une raquette. Elle baisse lentement son haut, révélant sa nudité totale, secoue ses cheveux et balance sa raquette de manière taquine, avec un effet surprenant et maladroit, comme une pirouette comique.
Il s'agit du dernier exemple en date d'utilisation abusive potentielle du chatbot de xAI. L'entreprise d'Elon Musk fait l'objet d'enquêtes dans différentes régions pour l'utilisation de Grok à des fins de diffusion d'images nues non consenties. En réponse, Elon Musk et ses soutiens ont qualifié ces actions de censure.
Un signal fort : les chats avec les IA sont désormais des preuves
Ce qui est remarquable ici, c'est que cette affaire montre que les forces de l'ordre considèrent les conversations avec des chatbots comme des sources potentielles de preuves et que le social X d'Elon Musk se conforme à ces demandes. Cela met en évidence le rôle de X dans le fait d'avoir permis à Grok de créer du contenu sexuel non consensuel dans une affaire pénale impliquant du...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.