Elon Musk est au centre d’une vive controverse après avoir doté Grok d’une fonctionnalité permettant de dévêtir les utilisateurs de X (ex-Twitter) sans leur consentement. Le tollé est tel que X a été interdit dans plusieurs pays et est menacé d'interdiction au Royaume-Uni, au Canada et en Australie. Elon Musk a qualifié ces actions de censure et Tim Sweeney a pris la défense de Grok. Bien que X ait initialement rejeté la responsabilité sur les utilisateurs, Grok a finalement été mis à jour pour ne plus dévêtir les gens. X fait désormais l'objet d'une surveillance accrue et le procureur général de Californie a annoncé avoir ouvert une enquête sur X.Le lancement de cette fonctionnalité a suscité une vive réaction non seulement parmi les artistes et les photographes, qui voient leurs contenus protégés par le droit d'auteur utilisés et modifiés sans effort, mais aussi parmi des milliers d'utilisateurs lambda, en particulier des femmes dont les photos partagées sont modifiées sans leur consentement afin de créer des scénarios suggestifs ou intrusifs, ce qui constitue une violation flagrante de la vie privée.
À la suite d'une vague de protestations mondiales contre l'utilisation de cet outil pour générer des images explicites, xAI a annoncé que cette fonctionnalité sera bloquée prochainement. Pendant ce temps, Elon Musk insiste sur le fait que les utilisateurs sont responsables de ce qu'ils font avec son chatbot.
« Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de modifier les images de personnes réelles portant des vêtements révélateurs, comme des bikinis. Cette restriction s'applique à tous les utilisateurs, y compris les abonnés payants », indique le compte X Safety. L'annonce ne précise pas si X va prendre des mesures contre les comptes qui ont créé et publié des images sexualisées de femmes et d'enfants sur le site.
« La restriction de la création d'images et la possibilité de modifier des images via le compte Grok sur la plateforme X ne sont désormais accessibles qu'aux abonnés payants. Cela ajoute une couche de protection supplémentaire en contribuant à garantir que les personnes qui tentent d'abuser du compte Grok pour enfreindre la loi ou nos politiques puissent être tenues responsables », indique l'annonce. X empêchera aussi Grok de dévêtir les gens.
« X bloquera géographiquement la possibilité pour tous les utilisateurs de générer des images de personnes réelles en bikini, en sous-vêtements et dans des tenues similaires via le compte Grok et dans Grok dans X dans les juridictions où cela est illégal », indique X Safety. En réaction à cette interdiction, le gouvernement britannique a revendiqué une « victoire » après que le Premier ministre Sir Keir Starmer a appelé X d'Elon Musk à contrôler Grok.
La Californie va déterminer si Grok a enfreint les lois américaines
Ce changement a été annoncé quelques heures après que le procureur général de Californie, Rob Bonta, a déclaré que l'État enquête sur la propagation de deepfakes sexualisés générés par l'IA, impliquant notamment des enfants. Cette fonctionnalité a suscité l'indignation et la colère des victimes, dont les photos ont été utilisées pour générer des images explicites sans leur consentement. Les utilisateurs ne pouvaient pas empêcher Grok d'utiliser leurs photos.
Dans un communiqué de presse publié le 14 janvier, Rob Bonta a déclaré : « xAI semble faciliter la production à grande échelle d'images intimes deepfake non consenties qui sont utilisées pour harceler des femmes et des filles sur Internet, y compris via la plateforme de médias sociaux X ».
Avant ce changement, X n'avait pas restreint l'application ou le site Web Grok. X avait seulement menacé de suspendre définitivement les utilisateurs qui modifiaient des images pour déshabiller des femmes et des enfants si les résultats étaient jugés « illégaux ». Il avait également empêché Grok de répondre aux demandes visant à dévêtir un utilisateur, mais toute personne disposant d'un abonnement Premium pouvait contourner cette restriction.
Selon Rob Bonta, l'enquête a été déclenchée par les articles concernant les pires productions de Grok. « L'avalanche d'articles détaillant les contenus sexuellement explicites et non consensuels que xAI a créés et publiés en ligne ces dernières semaines est choquante. Ces contenus, qui montrent des femmes et des enfants nus dans des situations sexuellement explicites, ont été utilisés pour harceler des personnes sur Internet », a déclaré Rob Bonta.
Le Premier ministre britannique Keir Starmer avait averti que X risquait de perdre son « droit à l'autorégulation » en raison de la polémique suscitée par les images générées par Grok, mais il a déclaré plus tard dans la semaine qu'il se réjouissait des informations selon lesquelles X prenait des mesures pour remédier au problème. Certains députés britanniques ont également quitté la plateforme de médias sociaux d'Elon Musk à la suite du tollé.
Elon Musk défend Grok et soutient qu'il n'a pas dénudé des enfants
Dans un post, désormais supprimé, Grok a retouché une photo de deux jeunes filles vêtues de tenues légères et dans des poses sexuellement suggestives. Mais avant la mise à jour de X Safety, Elon Musk, propriétaire de X, semblait défendre les résultats de Grok comme étant inoffensifs, insistant sur le fait qu'aucune des images signalées ne montrait des mineurs entièrement dénudés, comme cela constituait le seul résultat problématique de Grok.
« Je [sic] n'ai connaissance d'aucune image de mineurs nus générée par Grok. Littéralement aucune », a déclaré Elon Musk dans un message publié sur X. Cette déclaration d'Elon Musk semble ignorer que les chercheurs ont trouvé plusieurs images préjudiciables dans lesquelles « les utilisateurs demandaient spécifiquement que des mineurs soient placés dans des positions érotiques et que des fluides sexuels soient représentés sur leur corps ».
Elle ignore également que X s'était précédemment volontairement engagé à supprimer toute image intime abusive de sa plateforme, reconnaissant récemment, en 2024, que même les images partiellement nues que les victimes ne souhaiteraient pas voir publiées sur le site pouvaient être préjudiciables.
Le 9 janvier, Grok a informé les utilisateurs qui lui demandaient de modifier des images téléchargées sur le site que « la génération et la modification d'images sont actuellement réservées aux abonnés payants ». Grok a ajouté que les utilisateurs peuvent s'abonner pour débloquer ces fonctionnalités. Certaines publications sur la plateforme suggèrent que seuls les abonnés payants ont pu demander avec succès des modifications d'images à Grok.
Aux États-Unis, le ministère de la Justice considère que « toute représentation visuelle d'un comportement sexuellement explicite impliquant une personne âgée de moins de 18 ans » relève de la pornographie infantile (CSAM). Le Centre national pour les enfants disparus et exploités (NCMEC) a déclaré que « les entreprises technologiques ont la responsabilité d'empêcher que leurs outils soient utilisés pour sexualiser ou exploiter des enfants ».
Le réseau social X d'Elon Musk pourrait avoir enfreint plusieurs lois
Grok fait l'objet d'une surveillance accrue dans le monde entier en raison de ses garde-fous jugés trop laxistes. Le chatbot d'Elon Musk est régulièrement empêtré dans les polémiques depuis sa sortie. La chercheuse en politiques publiques Riana Pfefferkorn s'est dite surprise que la plateforme ait mis autant de temps à déployer les nouvelles mesures de protection et estime que les fonctions d'édition auraient dû être supprimées dès le début des abus.
« Des questions subsistent quant à la manière dont X appliquera ses nouvelles politiques, notamment comment le Grok saura si une image représente une personne réelle et quelles mesures il prendra lorsque les utilisateurs enfreindront les règles. Musk n'a pas non plus présenté l'entreprise sous un jour sérieux », a déclaré la chercheuse, précisant qu'il serait utile qu'il cesse de faire des choses comme republier un deepfake de Keir Starmer en bikini.
Selon les experts, il est possible que les résultats de Grok, s'ils n'étaient pas contrôlés, aient finalement conduit X à enfreindre la loi américaine Take It Down Act, qui entrera en vigueur en mai 2026 et qui oblige les plateformes à supprimer rapidement les contenus pornographiques de vengeance générés par l'IA. L'une des mères des enfants d'Elon Musk, Ashley St. Clair, a qualifié les résultats de Grok utilisant ses images de...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par der§en
je suis parfaitement d'accord avec cette remarque pleine de bon sens:
