Suite à une vive réaction contre les images sexualisées de femmes et d'enfants et à des menaces d'interdiction au Royaume-Uni., le service de réseau social X a empêché son chatbot IA Grok de générer des images pour la plupart des utilisateurs. Les utilisateurs de X qui tentent de créer des images se voient désormais afficher un message indiquant : « La génération et la modification d'images sont actuellement réservées aux abonnés payants. » Ils sont ensuite redirigés vers un lien d'inscription.Grok est un chatbot d'intelligence artificielle générative (IA générative) développé par xAI. Il a été lancé en novembre 2023 par Elon Musk comme une initiative basée sur le grand modèle de langage (LLM) du même nom. Grok dispose d'applications pour iOS et Android et est intégré à Twitter et au robot Optimus de Tesla. Le bot a généré diverses réponses controversées, notamment des théories du complot, du nazisme, y compris des éloges à Adolf Hitler, de l'antisémitisme et des images sexualisées d'enfants, ainsi que des références aux opinions de Musk lorsqu'il était interrogé sur des sujets controversés ou des décisions difficiles.
Depuis cette année, le réseau social X d'Elon Musk permet désormais à tout utilisateur de modifier les images d'autres utilisateurs à l'aide de l'IA sans leur consentement. Le chatbot Grok habille Elon Musk en bikini à sa demande, et fait de même avec des enfants, des dirigeants mondiaux et des femmes. Le site a été inondé d'images de femmes et d'enfants apparaissant enceintes, sans jupe, en bikini ou dans d'autres situations sexualisées. Et il n'est pas possible de désactiver cette fonctionnalité. Les contenus sexuellement explicites partagés par Grok ont suscité l'indignation en ligne. Le chatbot d'Elon Musk est connu pour la faiblesse de ses garde-fours.
Suite à une vive réaction contre les images sexualisées de femmes et d'enfants et à des menaces d'interdiction au Royaume-Uni., le service de réseau social X a empêché son chatbot IA Grok de générer des images pour la plupart des utilisateurs. Les utilisateurs de X qui tentent de créer des images se voient désormais afficher un message indiquant : « La génération et la modification d'images sont actuellement réservées aux abonnés payants. » Ils sont ensuite redirigés vers un lien d'inscription. On ne sait pas si les abonnés payants pourront toujours créer des images sexualisées et non consensuelles de femmes suite à la limitation imposée par X aux utilisateurs non payants.
Grok – et par extension Elon Musk, propriétaire de X – a été vivement critiqué ces dernières semaines à ce sujet, le Premier ministre britannique Keir Starmer étant l'une des voix les plus virulentes à dénoncer le problème des deepfakes. La menace d'une interdiction de X au Royaume-Uni a été évoquée. Cela n'a pas empêché xAI, la société mère de X qui a créé Grok et son outil d'imagerie, d'annoncer une levée de fonds de 20 milliards de dollars, avec la participation de Valor Equity Partners, Stepstone Group, Fidelity Management & Research Company, Qatar Investment Authority, MGX, Baron Capital Group, Nvidia et Cisco Investments.
Les modifications apportées à l'IA Grok d'Elon Musk sont « insultantes » pour les victimes
Le gouvernement britannique estime que la décision de la plateforme X d'Elon Musk de limiter les modifications d'images par l'IA Grok aux utilisateurs payants est « insultante » pour les victimes de misogynie et de violences sexuelles. S'exprimant Downing Street a déclaré que cette mesure « transforme simplement une fonctionnalité d'IA qui permet la création d'images illégales en un service premium ».
Elle fait suite à une vive réaction après que Grok ait modifié numériquement des images d'autres personnes en les déshabillant, ce qu'elle affirme ne pouvoir désormais faire que pour ceux qui paient un abonnement mensuel. Cependant, aucune restriction de ce type n'est appliquée lorsque l'on accède à la fonctionnalité « modifier l'image », à l'application distincte ou au site web.
Le porte-parole officiel du Premier ministre a déclaré aux journalistes que cela montrait que X « pouvait agir rapidement quand il le souhaitait ». Il a ajouté qu'il était « tout à fait clair que X devait agir et agir maintenant ». « Il est temps que X s'attaque à ce problème. Si une autre entreprise médiatique affichait des images illégales sur des panneaux d'affichage dans les centres-villes, elle agirait immédiatement pour les retirer, sous peine de subir les réactions négatives du public », a-t-il ajouté.
Les libéraux-démocrates ont demandé que l'accès à X soit temporairement restreint au Royaume-Uni pendant que le site de réseau social fait l'objet d'une enquête. « Musk a piqué une crise pour protester contre le fait d'être tenu responsable du tsunami d'abus », a déclaré le professeur Clare McGlynn, experte en réglementation juridique de la pornographie, de la violence sexuelle et des abus en ligne. « Au lieu de prendre les mesures responsables pour garantir que Grok ne puisse pas être utilisé à des fins abusives, il a retiré l'accès à la grande majorité des utilisateurs. »
Et Hannah Swirsky, responsable des politiques à l'Internet Watch Foundation, a déclaré que cela « ne répare pas le mal qui a été fait ». « Nous ne pensons pas qu'il soit suffisant de simplement limiter l'accès à un outil qui n'aurait jamais dû avoir la capacité de créer le type d'images que nous avons vu ces derniers jours », a-t-elle déclaré. L'organisation caritative avait précédemment déclaré que ses analystes avaient découvert des « images criminelles » de filles âgées de 11 à 13 ans qui « semblaient avoir été créées » à l'aide de Grok. « Il est inacceptable d'attendre que des produits dangereux soient utilisés à mauvais escient avant d'agir », a déclaré Swirsky.
« Abonnez-vous pour débloquer »
Grok est un outil gratuit que les utilisateurs peuvent taguer directement dans des publications ou des réponses sous les publications d'autres utilisateurs pour lui demander une réponse particulière. Mais cette fonctionnalité a également permis à des personnes de lui demander de modifier des images et de dépouiller numériquement des personnes de la plupart de leurs vêtements.
Grok a répondu à de nombreuses demandes d'utilisateurs qui lui demandaient de modifier des images de femmes pour les montrer en bikini ou légèrement vêtues, ce qui, selon les personnes concernées par ces demandes, leur a donné un sentiment « d'humiliation » et de « déshumanisation », comme elles l'ont confié à la BBC. Cependant, Grok a informé les utilisateurs qui lui demandaient de modifier des images téléchargées sur X que « la génération et la modification d'images sont actuellement réservées aux abonnés payants ». Il ajoute que les utilisateurs « peuvent s'abonner pour débloquer ces fonctionnalités ».
Le Dr Daisy Dixon, maître de conférences en philosophie à l'université de Cardiff et utilisatrice de X, qui a déclaré avoir constaté une augmentation du nombre de personnes utilisant Grok pour la déshabiller, a salué ce changement, mais a déclaré qu'il s'agissait d'une « solution provisoire ». « Grok doit être entièrement repensé et doté de garde-fous éthiques intégrés pour éviter que cela ne se reproduise », a-t-elle déclaré. « Elon Musk doit également reconnaître cela pour ce que c'est : un autre exemple de violation fondée sur le genre. »
Les associations caritatives qui militent pour mettre fin à la violence envers les femmes ont également critiqué X pour cette décision. « Restreindre l'accès aux abonnés payants est non seulement insuffisant, mais cela revient à monétiser les abus », a déclaré Emma Pickering, de Refuge. Elle a ajouté que même si le fait de limiter cette fonctionnalité aux utilisateurs payants de X pouvait réduire le volume, les abus avaient « simplement été placés derrière un mur payant, permettant à X de tirer profit du préjudice causé ».
De son côté, Andrea Simon, directrice de la coalition End Violence Against Women, a déclaré : « Nous ne sommes pas convaincus que X prendra des mesures pour identifier et prévenir ce phénomène, étant donné qu'il a traîné les pieds pour lutter contre ces abus ».
Le professeur McGlynn a déclaré que la réponse de X faisait écho à son approche concernant les deepfakes pornographiques de Taylor Swift sur la plateforme l'année dernière, où il avait bloqué les recherches de contenu sexualisé généré à partir de la pop star à l'aide d'une fonctionnalité vidéo Grok AI. « Il fait cela pour alimenter les arguments en faveur de la liberté d'expression », a-t-elle ajouté. « Il prétendra que la réglementation entrave l'utilisation de cette technologie...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.