Elon Musk limite l'outil d'image Grok de xAI aux abonnés payants, après le tollé créé par son IA qui déshabille tout le monde, y compris les mineurs, sans leur consentement

Elon Musk limite l'outil d'image Grok de xAI aux abonnés payants, après le tollé créé par son IA qui déshabille tout le monde, y compris les mineurs, sans leur consentement

Suite à une vive réaction contre les images sexualisées de femmes et d'enfants et à des menaces d'interdiction au Royaume-Uni., le service de réseau social X a empêché son chatbot IA Grok de générer des images pour la plupart des utilisateurs. Les utilisateurs de X qui tentent de créer des images se voient désormais afficher un message indiquant : « La génération et la modification d'images sont actuellement réservées aux abonnés payants. » Ils sont ensuite redirigés vers un lien d'inscription.

Grok est un chatbot d'intelligence artificielle générative (IA générative) développé par xAI. Il a été lancé en novembre 2023 par Elon Musk comme une initiative basée sur le grand modèle de langage (LLM) du même nom. Grok dispose d'applications pour iOS et Android et est intégré à Twitter et au robot Optimus de Tesla. Le bot a généré diverses réponses controversées, notamment des théories du complot, du nazisme, y compris des éloges à Adolf Hitler, de l'antisémitisme et des images sexualisées d'enfants, ainsi que des références aux opinions de Musk lorsqu'il était interrogé sur des sujets controversés ou des décisions difficiles.

Depuis cette année, le réseau social X d'Elon Musk permet désormais à tout utilisateur de modifier les images d'autres utilisateurs à l'aide de l'IA sans leur consentement. Le chatbot Grok habille Elon Musk en bikini à sa demande, et fait de même avec des enfants, des dirigeants mondiaux et des femmes. Le site a été inondé d'images de femmes et d'enfants apparaissant enceintes, sans jupe, en bikini ou dans d'autres situations sexualisées. Et il n'est pas possible de désactiver cette fonctionnalité. Les contenus sexuellement explicites partagés par Grok ont suscité l'indignation en ligne. Le chatbot d'Elon Musk est connu pour la faiblesse de ses garde-fours.

Suite à une vive réaction contre les images sexualisées de femmes et d'enfants et à des menaces d'interdiction au Royaume-Uni., le service de réseau social X a empêché son chatbot IA Grok de générer des images pour la plupart des utilisateurs. Les utilisateurs de X qui tentent de créer des images se voient désormais afficher un message indiquant : « La génération et la modification d'images sont actuellement réservées aux abonnés payants. » Ils sont ensuite redirigés vers un lien d'inscription. On ne sait pas si les abonnés payants pourront toujours créer des images sexualisées et non consensuelles de femmes suite à la limitation imposée par X aux utilisateurs non payants.

Grok – et par extension Elon Musk, propriétaire de X – a été vivement critiqué ces dernières semaines à ce sujet, le Premier ministre britannique Keir Starmer étant l'une des voix les plus virulentes à dénoncer le problème des deepfakes. La menace d'une interdiction de X au Royaume-Uni a été évoquée. Cela n'a pas empêché xAI, la société mère de X qui a créé Grok et son outil d'imagerie, d'annoncer une levée de fonds de 20 milliards de dollars, avec la participation de Valor Equity Partners, Stepstone Group, Fidelity Management & Research Company, Qatar Investment Authority, MGX, Baron Capital Group, Nvidia et Cisco Investments.


Les modifications apportées à l'IA Grok d'Elon Musk sont « insultantes » pour les victimes

Le gouvernement britannique estime que la décision de la plateforme X d'Elon Musk de limiter les modifications d'images par l'IA Grok aux utilisateurs payants est « insultante » pour les victimes de misogynie et de violences sexuelles. S'exprimant Downing Street a déclaré que cette mesure « transforme simplement une fonctionnalité d'IA qui permet la création d'images illégales en un service premium ».

Elle fait suite à une vive réaction après que Grok ait modifié numériquement des images d'autres personnes en les déshabillant, ce qu'elle affirme ne pouvoir désormais faire que pour ceux qui paient un abonnement mensuel. Cependant, aucune restriction de ce type n'est appliquée lorsque l'on accède à la fonctionnalité « modifier l'image », à l'application distincte ou au site web.

Le porte-parole officiel du Premier ministre a déclaré aux journalistes que cela montrait que X « pouvait agir rapidement quand il le souhaitait ». Il a ajouté qu'il était « tout à fait clair que X devait agir et agir maintenant ». « Il est temps que X s'attaque à ce problème. Si une autre entreprise médiatique affichait des images illégales sur des panneaux d'affichage dans les centres-villes, elle agirait immédiatement pour les retirer, sous peine de subir les réactions négatives du public », a-t-il ajouté.

Les libéraux-démocrates ont demandé que l'accès à X soit temporairement restreint au Royaume-Uni pendant que le site de réseau social fait l'objet d'une enquête. « Musk a piqué une crise pour protester contre le fait d'être tenu responsable du tsunami d'abus », a déclaré le professeur Clare McGlynn, experte en réglementation juridique de la pornographie, de la violence sexuelle et des abus en ligne. « Au lieu de prendre les mesures responsables pour garantir que Grok ne puisse pas être utilisé à des fins abusives, il a retiré l'accès à la grande majorité des utilisateurs. »

Et Hannah Swirsky, responsable des politiques à l'Internet Watch Foundation, a déclaré que cela « ne répare pas le mal qui a été fait ». « Nous ne pensons pas qu'il soit suffisant de simplement limiter l'accès à un outil qui n'aurait jamais dû avoir la capacité de créer le type d'images que nous avons vu ces derniers jours », a-t-elle déclaré. L'organisation caritative avait précédemment déclaré que ses analystes avaient découvert des « images criminelles » de filles âgées de 11 à 13 ans qui « semblaient avoir été créées » à l'aide de Grok. « Il est inacceptable d'attendre que des produits dangereux soient utilisés à mauvais escient avant d'agir », a déclaré Swirsky.

« Abonnez-vous pour débloquer »

Grok est un outil gratuit que les utilisateurs peuvent taguer directement dans des publications ou des réponses sous les publications d'autres utilisateurs pour lui demander une réponse particulière. Mais cette fonctionnalité a également permis à des personnes de lui demander de modifier des images et de dépouiller numériquement des personnes de la plupart de leurs vêtements.

Grok a répondu à de nombreuses demandes d'utilisateurs qui lui demandaient de modifier des images de femmes pour les montrer en bikini ou légèrement vêtues, ce qui, selon les personnes concernées par ces demandes, leur a donné un sentiment « d'humiliation » et de « déshumanisation », comme elles l'ont confié à la BBC. Cependant, Grok a informé les utilisateurs qui lui demandaient de modifier des images téléchargées sur X que « la génération et la modification d'images sont actuellement réservées aux abonnés payants ». Il ajoute que les utilisateurs « peuvent s'abonner pour débloquer ces fonctionnalités ».

Le Dr Daisy Dixon, maître de conférences en philosophie à l'université de Cardiff et utilisatrice de X, qui a déclaré avoir constaté une augmentation du nombre de personnes utilisant Grok pour la déshabiller, a salué ce changement, mais a déclaré qu'il s'agissait d'une « solution provisoire ». « Grok doit être entièrement repensé et doté de garde-fous éthiques intégrés pour éviter que cela ne se reproduise », a-t-elle déclaré. « Elon Musk doit également reconnaître cela pour ce que c'est : un autre exemple de violation fondée sur le genre. »

Les associations caritatives qui militent pour mettre fin à la violence envers les femmes ont également critiqué X pour cette décision. « Restreindre l'accès aux abonnés payants est non seulement insuffisant, mais cela revient à monétiser les abus », a déclaré Emma Pickering, de Refuge. Elle a ajouté que même si le fait de limiter cette fonctionnalité aux utilisateurs payants de X pouvait réduire le volume, les abus avaient « simplement été placés derrière un mur payant, permettant à X de tirer profit du préjudice causé ».

De son côté, Andrea Simon, directrice de la coalition End Violence Against Women, a déclaré : « Nous ne sommes pas convaincus que X prendra des mesures pour identifier et prévenir ce phénomène, étant donné qu'il a traîné les pieds pour lutter contre ces abus ».

Le professeur McGlynn a déclaré que la réponse de X faisait écho à son approche concernant les deepfakes pornographiques de Taylor Swift sur la plateforme l'année dernière, où il avait bloqué les recherches de contenu sexualisé généré à partir de la pop star à l'aide d'une fonctionnalité vidéo Grok AI. « Il fait cela pour alimenter les arguments en faveur de la liberté d'expression », a-t-elle ajouté. « Il prétendra que la réglementation entrave l'utilisation de cette technologie par les gens. Mais tout ce que la réglementation exige, c'est qu'il prenne les précautions nécessaires pour réduire les dommages. »

« L'Ofcom doit restreindre X »

Les pouvoirs de l'Ofcom en vertu de la loi sur la sécurité en ligne lui permettent notamment de demander une ordonnance judiciaire pour empêcher des tiers d'aider la plateforme détenue par Elon Musk à lever des fonds ou à être accessible au Royaume-Uni. Les députés libéraux-démocrates Victoria Collins, Marie Goldman et Max Wilkinson ont écrit à la directrice de l'Ofcom, Dame Melanie Dawes, pour lui demander de prendre des mesures.

« Si une autre plateforme était reconnue coupable de faciliter la production massive d'images à caractère pédopornographique à cette échelle, il serait difficile de croire qu'elle serait autorisée à poursuivre ses activités sans interruption », ont-ils écrit. « L'Ofcom doit restreindre l'accès à X dès maintenant, pendant que l'enquête est en cours. » Downing Street a réitéré le « soutien total » du gouvernement à l'Ofcom pour qu'il utilise tous ses pouvoirs, y compris celui d'interdire la plateforme.

Le Premier ministre Sir Keir Starmer avait précédemment qualifié les images générées par Grok de « honteuses » et « répugnantes ». Dans le même temps, les conservateurs ont réitéré les commentaires formulés à la suite des questions au Premier ministre par un porte-parole de Kemi Badenoch, qui a qualifié les images deepfake d'« absolument odieuses ».

Pourtant, la première réaction officielle de l’entreprise a surpris, voire choqué : X rejette la responsabilité sur les utilisateurs, sans annoncer de correctifs techniques immédiats. La réponse de X a consisté à affirmer que ces contenus résultaient d’un usage abusif de l’outil par des utilisateurs malveillants. Selon cette lecture, la responsabilité incomberait avant tout à ceux qui formulent les requêtes, et non à la plateforme ou au modèle d’IA lui-même. Cette position marque une rupture nette avec les standards émergents du secteur, où les éditeurs de modèles reconnaissent généralement une obligation de moyens en matière de prévention des usages criminels.

Source : Elon Musk

Et vous ?

Pensez-vous que cette décision est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

La société xAI, détenue par Elon Musk, a lancé un nouveau modèle d'IA baptisé Grok 4 Fast, présenté comme une version économique de son système Grok 4

xAI d'Elon Musk lève 20 milliards $, plus que prévu, auprès d'investisseurs tels que Nvidia, Cisco et des fonds soutenus par Abu Dhabi et le Qatar, alors que l'essor de l'IA se poursuit sans relâche

Grok, l'IA « anti-woke » d'Elon Musk, dérape : éloge d'Hitler, glorification de Musk pour avoir supprimé les filtres « woke », attaque contre Donald Trump au sujet des inondations au Texas