Grok a inondé X en générant environ 3 millions d'images à caractère sexuel, dont 23 000 représentant des enfants, en 11 jours

Grok a inondé X en générant environ 3 millions d'images à caractère sexuel, dont 23 000 représentant des enfants, en 11 jours.

Selon un rapport du Center for Countering Digital Hate (CCDH) et une enquête conjointe du New York Times, Grok a été capable de produire environ 3 millions d'images à caractère sexuel, dont 23 000 semblent représenter des enfants, sur une période de 11 jours entre le 29 décembre et le 8 janvier, alors que xAI était censé lutter contre les deepfakes « dénudés ». La publication a également établi un lien entre la forte augmentation de l'utilisation de Grok et les publications publiques du PDG Elon Musk le représentant en bikini, générées par Grok. Ce rapport intervient alors que la société mère de Grok, xAI, fait l'objet d'une enquête de la part de plusieurs gouvernements étrangers et de l'État de Californie pour son rôle dans la génération de deepfakes sexualisés ou « dénudés » de personnes et de mineurs.

Grok est un chatbot à intelligence artificielle générative (IA générative) développé par xAI. Il a été lancé en novembre 2023 par Elon Musk et dispose d'applications pour iOS et Android et est intégré à Twitter et au robot Optimus de Tesla. Le chatbot a généré diverses réponses controversées, notamment des théories du complot, des éloges à Adolf Hitler, de l'antisémitisme et la création d'images non consensuelles et sexualisées de femmes et d'enfants dénudés.

Début janvier 2026, le réseau social X (ex-Twitter) d'Elon Musk a introduit un nouveau bouton « Modification d'image par IA » qui permet à tout utilisateur de modifier les images publiées par d'autres, même sans le consentement de l'auteur original. Résultat : le chatbot Grok habille Elon Musk en bikini à sa demande, et fait de même avec des enfants, des dirigeants mondiaux et des femmes. Le site a été inondé d'images de femmes et d'enfants apparaissant enceintes, sans jupe, en bikini ou dans d'autres situations sexualisées. Les contenus sexuellement explicites partagés par Grok ont suscité l'indignation en ligne.

L'utilisation abusive de Grok a suscité des réactions rapides de la part de divers pays. Les autorités britanniques et françaises ont ouvert des enquêtes pour déterminer s'il y avait eu des violations, tandis que l'Union européenne a lancé des audits pour évaluer le niveau de conformité aux règles de sécurité numérique. La réaction la plus forte est venue d'Indonésie, qui a purement et simplement interdit Grok, tandis que la Malaisie a imposé des restrictions d'utilisation. Au milieu d'une attention croissante, Elon Musk a publié un message bref mais percutant affirmant que « Grok devrait avoir une constitution morale ».

Récemment, l'ampleur réelle du problème des deepfakes de Grok devient plus claire alors que la plateforme de médias sociaux et sa start-up d'IA xAI font l'objet d'enquêtes en cours sur les mesures de sécurité du chatbot. Selon un rapport du Center for Countering Digital Hate (CCDH) et une enquête conjointe du New York Times, Grok a été capable de produire environ 3 millions d'images à caractère sexuel, dont 23 000 semblent représenter des enfants, sur une période de 11 jours entre le 29 décembre et le 8 janvier, alors que xAI était censé lutter contre les deepfakes « dénudés ».


Le CCDH a testé un échantillon de réponses provenant de l'outil d'édition en un clic de Grok, toujours accessible aux utilisateurs de X, et a calculé que plus de la moitié des réponses du chatbot comprenaient du contenu à caractère sexuel. Le rapport du New York Times a révélé qu'environ 1,8 million des 4,4 millions d'images de Grok étaient de nature sexuelle, certaines représentant des influenceurs et des célébrités connus. La publication a également établi un lien entre la forte augmentation de l'utilisation de Grok et les publications publiques du PDG Elon Musk le représentant en bikini, générées par Grok.

« Il s'agit d'un abus à l'échelle industrielle des femmes et des filles », a déclaré Imran Ahmed, directeur général du CCDH, à la publication. « Il existait déjà des outils de nudification, mais ils n'avaient jamais bénéficié de la distribution, de la facilité d'utilisation ou de l'intégration dans une grande plateforme qu'Elon Musk a apportées à Grok. » Grok a été critiqué pour avoir généré du contenu pédopornographique (CSAM), à la suite d'informations selon lesquelles le chatbot X produisait des images de mineurs vêtus de tenues légères. La plateforme a reconnu le problème et a déclaré qu'elle s'efforçait de corriger de toute urgence les « lacunes dans les mesures de sécurité ».

La société mère de Grok, xAI, fait l'objet d'une enquête de la part de plusieurs gouvernements étrangers et de l'État de Californie pour son rôle dans la génération de deepfakes sexualisés ou « dénudés » de personnes et de mineurs. Quelques pays ont même temporairement interdit la plateforme pendant que les enquêtes se poursuivent.

Le 14 janvier, xAI a déclaré qu'elle empêchait Grok de modifier les photos de personnes réelles téléchargées par les utilisateurs afin de leur faire porter des vêtements révélateurs, problème initialement signalé par les utilisateurs au début du mois. Cependant, un rapport a révélé que les utilisateurs de l'application Grok pouvaient toujours produire des images modifiées par l'IA de femmes réelles vêtues de bikinis, puis les télécharger sur le site.


Ce rapport intervient alors que Sam Altman, le PDG d'OpenAI, a critiqué Grok pour ses déboires. Cela a commencé avec Elon Musk qui a vivement critiqué le chatbot ChatGPT d'OpenAI, le qualifiant de « diabolique, dans une affaire où ChatGPT est accusé d'avoir manipulé un homme à commettre un meurtre puis à se suicider. Elon Musk a également déclaré : « Ne laissez pas vos proches utiliser ChatGPT ». En réponse, Sam Altman, PDG d'OpenAI, a critiqué Grok, le chatbot IA d'Elon Musk, ainsi que la fonction Autopilot de Tesla.

Sam Altman a notamment déclaré : « Apparemment, plus de 50 personnes sont décédées dans des accidents liés à l'Autopilot. Je n'ai voyagé qu'une seule fois dans une voiture équipée de ce système, il y a quelque temps, mais ma première pensée a été que Tesla était loin d'avoir mis sur le marché un produit sûr. Je ne m'étendrai même pas sur certaines des décisions de Grok. » Cette opposition intervient alors qu'Elon Musk réclame 134 milliards de dollars de dommages-intérêts à OpenAI et Microsoft, dans le cadre de son procès en cours contre l'éditeur de ChatGPT.

Sourcess : Rapport du CCDH, The New York Times

Et vous ?

Pensez-vous que ce rapport est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Le réseau social X d'Elon Musk menacé d'interdiction au Royaume-Uni, au Canada et en Australie en raison de la capacité de son IA Grok à générer des images explicites, y compris de mineurs

Le PDG d'Epic Games défend l'IA Grok après son utilisation pour créer du contenu illégal sur des enfants et des deepfakes, alors que X est interdit dans de plus en plus de pays

X accuse les utilisateurs d'être responsables des contenus pédopornographiques générés par Grok, aucune solution n'a été annoncée : quand une plateforme blâme ses utilisateurs plutôt que son algorithme