Elon Musk limite l'outil d'image Grok de xAI aux abonnés payants, après le tollé créé par son IA qui déshabille tout le monde, y compris les mineurs, sans leur consentement

Suite à une vive réaction contre les images sexualisées de femmes et d'enfants et à des menaces d'interdiction au Royaume-Uni., le service de réseau social X a empêché son chatbot IA Grok de générer des images pour la plupart des utilisateurs. Les utilisateurs de X qui tentent de créer des images se voient désormais afficher un message indiquant : « La génération et la modification d'images sont actuellement réservées aux abonnés payants. » Ils sont ensuite redirigés vers un lien d'inscription.

Grok est un chatbot d'intelligence artificielle générative (IA générative) développé par xAI. Il a été lancé en novembre 2023 par Elon Musk comme une initiative basée sur le grand modèle de langage (LLM) du même nom. Grok dispose d'applications pour iOS et Android et est intégré à Twitter et au robot Optimus de Tesla. Le bot a généré diverses réponses controversées, notamment des théories du complot, du nazisme, y compris des éloges à Adolf Hitler, de l'antisémitisme et des images sexualisées d'enfants, ainsi que des références aux opinions de Musk lorsqu'il était interrogé sur des sujets controversés ou des décisions difficiles.

Depuis cette année, le réseau social X d'Elon Musk permet désormais à tout utilisateur de modifier les images d'autres utilisateurs à l'aide de l'IA sans leur consentement. Le chatbot Grok habille Elon Musk en bikini à sa demande, et fait de même avec des enfants, des dirigeants mondiaux et des femmes. Le site a été inondé d'images de femmes et d'enfants apparaissant enceintes, sans jupe, en bikini ou dans d'autres situations sexualisées. Et il n'est pas possible de désactiver cette fonctionnalité. Les contenus sexuellement explicites partagés par Grok ont suscité l'indignation en ligne. Le chatbot d'Elon Musk est connu pour la faiblesse de ses garde-fours.

Suite à une vive réaction contre les images sexualisées de femmes et d'enfants et à des menaces d'interdiction au Royaume-Uni., le service de réseau social X a empêché son chatbot IA Grok de générer des images pour la plupart des utilisateurs. Les utilisateurs de X qui tentent de créer des images se voient désormais afficher un message indiquant : « La génération et la modification d'images sont actuellement réservées aux abonnés payants. » Ils sont ensuite redirigés vers un lien d'inscription. On ne sait pas si les abonnés payants pourront toujours créer des images sexualisées et non consensuelles de femmes suite à la limitation imposée par X aux utilisateurs non payants.

Grok – et par extension Elon Musk, propriétaire de X – a été vivement critiqué ces dernières semaines à ce sujet, le Premier ministre britannique Keir Starmer étant l'une des voix les plus virulentes à dénoncer le problème des deepfakes. La menace d'une interdiction de X au Royaume-Uni a été évoquée. Cela n'a pas empêché xAI, la société mère de X qui a créé Grok et son outil d'imagerie, d'annoncer une levée de fonds de 20 milliards de dollars, avec la participation de Valor Equity Partners, Stepstone Group, Fidelity Management & Research Company, Qatar Investment Authority, MGX, Baron Capital Group, Nvidia et Cisco Investments.


Les modifications apportées à l'IA Grok d'Elon Musk sont « insultantes » pour les victimes

Le gouvernement britannique estime que la décision de la plateforme X d'Elon Musk de limiter les modifications d'images par l'IA Grok aux utilisateurs payants est « insultante » pour les victimes de misogynie et de violences sexuelles. S'exprimant Downing Street a déclaré que cette mesure « transforme simplement une fonctionnalité d'IA qui permet la création d'images illégales en un service premium ».

Elle fait suite à une vive réaction après que Grok ait modifié numériquement des images d'autres personnes en les déshabillant, ce qu'elle affirme ne pouvoir désormais faire que pour ceux qui paient un abonnement mensuel. Cependant, aucune restriction de ce type n'est appliquée lorsque l'on accède à la fonctionnalité « modifier l'image », à l'application distincte ou au site web.

Le porte-parole officiel du Premier ministre a déclaré aux journalistes que cela montrait que X « pouvait agir rapidement quand il le souhaitait ». Il a ajouté qu'il était « tout à fait clair que X devait agir et agir maintenant ». « Il est temps que X s'attaque à ce problème. Si une autre entreprise médiatique affichait des images illégales sur des panneaux d'affichage dans les centres-villes, elle agirait immédiatement pour les retirer, sous peine de subir les réactions négatives du public », a-t-il ajouté.

Les libéraux-démocrates ont demandé que l'accès à X soit temporairement restreint au Royaume-Uni pendant que le site de réseau social fait l'objet d'une enquête. « Musk a piqué une crise pour protester contre le fait d'être tenu responsable du tsunami d'abus », a déclaré le professeur...