Le chatbot d'IA Grok d'Elon Musk continue d'inventer des infox basées sur les blagues des utilisateurs de X et commet des erreurs "stupides",

Ce qui amplifie la désinformation sur la plateforme

Elon Musk, propriétaire du réseau social X, a fait le choix de permettre à son chatbot d'IA Grok d'accéder en temps réel aux messages publiés sur le site. Mais cette approche semble se retourner contre lui en raison de la faible qualité des informations produites par les utilisateurs de la plateforme. Grok génère de plus en plus d'informations biaisées et d'infox et commet des erreurs stupides. Le chatbot a même répandu des informations diffamatoires en accusant à tort une star de la NBA de vandalisme criminel. Grok est censé analyser en temps réel les messages de X pour partager des résumés des dernières nouvelles, mais l'expérience semble partir en vrille.

Grok est un chatbot d'IA développé par la startup xAI lancée par Elon Musk l'année dernière. Musk a notamment lancé xAI pour développer un rival de ChatGPT, le chatbot d'OpenAI qu'il accuse d'être woke et de promouvoir les idées de gauche, tout en censurant les voix des conservateurs. Contrairement à ses rivaux, Grok a la capacité d'accéder à des informations en temps réel grâce à une intégration avec le réseau social X (ex-Twitter). En outre, Grok se différencie des autres par le fait qu'il est prêt à s'attaquer à des questions "épicées" et est programmé pour le faire d'une manière à la fois spirituelle et surtout peu rebelle.

Mais les performances de Grok semblent se dégrader rapidement, notamment en matière d'exactitude dans les réponses. Il ne s'agit pas de petites erreurs, mais d'erreurs très stupides, sans parler du fait que le chatbot a participé à la diffusion d'informations erronées sur des événements mondiaux de premier plan. Au début du mois, Grok a diffusé de nombreuses infox sur l'éclipse en titrant : « le comportement étrange du soleil : les experts déconcertés ». Dans son article, le chatbot d'Elon Musk expliquait que "le soleil s'était comporté de manière inhabituelle, suscitant l'inquiétude et la confusion auprès du grand public".


L'article affirme que malgré l'inquiétude croissante du public, "il n'y a pas eu de déclaration officielle ou d'explication de la part des autorités scientifiques concernant l'état actuel du soleil". Il va sans dire que les scientifiques comprennent parfaitement ce qui se passe avec l'éclipse solaire, qui a été observée par des millions de curieux en Amérique du Nord le 8 avril dernier. Il n'y a pas de mystère sur les raisons d'une éclipse, malgré ce qu'affirment certains politiciens américains marginaux. Grok aurait fait ces étranges proclamations en se référant à des blagues faites par des gens qui se demandaient où était passé le soleil.

« QU'EST-CE QUI SE PASSE AVEC LE SOLEIL EN CE MOMENT ? ? ???? », pouvait-on lire lundi dans le premier message sur X, écrit par l'humoriste Michael Ian Black. « Il se passe quelque chose avec le soleil. Je ne veux alarmer personne, mais il semble que je ne sois pas le seul à le remarquer », a plaisanté un autre utilisateur. Mais ce n'est pas tout. Plus récemment Grok a diffusé des infox sur la star de NBA Klay Thompson après s'être trompé sur le sens de certains termes utilisés dans le jargon du basketball. Grok a titré : « Klay Thompson est accusé d'avoir commis des actes de vandalisme bizarres avec des briques ».

Sous le titre, le chatbot de Musk a apporté encore plus de détails pour étayer sa fausse information : « la star de la NBA Klay Thompson a été accusée d'avoir vandalisé de nombreuses maisons à l'aide de briques à Sacramento. Les autorités enquêtent sur ces allégations après que plusieurs personnes ont signalé que leur maison avait été endommagée et que des fenêtres avaient été brisées par des briques. Klay Thompson n'a pas encore fait de déclaration concernant ces accusations. Les incidents ont ébranlé la communauté, mais aucun blessé n'a été signalé. Le motif de ces actes de vandalisme n'est toujours pas clair ».

En effet, Grok semble confondre un terme courant du basketball, où l'on dit que les joueurs lancent des "briques". (Il désigne familièrement un tir manqué qui ne touche pas l'arceau du panier, mais uniquement la planche.) Selon le site SFGate, qui a été l'un des premiers à signaler l'erreur de Grok, Thompson a eu une soirée de "tirs difficiles", ne réussissant aucun de ses tirs lors de ce qui était son dernier match émotionnel avec les Golden State Warriors avant de devenir un agent libre sans restriction. Les utilisateurs ont parlé de "briques" pour discuter de la prestation de Klay Thompson, mais Grok les a mal interprétés.

First off… I am ok.

My house was vandalized by bricks 🧱

After my hands stopped shaking, I managed to call the Sheriff…They were quick to respond🚨

My window was gone and the police asked if I knew who did it👮*♂️

I said yes, it was Klay Thompson

— LakeShowYo (@LakeShowYo) April 17, 2024

En petits caractères sous l'article de Grok, X inclut une clause de non-responsabilité indiquant : « Grok est une fonctionnalité précoce et peut faire des erreurs. Vérifiez ses résultats ». Mais au lieu de cela, il semble que les utilisateurs de X - dans l'esprit de plaisanterie bien connu du service - aient décidé d'alimenter la désinformation de Grok. Sous le message, des utilisateurs de X, dont certains fans de la NBA, ont commenté avec de faux rapports de victimes, utilisant le même format de blague pour apparemment convaincre le chatbot de Musk que plusieurs personnes ont signalé que leur maison avait été endommagée.

Certains de ces commentaires ont été vus par des millions de personnes. Par le passé, OpenAI et son principal investisseur Microsoft ont fait l'objet de poursuites en diffamation pour des proclamations similaires, ChatGPT ayant accusé à tort un homme politique et un animateur radio d'avoir des antécédents criminels complètement inventés. Microsoft a également été poursuivie par un professeur d'aérospatiale que Copilot (alors Bing Chat) avait faussement qualifié de terroriste. Musk, son réseau social X et sa startup xAI tentent d'échapper à ce type de poursuites en mettant en place une clause de non-responsabilité.

Mais des experts affirment qu'il n'est pas certain que cela permette aux entreprises d'échapper à toute responsabilité si un plus grand nombre de personnes décident d'intenter des actions en justice pour des résultats d'IA erronés. Les plaintes pour diffamation pourraient dépendre de la preuve que les plateformes publient "sciemment" de fausses déclarations, ce que les clauses de non-responsabilité suggèrent. En juillet dernier, la Federal Trade Commission (FTC) a ouvert une enquête sur OpenAI, exigeant que l'entreprise réponde aux inquiétudes de la FTC concernant les résultats "faux, trompeurs ou désobligeants" de l'IA.

X a lancé Grok pour tous les utilisateurs payants ce mois-ci, juste au moment où X a commencé à donner un accès premium aux meilleurs utilisateurs de la plateforme. Pendant le déploiement, X a vanté la nouvelle capacité de Grok à résumer toutes les actualités et tous les sujets en vogue, ce qui a peut-être suscité l'intérêt pour cette fonctionnalité et fait grimper l'utilisation de Grok juste avant que Grok ne crache un message potentiellement diffamatoire sur la star de la NBA. Les proclamations de Grok sur l'éclipse et sur Klay Thompson ne sont que deux des cas les plus médiatisés où le chatbot de Musk a diffusé des infox.


Grok a également généré de faux titres et de faux contenus d'actualité sur la montée des tensions entre l'Iran et Israël. Et les faux titres et les faux...