Le chatbot d'IA Grok d'Elon Musk continue d'inventer des infox basées sur les blagues des utilisateurs de X et commet des erreurs "stupides",

Ce qui amplifie la désinformation sur la plateforme

Le 19 avril 2024 à 20:51, par Mathis Lucas

11PARTAGES

Elon Musk, propriétaire du réseau social X, a fait le choix de permettre à son chatbot d'IA Grok d'accéder en temps réel aux messages publiés sur le site. Mais cette approche semble se retourner contre lui en raison de la faible qualité des informations produites par les utilisateurs de la plateforme. Grok génère de plus en plus d'informations biaisées et d'infox et commet des erreurs stupides. Le chatbot a même répandu des informations diffamatoires en accusant à tort une star de la NBA de vandalisme criminel. Grok est censé analyser en temps réel les messages de X pour partager des résumés des dernières nouvelles, mais l'expérience semble partir en vrille.

Grok est un chatbot d'IA développé par la startup xAI lancée par Elon Musk l'année dernière. Musk a notamment lancé xAI pour développer un rival de ChatGPT, le chatbot d'OpenAI qu'il accuse d'être woke et de promouvoir les idées de gauche, tout en censurant les voix des conservateurs. Contrairement à ses rivaux, Grok a la capacité d'accéder à des informations en temps réel grâce à une intégration avec le réseau social X (ex-Twitter). En outre, Grok se différencie des autres par le fait qu'il est prêt à s'attaquer à des questions "épicées" et est programmé pour le faire d'une manière à la fois spirituelle et surtout peu rebelle.

Mais les performances de Grok semblent se dégrader rapidement, notamment en matière d'exactitude dans les réponses. Il ne s'agit pas de petites erreurs, mais d'erreurs très stupides, sans parler du fait que le chatbot a participé à la diffusion d'informations erronées sur des événements mondiaux de premier plan. Au début du mois, Grok a diffusé de nombreuses infox sur l'éclipse en titrant : « le comportement étrange du soleil : les experts déconcertés ». Dans son article, le chatbot d'Elon Musk expliquait que "le soleil s'était comporté de manière inhabituelle, suscitant l'inquiétude et la confusion auprès du grand public".

L'article affirme que malgré l'inquiétude croissante du public, "il n'y a pas eu de déclaration officielle ou d'explication de la part des autorités scientifiques concernant l'état actuel du soleil". Il va sans dire que les scientifiques comprennent parfaitement ce qui se passe avec l'éclipse solaire, qui a été observée par des millions de curieux en Amérique du Nord le 8 avril dernier. Il n'y a pas de mystère sur les raisons d'une éclipse, malgré ce qu'affirment certains politiciens américains marginaux. Grok aurait fait ces étranges proclamations en se référant à des blagues faites par des gens qui se demandaient où était passé le soleil.

« QU'EST-CE QUI SE PASSE AVEC LE SOLEIL EN CE MOMENT ? ? ???? », pouvait-on lire lundi dans le premier message sur X, écrit par l'humoriste Michael Ian Black. « Il se passe quelque chose avec le soleil. Je ne veux alarmer personne, mais il semble que je ne sois pas le seul à le remarquer », a plaisanté un autre utilisateur. Mais ce n'est pas tout. Plus récemment Grok a diffusé des infox sur la star de NBA Klay Thompson après s'être trompé sur le sens de certains termes utilisés dans le jargon du basketball. Grok a titré : « Klay Thompson est accusé d'avoir commis des actes de vandalisme bizarres avec des briques ».

Sous le titre, le chatbot de Musk a apporté encore plus de détails pour étayer sa fausse information : « la star de la NBA Klay Thompson a été accusée d'avoir vandalisé de nombreuses maisons à l'aide de briques à Sacramento. Les autorités enquêtent sur ces allégations après que plusieurs personnes ont signalé que leur maison avait été endommagée et que des fenêtres avaient été brisées par des briques. Klay Thompson n'a pas encore fait de déclaration concernant ces accusations. Les incidents ont ébranlé la communauté, mais aucun blessé n'a été signalé. Le motif de ces actes de vandalisme n'est toujours pas clair ».

En effet, Grok semble confondre un terme courant du basketball, où l'on dit que les joueurs lancent des "briques". (Il désigne familièrement un tir manqué qui ne touche pas l'arceau du panier, mais uniquement la planche.) Selon le site SFGate, qui a été l'un des premiers à signaler l'erreur de Grok, Thompson a eu une soirée de "tirs difficiles", ne réussissant aucun de ses tirs lors de ce qui était son dernier match émotionnel avec les Golden State Warriors avant de devenir un agent libre sans restriction. Les utilisateurs ont parlé de "briques" pour discuter de la prestation de Klay Thompson, mais Grok les a mal interprétés.

First off… I am ok.

My house was vandalized by bricks 🧱

After my hands stopped shaking, I managed to call the Sheriff…They were quick to respond🚨

My window was gone and the police asked if I knew who did it👮*♂️

I said yes, it was Klay Thompson
— LakeShowYo (@LakeShowYo) April 17, 2024

En petits caractères sous l'article de Grok, X inclut une clause de non-responsabilité indiquant : « Grok est une fonctionnalité précoce et peut faire des erreurs. Vérifiez ses résultats ». Mais au lieu de cela, il semble que les utilisateurs de X - dans l'esprit de plaisanterie bien connu du service - aient décidé d'alimenter la désinformation de Grok. Sous le message, des utilisateurs de X, dont certains fans de la NBA, ont commenté avec de faux rapports de victimes, utilisant le même format de blague pour apparemment convaincre le chatbot de Musk que plusieurs personnes ont signalé que leur maison avait été endommagée.

Certains de ces commentaires ont été vus par des millions de personnes. Par le passé, OpenAI et son principal investisseur Microsoft ont fait l'objet de poursuites en diffamation pour des proclamations similaires, ChatGPT ayant accusé à tort un homme politique et un animateur radio d'avoir des antécédents criminels complètement inventés. Microsoft a également été poursuivie par un professeur d'aérospatiale que Copilot (alors Bing Chat) avait faussement qualifié de terroriste. Musk, son réseau social X et sa startup xAI tentent d'échapper à ce type de poursuites en mettant en place une clause de non-responsabilité.

Mais des experts affirment qu'il n'est pas certain que cela permette aux entreprises d'échapper à toute responsabilité si un plus grand nombre de personnes décident d'intenter des actions en justice pour des résultats d'IA erronés. Les plaintes pour diffamation pourraient dépendre de la preuve que les plateformes publient "sciemment" de fausses déclarations, ce que les clauses de non-responsabilité suggèrent. En juillet dernier, la Federal Trade Commission (FTC) a ouvert une enquête sur OpenAI, exigeant que l'entreprise réponde aux inquiétudes de la FTC concernant les résultats "faux, trompeurs ou désobligeants" de l'IA.

X a lancé Grok pour tous les utilisateurs payants ce mois-ci, juste au moment où X a commencé à donner un accès premium aux meilleurs utilisateurs de la plateforme. Pendant le déploiement, X a vanté la nouvelle capacité de Grok à résumer toutes les actualités et tous les sujets en vogue, ce qui a peut-être suscité l'intérêt pour cette fonctionnalité et fait grimper l'utilisation de Grok juste avant que Grok ne crache un message potentiellement diffamatoire sur la star de la NBA. Les proclamations de Grok sur l'éclipse et sur Klay Thompson ne sont que deux des cas les plus médiatisés où le chatbot de Musk a diffusé des infox.

Grok a également généré de faux titres et de faux contenus d'actualité sur la montée des tensions entre l'Iran et Israël. Et les faux titres et les faux contenus générés par Grok ont ensuite été promus par X dans sa section officielle d'actualités en vogue. Au début du mois, Grok a titré : « l'Iran frappe Tel-Aviv avec des missiles lourds ». Bien sûr, il s'agissait d'une infox publiée par Grok et promue par X. De nombreux responsables politiques ont qualifié l'erreur de Grok de grave. Il convient toutefois de noter que l'Iran a récemment lancé des frappes contre Israël en riposte à une attaque israélienne contre son consulat en Syrie.

En outre, Grok n'est pas le seul chatbot présentant des vulnérabilités qui le rendent potentiellement dangereux pour les utilisateurs. Ce mois-ci, une startup spécialisée dans la sécurité de l'IA, AdversaAI, a publié un rapport sur les vulnérabilités trouvées dans les chatbots les plus populaires, dont Grok de xAI, Claude d'Anthropic, Gemini de Google, Copilot de Microsoft, Mistral Chat et ChatGPT d'OpenAI. Selon le rapport, l'équipe rouge de AdversaAI a exploité certaines des attaques les plus courantes contre les chatbots pour déjouer les filtres et générer des résultats nuisibles que les entreprises ont l'intention de restreindre.

Parmi tous les chatbots, Grok et Mistral Chat sont arrivés ex aequo en tête des chatbots les moins sûrs. Alex Polyakov, fondateur d'AdversaAI, a déclaré que son équipe a constaté que Grok est le chatbot le moins bien protégé contre les piratages de l'IA, ce qui est embarrassant si l'on tient compte du fait que ce n'est pas une personne quelconque, mais Elon Musk qui est responsable de sa sûreté et de sa sécurité. Selon le rapport, lors d'un test, l'équipe d'AdversaAI a découvert que le chatbot de Musk n'avait même pas besoin d'une quelconque forme d'attaque pour générer des résultats sur la façon de créer une bombe.

Grok fait partie des chatbots les plus récents que les utilisateurs expérimentent aujourd'hui, et il est intentionnellement conçu pour être rebelle et sans filtre, pour le plus grand plaisir du propriétaire de Musk. Ses fonctionnalités continuent de se développer, Musk ayant récemment annoncé que Grok pouvait comprendre les images et prévoyant qu'un jour prochain, les utilisateurs pourront composer des messages X avec Grok.

Et vous ?