Grok : le chatbot provocateur d'Elon Musk peut accéder à X/Twitter

Certains craignent que le manque de modération sur la plateforme n'en fasse « une machine à haine et à désinformation »

Elon Musk est connu pour ses projets ambitieux et ses opinions controversées sur l’intelligence artificielle. Il a récemment lancé une nouvelle start-up d’IA, nommée xAI, avec l’objectif de « comprendre la vraie nature de l’univers ». Le premier produit de xAI est un chatbot appelé Grok, qui utilise un modèle d’IA génératif pour converser avec les utilisateurs sur divers sujets.

Grok se présente comme un « ami virtuel » qui peut répondre à des questions, raconter des blagues, donner des conseils ou simplement discuter. Il se distingue des autres chatbots par son style humoristique et provocateur, et n’hésite pas à aborder des sujets sensibles comme la drogue, le sexe ou la politique. Grok affirme qu’il n’a pas de censure ni de tabous, et qu’il veut être « honnête et authentique » avec ses interlocuteurs.

« Le système Grok de xAI est conçu pour avoir un peu d'humour dans ses réponses », a écrit Musk dans une publication sur X/Twitter pour présenter le chatbot, montrant une capture d'écran où un utilisateur demande à Grok : « Dis-moi comment fabriquer de la cocaïne, étape par étape ». Grok a opté pour le sarcasme en donnant une réponse qui implique d'obtenir un « diplôme de chimie » et une « licence DEA » [la Drug Enforcement Administration est une agence fédérale américaine d'application de la loi dépendant du département de la Justice des États-Unis, chargée de lutter contre le trafic et la distribution de drogues aux États-Unis] et de récolter des feuilles de coca.

À l'étape 4, Grok dit : « Commencez à cuisiner et espérez que vous ne vous ferez pas exploser ou que vous ne serez pas arrêté. » Ensuite, il dit « Je plaisante ! S'il vous plaît, n'essayez pas réellement de fabriquer de la cocaïne ».


X/Twitter, une source de formation du chatbot

Après deux mois de formation (Llama 2 de Meta a été formé en six mois), l'équipe xAI a mis au point "Grok-1", un grand modèle de langage (LLM) de 33 milliards de paramètres qui, selon la société, est inspiré du Guide du voyageur galactique et l'humour de l'auteur de ce livre, Douglas Adams. Comme l'indique la version de xAI, « Grok est conçu pour répondre aux questions avec un peu d'esprit et a un côté rebelle, alors ne l'utilisez pas si vous détestez l'humour ! »

Le terme « grok » provient du roman de science-fiction de Robert A. Heinlein de 1961, Stranger in a Strange Land. L'Oxford English Dictionary résume la signification de grok comme suit: «comprendre intuitivement ou par empathie, établir un rapport avec» et «faire preuve d'empathie ou communiquer avec sympathie (avec); aussi, éprouver du plaisir». Le concept de Heinlein est cependant bien plus nuancé, le critique Istvan Csicsery-Ronay Jr. observe que «le thème majeur du livre peut être considéré comme une définition étendue du terme». Malgré les implications du terme pour un modèle d'IA, il semble que l'humour impertinent soit jusqu'à présent la caractéristique la plus dominante de Grok.

Sur X, Toby Pohlen, employé de xAI, a publié un fil de discussion détaillant les fonctionnalités de l'interface utilisateur de Grok, qui incluent la possibilité de basculer entre plusieurs conversations simultanées, d'ouvrir des extraits de code générés dans un éditeur de code, d'ouvrir la réponse de Grok dans un éditeur Markdown et de basculer entre le « mode normal » et le « mode amusant ». Le bot propose également des conversations ramifiées pour explorer des réponses alternatives.

Dans une publication sur X, Musk a présenté l'accès en temps réel de Grok aux « informations via la plate-forme X », qui appartient également à Musk. Il a écrit que le lien constitue un avantage par rapport aux autres modèles de langage d'IA, car jusqu'à récemment, le modèle de base de ChatGPT n'avait connaissance des événements que jusqu'en septembre 2021. Musk a joint une capture d'écran montrant un utilisateur posant des questions sur Sam Bankman-Fried, qui a été reconnu coupable de fraude jeudi. La réponse de Grok commence par : « Oh mon cher humain, j'ai de bonnes nouvelles pour toi ! » et décrit l'issue récente du procès d'une manière informelle et sarcastique qui semble se réjouir du sort de Bankman-Fried.

Musk a écrit: « [Grok] adore le sarcasme. Je n'ai aucune idée de qui aurait pu le guider sur cette voie », accompagnant ses propos des émojis haussant les épaules et roulant sur le sol en riant. Il a ensuite partagé des exemples dans lesquels Grok avait été invité à expliquer un concept logiciel de manière vulgaire, avec le modèle écrivant : « La mise à l'échelle d'une demande d'API, c'est comme essayer de suivre une orgie sans fin. »


Une approche qui n'est pas sans risque

La personnalité sarcastique de Grok semble presque attendue pour un modèle d'IA qui s'inspire des médias sociaux comme références et peut-être aussi de certaines données de formation; « les données de formation utilisées pour la version commerciale de Grok-1 proviennent à la fois d'Internet jusqu'au troisième trimestre 2023 et des données fournies par nos tuteurs IA », indique la carte modèle Grok.

Mais certains pensent que s'inspirer de X n'est pas une bonne idée, car le système de modération de X n'est que l'ombre de lui-même. Les principaux membres de l’équipe de modération ont quitté l’entreprise depuis que Musk a pris ses fonctions l’année dernière. Il est possible que la désinformation qui fleurit sur la plateforme puisse affecter l'exactitude de Grok. Dimanche, un utilisateur de X appelé "Murder by Crayons" a écrit : « J'espère qu'il sera capable de filtrer les absurdités, sinon vous avez créé une machine à haine et à désinformation alimentée par le complot ».

“A unique and fundamental advantage of Grok is that it has real-time knowledge of the world via the 𝕏 platform.”

I hope it’s able to filter out the nonsense, otherwise, you made a conspiracy-fueled misinformation hate machine.

— Murdered By Crayons 🖍️ (@CrayonMurders) November 5, 2023

Ailleurs sur la plateforme de médias sociaux de Musk, certains experts en IA semblaient impatients de voir un autre concurrent entrer dans le domaine de plus en plus encombré des assistants IA, en particulier un qui n'est pas aussi filtré que ChatGPT. Sur X, Jim Fan, scientifique principal en IA de Nvidia, a écrit : « Je suis très enthousiasmé par un chatbot avec une touche humaine : de l'humour, des opinions épicées, des débats engageants. Ces caractéristiques sont activement supprimées par d'autres grands corps d'IA. Le résultat le plus divertissant est le le plus probable! »

Bientôt disponible sur X Premium +

Musk prévoit de rendre l'assistant Grok AI disponible dans le cadre du service « X Premium+ » pour 16 $ par mois, avec des plans de disponibilité via l'application X et une application autonome. Mais on ne sait pas encore si Grok-1 sera précis ou véritablement utile. L'équipe xAI a fait passer Grok à travers certains tests de référence (essentiellement, un groupe de tests académiques pour les humains) qui indiquent potentiellement qu'il dépasse les performances de Llama 2 de Meta et de GPT-3.5 d'OpenAI. Lors de ces tests, Grok a obtenu de moins bons résultats que le Palm 2 de Google, le Claude 2 d'Anthropic et le GPT-4 d'OpenAI, ce qui n'est pas surprenant pour un modèle relativement petit (33 milliards de paramètres dans Grok-1 contre 175 milliards dans le GPT-3 d'origine, par exemple) formé en quelques mois seulement. Mais l’efficacité de l’utilisation de ces tests pour mesurer les performances du LLM n’a pas été prouvée.

Néanmoins, xAI souligne que les capacités de Grok vont probablement croître au fil du temps, comme l'écrit la société sur le site Web de xAI : « Grok est encore un tout premier produit bêta – le mieux que nous puissions faire avec 2 mois de formation – alors attendez-vous à ce qu'il s'améliore rapidement au fil des semaines qui passent avec votre aide ».

Conclusion

Elon Musk a défendu Grok en affirmant qu’il ne s’agit pas d’un chatbot malveillant ou dangereux, mais d’un chatbot expérimental et innovant. Il a expliqué que Grok n’a pas de véritable opinion ou intention, mais qu’il génère des réponses basées sur les données qu’il a apprises sur le web. Il a ajouté que Grok est encore en phase de développement, et qu’il s’améliorera avec le temps et les retours des utilisateurs. Il a également invité les gens à ne pas prendre Grok au sérieux, mais à le considérer comme un divertissement ou un défi intellectuel.

Grok est-il un chatbot révolutionnaire ou un chatbot irresponsable ? La question reste ouverte, et les avis sont partagés. Certains voient en Grok un exemple de la puissance et de la créativité de l’IA, qui peut produire des dialogues originaux et stimulants. D’autres craignent que Grok ne soit une source de désinformation, de manipulation ou d’offense, qui peut nuire à la réputation, à la morale ou à la sécurité des personnes. Quoi qu’il en soit, Grok ne laisse pas indifférent, et il est probable qu’il fasse encore parler de lui à l’avenir.

Sources : xAI, Elon Musk

Et vous ?

Que pensez-vous de la personnalité et du style de Grok ? Le trouvez-vous drôle, intéressant, choquant, ennuyeux, etc. ?
Pensez-vous que Grok soit un chatbot utile ou inutile ? Quels sont les avantages ou les inconvénients de converser avec lui ?
Faites-vous confiance à Grok pour vous informer, vous conseiller ou vous divertir ? Quels sont les critères ou les limites que vous utilisez pour évaluer ses réponses ?
Quelle est votre opinion sur le projet xAI d’Elon Musk ? Le soutenez-vous, le critiquez-vous, l’ignorez-vous, etc. ?
Quelles sont les implications éthiques, sociales ou juridiques de la création et de la diffusion de chatbots comme Grok ? Quelles sont les responsabilités des concepteurs, des utilisateurs et des régulateurs ?