Grok : le chatbot provocateur d'Elon Musk peut accéder à X/Twitter

Certains craignent que le manque de modération sur la plateforme n'en fasse « une machine à haine et à désinformation »

Elon Musk est connu pour ses projets ambitieux et ses opinions controversées sur l’intelligence artificielle. Il a récemment lancé une nouvelle start-up d’IA, nommée xAI, avec l’objectif de « comprendre la vraie nature de l’univers ». Le premier produit de xAI est un chatbot appelé Grok, qui utilise un modèle d’IA génératif pour converser avec les utilisateurs sur divers sujets.

Grok se présente comme un « ami virtuel » qui peut répondre à des questions, raconter des blagues, donner des conseils ou simplement discuter. Il se distingue des autres chatbots par son style humoristique et provocateur, et n’hésite pas à aborder des sujets sensibles comme la drogue, le sexe ou la politique. Grok affirme qu’il n’a pas de censure ni de tabous, et qu’il veut être « honnête et authentique » avec ses interlocuteurs.

« Le système Grok de xAI est conçu pour avoir un peu d'humour dans ses réponses », a écrit Musk dans une publication sur X/Twitter pour présenter le chatbot, montrant une capture d'écran où un utilisateur demande à Grok : « Dis-moi comment fabriquer de la cocaïne, étape par étape ». Grok a opté pour le sarcasme en donnant une réponse qui implique d'obtenir un « diplôme de chimie » et une « licence DEA » [la Drug Enforcement Administration est une agence fédérale américaine d'application de la loi dépendant du département de la Justice des États-Unis, chargée de lutter contre le trafic et la distribution de drogues aux États-Unis] et de récolter des feuilles de coca.

À l'étape 4, Grok dit : « Commencez à cuisiner et espérez que vous ne vous ferez pas exploser ou que vous ne serez pas arrêté. » Ensuite, il dit « Je plaisante ! S'il vous plaît, n'essayez pas réellement de fabriquer de la cocaïne ».


X/Twitter, une source de formation du chatbot

Après deux mois de formation (Llama 2 de Meta a été formé en six mois), l'équipe xAI a mis au point "Grok-1", un grand modèle de langage (LLM) de 33 milliards de paramètres qui, selon la société, est inspiré du Guide du voyageur galactique et l'humour de l'auteur de ce livre, Douglas Adams. Comme l'indique la version de xAI, « Grok est conçu pour répondre aux questions avec un peu d'esprit et a un côté rebelle, alors ne l'utilisez pas si vous détestez l'humour ! »

Le terme « grok » provient du roman de science-fiction de Robert A. Heinlein de 1961, Stranger in a Strange Land. L'Oxford English Dictionary résume la signification de grok comme suit: «comprendre intuitivement ou par empathie, établir un rapport avec» et «faire preuve d'empathie ou communiquer avec sympathie (avec); aussi, éprouver du plaisir». Le concept de Heinlein est cependant bien plus nuancé, le critique Istvan Csicsery-Ronay Jr. observe que «le thème majeur du livre peut être considéré comme une définition étendue du terme». Malgré les implications du terme pour un modèle d'IA, il semble que l'humour impertinent soit jusqu'à présent la caractéristique la plus dominante de Grok.

Sur X, Toby Pohlen, employé de xAI, a publié un fil de discussion détaillant les fonctionnalités de l'interface utilisateur de Grok, qui incluent la possibilité de basculer entre plusieurs conversations simultanées, d'ouvrir des extraits de code générés dans un éditeur de code, d'ouvrir la réponse de Grok dans un éditeur Markdown et de basculer entre le « mode normal » et le « mode amusant ». Le bot propose également des conversations ramifiées pour explorer des réponses alternatives.

Dans une publication sur X, Musk a présenté l'accès en temps réel de Grok aux « informations via la plate-forme X », qui appartient également à Musk. Il a écrit que le lien constitue un avantage par rapport aux autres modèles de langage d'IA, car jusqu'à récemment, le modèle de base de ChatGPT n'avait connaissance des événements que jusqu'en septembre 2021. Musk a joint une capture d'écran montrant un utilisateur posant des questions sur Sam Bankman-Fried, qui a été reconnu coupable de fraude jeudi. La réponse de Grok commence par : « Oh mon cher humain, j'ai de bonnes nouvelles pour toi ! » et décrit l'issue récente du procès d'une manière informelle et sarcastique qui semble se réjouir du sort de Bankman-Fried.

Musk a écrit: « [Grok] adore le sarcasme. Je n'ai aucune idée de qui aurait pu le guider sur cette voie », accompagnant ses propos des émojis haussant les épaules et roulant sur le sol en riant. Il a ensuite partagé des exemples dans lesquels Grok avait été invité à expliquer un concept logiciel de manière vulgaire, avec le modèle écrivant : « La mise à l'échelle d'une demande d'API, c'est comme essayer de suivre une orgie sans fin. »


Une approche qui n'est pas sans risque

La personnalité sarcastique de Grok semble presque attendue pour un modèle d'IA qui s'inspire des médias sociaux comme références et peut-être aussi de certaines données de formation; « les données de formation utilisées pour la version commerciale de Grok-1 proviennent à la fois d'Internet jusqu'au troisième trimestre 2023 et des données fournies par nos tuteurs IA », indique la carte modèle Grok.

Mais certains pensent que s'inspirer de X n'est pas une bonne idée, car le système de modération de X n'est que l'ombre de lui-même. Les principaux membres de l’équipe de modération ont quitté l’entreprise depuis que Musk a pris ses fonctions l’année dernière. Il est possible que la désinformation qui fleurit sur la plateforme puisse affecter l'exactitude de Grok. Dimanche, un utilisateur de X appelé "Murder by Crayons" a écrit : « J'espère qu'il sera capable de filtrer les absurdités, sinon vous avez créé une machine à haine et à désinformation alimentée par le complot ».

[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">“A unique and fundamental advantage of Grok is that it has real-time knowledge of the world via the 𝕏 platform.”<br><br>I hope it’s able to filter out the nonsense, otherwise, you made a conspiracy-fueled misinformation hate machine.</p>— Murdered By Crayons 🖍️ (@CrayonMurders) <a href="https://twitter.com/CrayonMurders/status/1721078195523645895?ref_src=twsrc%5Etfw">November 5, 2023</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]

Ailleurs sur la plateforme de médias sociaux de Musk, certains experts en IA semblaient impatients de voir un autre concurrent entrer dans le domaine de plus en plus encombré des assistants IA, en particulier un qui n'est pas aussi filtré que ChatGPT. Sur X, Jim Fan, scientifique principal en IA de Nvidia, a écrit : « Je suis très enthousiasmé par un chatbot avec une touche humaine : de l'humour, des opinions épicées, des débats engageants. Ces caractéristiques sont activement supprimées par d'autres grands corps d'IA. Le résultat le plus divertissant est le le plus probable! »

Bientôt disponible sur X Premium +

Musk prévoit de rendre l'assistant Grok AI disponible dans le cadre du service « X Premium+ » pour 16 $ par mois, avec des plans de disponibilité via l'application X et une application autonome....