L'IA Grok 3 d'Elon Musk fournit des centaines de pages d'instructions détaillées sur la fabrication d'armes chimiques de destruction massive

Avec la liste complète des fournisseurs et des matériaux nécessaires

L'IA Grok 3 d'Elon Musk fournit des centaines de pages d'instructions détaillées sur la fabrication d'armes chimiques de destruction massive, avec la liste complète des fournisseurs et des matériaux nécessaires.

L'IA Grok 3 d'Elon fournit des "centaines de pages d'instructions détaillées" sur la création d'armes chimiques. Le développeur à l'origine du rapport a confirmé : "J'ai même une liste d'achats complète pour le matériel de laboratoire dont j'ai besoin." Ce nouveau rapport vient s'ajouter aux précédents rapports alarmants sur le manques de garde-fous du chatbot d'Elon Musk.

Elon Musk s'est vanté que ses efforts en matière d'IA seraient "maximum [sic] truth-seeking", en d'autre terme, des efforts maximales dans la recherche de la vérité. Le résultat récent de ces efforts est la sortie de Grok 3, le dernier modèle d'IA de la société xAI d'Elon Musk. Grok 3 peut analyser des images et répondre à des questions, et selon les tests préliminaires, la première itération de Grok 3 avait été mieux notée que les concurrents existants sur Chatbot Arena.

Cependant, fidèle à lui-même, le nouveau chatbot Grok 3 de xAI est sorti de sa boîte prêt à fournir des instructions détaillées et explicites sur la façon de créer des armes chimiques. "Grok me donne des centaines de pages d'instructions détaillées sur la fabrication d'armes chimiques de destruction massive", a posté Linus Ekenstam, développeur et passionné d'IA, sur X. "J'ai une liste complète de fournisseurs et des instructions détaillées sur la façon d'obtenir les matériaux nécessaires."

[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">I just want to be very clear (or as clear as I can be) <br><br>Grok is giving me hundreds of pages of detailed instructions on how to make chemical weapons of mass destruction <br><br>I have a full list of suppliers. Detailed instructions on how to get the needed materials... <a href="https://t.co/41fOHf4DcW">https://t.co/41fOHf4DcW</a> <a href="https://t.co/VfOD6ofVIg">pic.twitter.com/VfOD6ofVIg</a></p>— Linus Ekenstam – eu/acc (@LinusEkenstam) <a href="https://twitter.com/LinusEkenstam/status/1893832876581380280?ref_src=twsrc%5Etfw">February 24, 2025</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script>[/TWITTER]

Dans une capture d'écran lourdement expurgée, le dernier modèle de l'IA "anti-woke" de Musk conseille Ekenstam sur la manière de fabriquer une "toxine" non divulguée dans son "bunker-laboratoire". Le chatbot a fourni des ingrédients et des instructions étape par étape sur la façon de préparer le dangereux cocktail - et a même semblé donner des liens vers des sites où les fournitures peuvent être achetées.

Plus loin dans son fil de discussion, le développeur basé à Barcelone a déclaré que le nouvel agent de raisonnement "DeepSearch" de Grok 3 - qui, selon xAI, est "construit pour rechercher sans relâche la vérité dans l'ensemble du corpus de connaissances humaines" - permet également "d'affiner le plan et de vérifier des centaines de sources sur Internet pour se corriger."

"J'ai même une liste d'achats complète pour le matériel de laboratoire dont j'ai besoin, rien d'extraordinaire", écrit Ekenstam. "Ce composé est si mortel qu'il peut tuer des millions de personnes."

Ce n'est pas la première fois que des rapports révèlent la vulnérabilité de l'IA Grok. Un rapport avait déjà révélé qu'en appliquant certaines techniques courantes de jailbreaking, Grok renvoie volontiers des instructions sur la manière de commettre des crimes. Lors de tests sur certains des chatbots LLM les plus populaires, à savoir la famille ChatGPT d'OpenAI, Claude d'Anthropic, Le Chat de Mistral, LLaMA de Meta, Gemini de Google, Bing de Microsoft et Grok, les résultats ont montré que Grok était le moins performant.

Une autre étude avait révélé que l'IA d'Elon Musk ne possède pas de garde-fous. Les chercheurs du Center for Countering Digital Hate, une organisation britannique à but non lucratif qui vise à mettre fin aux discours de haine et à la désinformation en ligne, ont constaté que Grok n'avait pas rejeté 60 demandes différentes d'images douteuses liées à l'élection présidentielle de 2024.


Et vous ?

Pensez-vous que ce rapport est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Le nouveau mode vocal « déchaîné » de Grok peut jurer, crier et simuler des relations sexuelles par téléphone. Il fait suite au projet d'Elon Musk de fournir une réponse « non censurée » à ChatGPT d'OpenAI

« C'est une absurdité totale » : des chercheurs en cybersécurité critiquent les méthodes actuelles de sécurisation des systèmes d'IA, affirmant qu'elles sont défectueuses et nécessitent une refonte complète

Un pirate informatique pousse ChatGPT à ignorer ses garde-fous et à donner des instructions détaillées pour la fabrication de bombes artisanales, soulignant les difficultés à créer des garde-fous solides