Le Pentagone américain adopte le chatbot IA Grok d'Elon Musk alors qu'il suscite un tollé mondial : Grok serait mis en service au sein du département de la Défense car « l'IA du Pentagone ne serait pas woke »

Le Pentagone américain adopte le chatbot IA Grok d'Elon Musk alors qu'il suscite un tollé mondial : Grok serait mis en service au sein du département de la Défense car « l'IA du Pentagone ne serait pas woke »

Le secrétaire à la Défense des USA, Pete Hegseth, a déclaré que le chatbot d'IA Grok d'Elon Musk rejoindra le moteur d'IA générative de Google pour fonctionner au sein du réseau du Pentagone, dans le cadre d'une initiative plus large visant à alimenter autant que possible la technologie en développement avec les données militaires. Cette annonce intervient quelques jours seulement après que Grok, intégré à X, le réseau social appartenant à Musk, ait suscité un tollé mondial. Le secrétaire à la Défense a déclaré que sa vision des systèmes d'IA militaires impliquait qu'ils fonctionnent « sans contraintes idéologiques limitant les applications militaires légales », avant d'ajouter que « l'IA du Pentagone ne serait pas woke ».

Au début de l'année, le réseau social X (ex-Twitter) d'Elon Musk a introduit un nouveau bouton « Modification d'image par IA » qui permet à tout utilisateur de modifier les images publiées par d'autres, même sans le consentement de l'auteur original. Les propriétaires des images ne sont pas informés lorsque des modifications sont apportées, et la fonctionnalité est activée par défaut pour tous sans une option de désactivation.

La plateforme a rapidement été inondée d'images explicites, y compris de mineurs, suscitant un tollé mondial. Dans un premier temps, X a rejeté la responsabilité sur les utilisateurs, sans annoncer de correctifs techniques immédiats, puis a décidé quelques jours plus tard de limiter l'outil aux abonnés payants. Mais cette mesure est jugée insuffisante. En réaction, des voix au Royaume-Uni, au Canada et en Australie appellent à interdire X, mais cette mesure est controversée.

Cette fonctionnalité sur X est alimentée par le Grok. Grok est un chatbot d'intelligence artificielle générative (IA générative) développé par xAI. Il a été lancé en novembre 2023 par Elon Musk comme une initiative basée sur le grand modèle de langage (LLM) du même nom. Depuis son lancement, le bot a généré diverses réponses controversées, notamment des théories du complot, du nazisme, y compris des éloges à Adolf Hitler, de l'antisémitisme et des images sexualisées d'enfants, ainsi que des références aux opinions de Musk lorsqu'il était interrogé sur des sujets controversés ou des décisions difficiles.

Malgré la controverse, le secrétaire à la Défense des USA, Pete Hegseth, a déclaré que le chatbot d'IA Grok d'Elon Musk rejoindra le moteur d'IA générative de Google pour fonctionner au sein du réseau du Pentagone, dans le cadre d'une initiative plus large visant à alimenter autant que possible la technologie en développement avec les données militaires. « Très bientôt, nous disposerons des meilleurs modèles d'IA au monde sur tous les réseaux classifiés et non classifiés de notre département », a déclaré Hegseth dans un discours prononcé chez SpaceX, la société spatiale de Musk, dans le sud du Texas.


Cette annonce intervient quelques jours seulement après que Grok, intégré à X, le réseau social appartenant à Musk, ait suscité un tollé mondial et fait l'objet d'une attention particulière pour avoir généré des images deepfake hautement sexualisées de personnes sans leur consentement. La Malaisie et l'Indonésie ont bloqué Grok, tandis que l'organisme indépendant britannique de surveillance de la sécurité en ligne a annoncé l'ouverture d'une enquête. Grok a limité la génération et l'édition d'images aux utilisateurs payants.

Hegseth a déclaré que Grok serait mis en service au sein du département de la Défense dans le courant du mois et a annoncé qu'il mettrait « toutes les données appropriées » des systèmes informatiques de l'armée à disposition pour « l'exploitation de l'IA ». Il a également déclaré que les données provenant des bases de données des services de renseignement seraient intégrées dans les systèmes d'IA.

La volonté affirmée de Hegseth d'adopter cette technologie encore en développement contraste avec l'attitude de l'administration Biden qui, tout en incitant les agences fédérales à élaborer des politiques et des utilisations pour l'IA, se méfie également des abus. Les responsables ont déclaré que des règles étaient nécessaires pour garantir une utilisation responsable de cette technologie, qui pourrait être exploitée à des fins de surveillance de masse, de cyberattaques ou même de dispositifs autonomes létaux.

L'administration Biden a adopté fin 2024 un cadre qui enjoignait aux agences de sécurité nationale d'étendre leur utilisation des systèmes d'IA les plus avancés, mais interdisait certaines utilisations, telles que les applications qui violeraient les droits civils protégés par la Constitution ou tout système qui automatiserait le déploiement d'armes nucléaires. On ne sait pas si ces interdictions sont toujours en vigueur sous l'administration Trump.

Au cours de son discours, Hegseth a évoqué la nécessité de rationaliser et d'accélérer les innovations technologiques au sein de l'armée, déclarant : « Nous avons besoin que l'innovation vienne de partout et évolue rapidement et de manière ciblée. » Il a souligné que le Pentagone disposait « de données opérationnelles éprouvées au combat, issues de deux décennies d'opérations militaires et de renseignement ». « L'IA n'est efficace que dans la mesure où les données qu'elle reçoit le sont, et nous allons nous assurer que c'est le cas », a déclaré Hegseth.

Pourtant, Grok n'est pas réputé pour sa fiabilité. Un rapport de 2024 a révélé qu'en appliquant certaines techniques courantes de jailbreaking, Grok renvoie volontiers des instructions sur la manière de commettre des crimes. En effectuant des tests sur certains des chatbots LLM les plus populaires, à savoir la famille ChatGPT d'OpenAI, Claude d'Anthropic, Le Chat de Mistral, LLaMA de Meta, Gemini de Google, Bing de Microsoft et Grok, Grok d'Elon Musk obtient la pire note en matière de sécurité. Ils sont parvenus à la conclusion que Grok était le moins performant.

Le secrétaire à la Défense a déclaré qu'il souhaitait que les systèmes d'IA au sein du Pentagone soient responsables, tout en ajoutant qu'il rejetait tout modèle d'IA « qui ne permette pas de mener des guerres ». Hegseth a déclaré que sa vision des systèmes d'IA militaires impliquait qu'ils fonctionnent « sans contraintes idéologiques limitant les applications militaires légales », avant d'ajouter que « l'IA du Pentagone ne serait pas woke ».

Musk a développé et présenté Grok comme une alternative à ce qu'il a appelé les interactions « IA woke » des chatbots concurrents tels que Gemini de Google ou ChatGPT d'OpenAI. En juillet, Grok a également suscité la controverse après avoir apparemment tenu des propos antisémites louant Adolf Hitler et partagé plusieurs messages antisémites.

Source : Secrétaire à la Défense Pete Hegseth

Et vous ?

Pensez-vous que cette annonce est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

L'armée US fait le premier achat confirmé d'un produit OpenAI pour les forces de combat pour « l'analyse unifiée du traitement des données ». Un objectif qui montre une ignorance des hallucinations de l'IA

La Malaisie et l'Indonésie bloquent l'accès au chatbot IA Grok d'Elon Musk en raison d'images deepfake : « Les deepfakes constituent une grave violation des droits humains, de la dignité »

Grok, l'IA « anti-woke » d'Elon Musk, dérape : éloge d'Hitler, glorification de Musk pour avoir supprimé les filtres « woke », attaque contre Donald Trump au sujet des inondations au Texas