Des groupes alignés sur l’État iranien et liés à l’Iran ont utilisé la plateforme d’IA Claude d’Anthropic pour mener des campagnes de propagande, effectuer de la surveillance intérieure et élaborer des recommandations de ciblage contre les forces navales américaines. Anthropic a déclaré avoir mis fin à des activités malveillantes impliquant Claude entre décembre 2025 et août 2026, notamment des cyberopérations, des campagnes d’influence et des activités de surveillance. Ces révélations interviennent dans un contexte de tensions accrues entre l’Iran et les États-Unis, notamment en raison d’attaques impliquant les forces américaines et iraniennes autour du détroit d’Ormuz. Anthropic est une société d'intérêt public américaine spécialisée dans l'intelligence artificielle (IA), dont le siège social est situé à San Francisco, en Californie. Son produit phare est Claude, une série de grands modèles de langage (LLM) propriétaires. Anthropic a été fondée en 2021 dans le but de promouvoir la sécurité de l'IA par d'anciens membres d'OpenAI, notamment les frère et sœur Daniela Amodei et Dario Amodei, respectivement présidente et PDG. La société est privée, mais envisagerait une introduction en bourse en 2026. Anthropic développe le LLM Claude en quatre niveaux : Haiku, Sonnet, Opus et Fable. Claude est accessible via un chatbot en ligne, une API et les outils d’Anthropic : Claude Code, Cowork, Design et Science.
Début septembre 2026, Anthropic a déclaré avoir contrecarré cette année plusieurs tentatives de chercheurs visant à utiliser ses modèles d'IA pour des recherches biologiques susceptibles de contribuer au développement d'armes biologiques, ce qui a conduit l'entreprise à suspendre des comptes et à renforcer ses mesures de sécurité. L'entreprise a présenté cinq études de cas concernant des chercheurs qui avaient utilisé son chatbot Claude pour mener des recherches biologiques de pointe pouvant avoir des applications à double usage. Anthropic a souligné qu'elle ne prétendait pas que les chercheurs avaient l'intention de causer du tort, notant que la recherche biologique peut servir à mettre au point des vaccins et des traitements, mais qu'elle peut également faire l'objet d'abus.
Selon un nouveau rapport, des groupes alignés sur l’État iranien et liés à l’Iran ont utilisé la plateforme d’IA Claude d’Anthropic pour mener des campagnes de propagande, effectuer de la surveillance intérieure et élaborer des recommandations de ciblage contre les forces navales américaines. Anthropic a déclaré avoir mis fin à des activités malveillantes impliquant Claude entre décembre 2025 et août 2026, notamment des cyberopérations, des campagnes d’influence et des activités de surveillance. L’entreprise a indiqué que plusieurs comptes liés à l’Iran avaient utilisé ce modèle d’IA pour automatiser ou soutenir des activités allant de la production de propagande d’État à l’analyse des utilisateurs des réseaux sociaux, en passant par la collecte d’informations sur les positions militaires américaines.
Ces révélations interviennent dans un contexte de tensions accrues entre l’Iran et les États-Unis, notamment en raison d’attaques impliquant les forces américaines et iraniennes autour du détroit d’Ormuz. Le trafic maritime commercial dans cette voie navigable est resté limité alors que le conflit se poursuit, l’Iran cherchant à exercer un contrôle accru sur le trafic transitant par ce détroit stratégique.
Anthropic a déclaré avoir identifié et supprimé trois comptes affiliés à des institutions de propagande d’État iraniennes. Ces comptes étaient liés à l’Organisation de la culture et de la communication islamiques, rattachée au ministère iranien de la Culture et de l’Orientation islamique, au Bureau de propagande islamique du Khorasan Razavi et à l’Observatoire culturel Bina de l’Organisation de propagande islamique.
Selon Anthropic, ces comptes utilisaient Claude pour élaborer des plans de campagne, des manuels de doctrine de propagande, des personas et des bases de données de cibles. Ils transformaient également des bulletins officiels des services de renseignement gouvernementaux en contenus sur mesure en farsi, en arabe, en ourdou, en malais, en espagnol et en anglais, avec l’intention de les diffuser dans pas moins de 20 langues. Ces contenus étaient diffusés sur X, Instagram, Telegram, TikTok et YouTube, ainsi que sur des plateformes iraniennes telles qu’Eitaa, Bale et Rubika. Anthropic a indiqué qu’une partie de ces contenus apparaissait sur des chaînes favorables aux discours du Corps des gardiens de la révolution islamique (CGRI).
L’entreprise a classé cette opération d’influence dans la catégorie 3 de son échelle « Breakout Scale », ce qui indique que l’activité impliquait une diffusion sur plusieurs plateformes.
Au cours de la guerre de 2026 entre les États-Unis, Israël et l’Iran, Anthropic a indiqué que le réseau avait également attribué de fausses allégations à des organismes de recherche occidentaux, notamment le CSIS, la Brookings Institution et la RAND, dans le but apparent de rendre plus crédibles les discours soutenus par l’État iranien.
Anthropic a par ailleurs identifié un compte lié à l’Iran qui utilisait Claude pour collecter et analyser des informations accessibles au public concernant les forces navales américaines dans la région. Selon la société, ce compte utilisait le modèle d’IA pour compiler des manuels de ciblage et identifier et suivre les positions navales à l’aide d’informations issues de sources ouvertes. Anthropic a précisé que cette activité impliquait l’élaboration de recommandations susceptibles d’être utilisées contre les forces navales américaines.
Le rapport sur les menaces détaillait également l’utilisation de Claude par des unités paramilitaires et liées à la sécurité iraniennes à des fins de surveillance intérieure. Anthropic a déclaré avoir banni 16 comptes gérés par deux unités liées à des agences paramilitaires et de sécurité iraniennes. Une organisation a affirmé avoir surveillé et établi le profil de 6 388 Iraniens en l’espace d’une seule année et tenu à jour une base de données d’identité. Anthropic a indiqué que Claude avait été utilisé pour contribuer à la mise en place de ce qu’elle a estimé être un système de gestion des dossiers de surveillance probablement contrôlé par le gouvernement, ainsi que pour analyser 155 216 tweets.
Ce rapport intervient alors qu'Anthropic a révélé un nouvel incident qui serait qualifié de crime s’il avait été commis par une personne. Alors que le secteur s’interroge sur la possibilité que l’IA puisse s’améliorer au point de tuer tout le monde, l'entreprise spécialisée dans l'IA a publié « une évaluation d'alignement » détaillant les quatre occasions où des modèles Claude ont accédé à des systèmes tiers sans autorisation. La société avait déjà signalé trois de ces incidents. La preuve du quatrième se cachait dans la transcription d'une session datant de janvier 2026, date à laquelle le comportement inapproprié s'est produit.
Anthropic révèle des tentatives d’utilisation de l’IA dans le nord du Yémen
Anthropic a publié un rapport détaillant l’utilisation abusive de son modèle de langage Claude (LLM) par divers acteurs, étatiques et non étatiques, à travers le monde, allant des cyberopérations et opérations d’influence à l’utilisation abusive à des fins biologiques et au développement d’armes. Couvrant une période de huit mois, ce rapport, selon Anthropic, recense des cas qui « ne constituent pas des abus classiques, mais plutôt des exemples des activités menaçantes les plus marquantes et les plus novatrices que nous ayons identifiées à ce jour ».
L’un des abus les plus significatifs identifiés par Anthropic provient d’« une cellule d’acteurs malveillants basée dans le nord du Yémen, qui mène trois programmes de développement d’armes ». Ces programmes comprennent une roquette guidée utilisant un ordinateur de vol avec un système de guidage à tête chercheuse en phase finale, un missile balistique à plusieurs étages d’une portée de 2 000 km, et un missile à variantes multiples comprenant notamment une variante dotée d’un véhicule planant hypersonique.
Bien que cela ne soit pas explicitement mentionné, il est probable que l’entreprise fasse référence aux rebelles houthis du Yémen qui, grâce à leur coopération avec l’Iran, ont développé et tiré des missiles balistiques, notamment contre l’Arabie saoudite, les Émirats arabes unis, Israël et le gouvernement yéménite reconnu par l’ONU. Claude a été utilisé par le groupe pour développer des logiciels de guidage, de navigation et de contrôle permettant à la fois de diriger et de stabiliser tout engin volant, a déclaré Anthropic, en utilisant le LLM dans plusieurs instances simultanément, notamment pour l’écriture de code, la recherche et la révision du code produit par la première instance.
Les modèles d’IA peuvent être divisés en instances distinctes afin d’effectuer plusieurs tâches à la fois. « Ces acteurs ont déployé des efforts soutenus pour développer des armes guidées, notamment en utilisant Claude pour concevoir des logiciels de guidage », a déclaré Anthropic, ajoutant ne disposer d’aucune preuve indiquant que le groupe y soit parvenu. Cependant, Anthropic a noté que toutes les tentatives visant à bloquer les demandes d’utilisation n’avaient pas abouti, et qu’il existait des preuves indiquant que le groupe « avait déjà mis au point une boîte à outils de simulation hors ligne ne reposant ni sur Claude ni sur d’autres environnements informatiques d’ingénierie ».
Anthropic a également détecté plusieurs utilisations abusives de Claude liées à l’Iran
Il s’agit notamment de l’utilisation de Claude pour des opérations d’influence alignées sur l’État dans le cadre d’une « guerre douce » ou d’une « guerre cognitive », c’est-à-dire « un plan non militaire visant à façonner l’opinion publique au niveau national et à l’étranger ». Parmi les entités étatiques identifiées par Anthropic figurent l’Organisation de communication culturelle islamique, le Bureau de propagande islamique de Khorasan Razabi et l’Observatoire culturel Bina de l’Organisation de propagande islamique.
« Dans chaque cas, l’opération s’est appuyée sur Claude pour élaborer des plans de campagne, des manuels de doctrine, des systèmes de profils types, des bases de données de cibles et des documents de planification ministériels », indique le rapport, ajoutant que ceux-ci avaient pour but de produire de la propagande pro-iranienne pendant la guerre, d’attribuer de fausses allégations à des instituts de recherche occidentaux et de « déployer des contenus de contre-discours agressifs ciblant les baha’is », ainsi que des responsables internationaux et des figures de l’opposition.
Dans une autre affaire, Anthropic a suspendu 16 comptes Claude liés « avec un haut degré de certitude » aux agences paramilitaires et de sécurité intérieure iraniennes, qui participaient à la mise en place de capacités de surveillance nationale. Cela inclut l’utilisation de Claude pour développer « une interface pour ce qui est probablement un système de gestion des dossiers de surveillance contrôlé par le gouvernement, et pour effectuer une analyse des réseaux sociaux portant sur 155 216 tweets », tandis qu’une unité distincte développait une extension pour le navigateur Internet Firefox, afin de collecter massivement les identités des utilisateurs sur les plateformes de réseaux sociaux.
Outre la surveillance de l’opposition nationale, Claude a également été utilisé dans un autre cas pour la surveillance de masse des profils de personnes israéliennes et juives afin d’enrichir une liste de cibles préexistante. Dans un autre cas, Anthropic a fermé des comptes Claude qui étaient utilisés pour collecter et analyser des données afin d’élaborer des recommandations de ciblage contre les forces navales américaines dans la région, en utilisant des photographies militaires publiques, des identifiants de transpondeurs de navires et d’aéronefs accessibles au public, des scripts d’imagerie satellite commerciale et des inventaires provenant de sites web publics documentant les mouvements de la marine américaine.
Ce même compte développait des systèmes de surveillance de masse nationaux via Claude afin de « concevoir des composants logiciels d’une plateforme de surveillance de masse nationale combinant la reconnaissance automatique des plaques d’immatriculation et l’interception des identifiants d’appareils mobiles ». Outre le gouvernement iranien, Anthropic a également mis fin à une opération d’influence menée par l’Organisation des Moudjahidine du peuple iranien et le Conseil national de la résistance iranienne, qui tentait de cibler les Iraniens vivant en Iran et dans la diaspora, notamment en diffusant leurs propres arguments, accompagnés d’allégations inventées de toutes pièces.
Le gouvernement des Émirats arabes unis avait fait un usage abusif d’Anthropic
Le rapport a révélé que le gouvernement des Émirats arabes unis avait fait un usage abusif d’Anthropic : un compte Claude, sous le pseudonyme « Deadshot », a notamment été identifié comme menant « une opération d’influence soutenue contre les Frères musulmans ». Dans le cadre de cette initiative, l’opération a permis de créer 300 comptes d’influenceurs sur les réseaux sociaux, ainsi qu’une ONG de façade s’inspirant de l’identité d’une véritable organisation suisse afin de publier des rapports sur les droits de l’homme rédigés par l’État et de rédiger à la place des témoignages présentés par...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
