Des agents chinois sont soupçonnés d'utiliser des images générées par l'IA pour désinformer les électeurs américains

Selon un rapport de Microsoft

Des agents chinois présumés ont utilisé des images fabriquées par l'intelligence artificielle pour imiter les électeurs américains en ligne dans le but de diffuser de la désinformation et de provoquer des discussions sur des questions politiques controversées à l'approche des élections américaines de 2024, ont averti les analystes de Microsoft.

Au cours des neuf derniers mois, les agents ont publié sur les médias sociaux des images frappantes fabriquées par l'intelligence artificielle représentant la Statue de la Liberté et le mouvement Black Lives Matter, dans le cadre d'une campagne qui, selon Microsoft, se concentre sur le "dénigrement des figures et des symboles politiques américains."

Le présumé réseau d'influence chinois a utilisé une série de comptes sur des plateformes de médias sociaux "occidentales" pour télécharger les images générées par l'IA, selon Microsoft. Les images étaient fausses et générées par un ordinateur, mais des personnes réelles, volontairement ou non, les ont propagées en les publiant sur les médias sociaux, a déclaré Microsoft. Microsoft a déclaré que les comptes de médias sociaux étaient "affiliés" au Parti communiste chinois.


La possibilité croissante pour des adversaires d'utiliser l'IA pour semer la désinformation parmi les électeurs américains est une préoccupation majeure pour les responsables électoraux, qui se préparent à une éventuelle revanche controversée en 2024 entre le président Joe Biden et l'ancien président Donald Trump. Ils craignent que des agents étrangers n'amplifient un environnement d'information national déjà fragile. Selon un sondage réalisé par CNN en juillet, 69 % des républicains et des partisans du parti républicain estiment que la victoire de Joe Biden en 2020 n'était pas légitime.

"Nous pouvons nous attendre à ce que la Chine continue à perfectionner cette technologie au fil du temps et à améliorer sa précision, bien qu'il reste à voir comment et quand elle la déploiera à grande échelle", a écrit Clint Watts, directeur général du centre d'analyse des menaces numériques de Microsoft. Les images créées par l'IA ont "suscité un niveau d'engagement plus élevé de la part d'utilisateurs authentiques de médias sociaux" que certaines publications antérieures du réseau de comptes chinois présumés, a déclaré Microsoft, mais l'entreprise n'a pas fourni de mesures spécifiques.

La Chine et la Corée du Nord cherchent à atteindre de nouvelles cibles tout en améliorant leurs capacités cybernétiques

Au cours de l'année écoulée, la Chine a perfectionné une nouvelle capacité à générer automatiquement des images qu'elle peut utiliser pour des opérations d'influence visant à imiter les électeurs américains dans tout l'éventail politique et à créer une controverse selon des critères raciaux, économiques et idéologiques. Cette nouvelle capacité est alimentée par une intelligence artificielle qui tente de créer un contenu de haute qualité susceptible de devenir viral sur les réseaux sociaux aux États-Unis et dans d'autres démocraties. Ces images sont très probablement créées par ce que l'on appelle des générateurs d'images alimentés par diffusion, qui utilisent l'intelligence artificielle non seulement pour créer des images convaincantes, mais aussi pour apprendre à les améliorer au fil du temps.

Le Centre d'analyse des menaces de Microsoft (MTAC) publie Sophistication, portée et échelle : Les menaces numériques en provenance d'Asie de l'Est gagnent en ampleur et en efficacité ( Sophistication, scope, and scale: Digital threats from East Asia increase in breadth and effectiveness), dans le cadre d'une série de rapports sur la menace que représentent les opérations d'influence et la cyberactivité, en identifiant des secteurs et des régions spécifiques présentant un risque accru.


Le rapport a observé que des acteurs affiliés à la Chine utilisent des médias visuels générés par l'IA dans le cadre d'une vaste campagne qui se concentre principalement sur des sujets qui sèment la discorde politique, tels que la violence armée, et qui dénigrent des personnalités et des symboles politiques américains. Cette technologie produit un...