La Chine utilise l'IA pour générer de la propagande sur YouTube : des puces ultra-fines aux projets d'infrastructures gigantesques

Le contenu a été vu près de 120 millions de fois

La Chine est de plus en plus active dans le domaine de l’intelligence artificielle, non seulement pour développer des technologies innovantes, mais aussi pour les utiliser à des fins de propagande. Sur YouTube, la plateforme de partage de vidéos la plus populaire au monde, de plus en plus de chaînes diffusent des contenus vantant les accomplissements de la Chine dans divers domaines, allant des puces électroniques ultra-fines aux projets d’infrastructures gigantesques. Ces contenus ne sont pas produits par des journalistes ou des experts, mais par des algorithmes d’IA capables de générer des textes, des images et des vidéos de manière synthétique ou modifiée.

Lancée mi-2022, la campagne de propagande semble faire partie d'une tentative visant à « changer l'opinion du public anglophone » sur la Chine, y compris les efforts de Pékin pour améliorer sa technologie malgré les sanctions américaines, et a recueilli près de 120 millions de vues et 730 000 abonnés. jusqu'à présent, indique le rapport.

Dans une vidéo YouTube, une voix en anglais annonce que la Chine a recherché et développé sa propre puce ultra-mince de 1 nanomètre (une affirmation stupéfiante étant donné que la puce n’est pas attendue dans les appareils commerciaux avant une décennie). « Les récentes nouvelles en provenance de Chine ont provoqué des vagues d'enthousiasme et d'étonnement à travers le monde », indique la voix off de la chaîne YouTube China Charged. « Cette avancée révolutionnaire est plus qu'une merveille technologique ; elle change la donne et redéfinira le paysage technologique mondial. »

« Préparez-vous à être époustouflé », indique une autre vidéo, cette fois sur la chaîne Unbelievable Projects. « Bienvenue dans la vidéo d'aujourd'hui, dans laquelle nous découvrirons pourquoi l'Amérique reste à la traîne de la Chine en matière de développement des infrastructures ».

Ces voix et leurs « bonnes nouvelles » concernant la Chine sont la preuve que le Parti communiste chinois et ses mandataires à l’étranger utilisent l’intelligence artificielle pour inonder YouTube de vidéos de propagande, selon un nouveau rapport qui décrit une « campagne d’influence inauthentique coordonnée » sur la plateforme.

Les vidéos font partie d'au moins 30 chaînes identifiées par les chercheurs comme faisant partie du réseau « Shadow Play » promouvant les programmes pro-chinois et des récits anti-américains, selon l’Australian Strategic Policy Institute (ASPI).

YouTube en a supprimé au moins 19.

La campagne a utilisé « des entités et des voix off générées par l'intelligence artificielle » pour diffuser un contenu conforme aux récits du Parti communiste chinois sur au moins 30 chaînes YouTube, a indiqué l'institut dans son rapport intitulé « Shadow Play ».


Une campagne d'influence baptisée « Shadow Play » par l'ASPI

Ci-dessous, un extrait du billet de l'ASPI.

ASPI a récemment observé une campagne d'influence inauthentique coordonnée provenant de YouTube qui fait la promotion de récits pro-chinois et anti-américains dans le but apparent de modifier l'opinion du public anglophone sur le rôle de ces pays dans la politique internationale, l'économie mondiale et la concurrence technologique stratégique. Cette nouvelle campagne (que l'ASPI a baptisée « Shadow Play ») a attiré un public exceptionnellement large et utilise des entités et des voix off générées par l'intelligence artificielle (IA) comme tactique permettant une large portée et une grande échelle. Elle se concentre sur la promotion d'une série de récits, y compris les efforts de la Chine pour « gagner la guerre technologique entre les États-Unis et la Chine » dans un contexte de sanctions américaines visant la Chine. Elle met également l’accent sur les entreprises chinoises et américaines, telles que les contenus pro-Huawei et anti-Apple.

La campagne Shadow Play implique un réseau d'au moins 30 chaînes YouTube qui ont produit plus de 4 500 vidéos. Au moment de la publication, ces chaînes avaient attiré un peu moins de 120 millions de vues et 730 000 abonnés. Les comptes ont commencé à publier du contenu vers la mi-2022. La capacité de la campagne à rassembler et à accéder à un public mondial aussi large – et son potentiel à influencer secrètement l’opinion publique sur ces sujets – devraient être préoccupantes.

ASPI a rapporté nos conclusions à YouTube/Google le 7 décembre 2023 pour commentaires. Au 8 décembre, ils avaient supprimé 19 chaînes YouTube du réseau Shadow Play : 10 pour comportement inauthentique coordonné et neuf pour spam. Dès leur publication, ces chaînes YouTube affichent une série de messages de YouTube indiquant pourquoi elles ont été supprimées. Par exemple, une chaîne a été « fermée pour violation des directives de la communauté YouTube », tandis qu’une autre a été « fermée en raison de violations multiples ou graves de la politique de YouTube en matière de spam, de pratiques trompeuses et de contenu trompeur ou d’autres violations des conditions d’utilisation ». ASPI a également rapporté nos découvertes à la société britannique d’intelligence artificielle Synthesia, dont les avatars IA étaient utilisés par le réseau. Le 14 décembre 2023, Synthesia a désactivé le compte Synthesia utilisé par l'un des comptes YouTube, pour violation de sa politique de reportage médiatique.

Nous pensons qu’il est probable que cette nouvelle campagne soit menée par un acteur parlant le mandarin. Les indicateurs du comportement de cet acteur ne correspondent pas étroitement au comportement d’un acteur étatique connu menant des opérations d’influence en ligne. Notre analyse préliminaire est que l’opérateur de ce réseau pourrait être un acteur commercial opérant sous un certain degré de direction, de financement ou d’encouragement de l’État. Cela pourrait suggérer que certaines entreprises patriotiques mènent de plus en plus de campagnes liées à la Chine aux côtés d’acteurs gouvernementaux.

La campagne se concentre sur la promotion de six récits. Deux des discours les plus dominants sont que la Chine est en train de « gagner » dans des domaines cruciaux de la concurrence mondiale : premièrement, dans la « guerre technologique entre les États-Unis et la Chine » et, deuxièmement, dans la compétition pour les terres rares et les minéraux critiques. D’autres discours clés expriment que les États-Unis sont sur le point de s'effondrer et que leurs partenariats d'alliance se fracturent, que la Chine et la Russie sont des acteurs géopolitiques responsables et compétents, que le dollar américain et l'économie américaine sont faibles, et que la Chine est hautement capable et digne de confiance pour fournir des projets d'infrastructures massives.


Campagne dirigée par l'État

L'auteur du rapport, Jacinta Keast, a déclaré que les chercheurs avaient attribué une grande partie du contenu des chaînes à des articles provenant des médias d'information chinois fortement contrôlés en Chine.

« Beaucoup de ces histoires étaient souvent des histoires qui n'étaient réellement apparues et qui étaient très probablement apparues pour la première fois que dans l'écosystème médiatique de la Chine continentale », a-t-elle déclaré. « Nous pensons qu'à ce stade, il s'agit probablement d'une campagne dirigée et/ou soutenue par l'État chinois, menée par un entrepreneur ou peut-être une entreprise chinoise patriote qui a été encouragée à entreprendre cette campagne », a déclaré Keast à Radio Free Asia dans une récente interview.

Même si une chaîne avait partiellement monétisé son contenu, le degré de monétisation n'était pas suffisant pour suggérer une opération commerciale, a-t-elle déclaré. « Nous nous attendrions à ce qu'un acteur purement commercial fasse davantage d'efforts pour monétiser pleinement ses opérations », a-t-elle indiqué. Certaines chaînes ont même reçu des commentaires de téléspectateurs affirmant que les voix de l'IA étaient « artificielles », mais peu de tentatives ont été faites pour améliorer la qualité du contenu afin de maximiser les revenus, a ajouté Keast.

Le rapport révèle également qu'une partie du contenu de YouTube - un rapport selon lequel l'Iran aurait activé son système satellite BeiDou fourni par la Chine - est apparu sur X, anciennement Twitter, et d'autres plateformes de médias sociaux, où il a gagné du terrain en quelques heures.

Il appelle à un plus grand partage d’informations sur les opérations d’influence chinoises entre les pays du groupe Five Eyes et leurs alliés, ainsi qu’à des règles plus strictes exigeant que les utilisateurs des médias sociaux divulguent l’utilisation de l’IA générative dans le contenu audio, vidéo ou image.

Une campagne unique

Ci-dessous un extrait du rapport.

Cette campagne est unique à trois égards. Premièrement, comme indiqué ci-dessus, il existe un élargissement notable des sujets. Les précédentes campagnes liées à la Chine ont été étroitement ciblées et se sont souvent concentrées sur un ensemble restreint de sujets. Par exemple, l’accent mis par la campagne sur la promotion de récits établissant la Chine comme technologiquement supérieure aux États-Unis présente des arguments détaillés sur des sujets technologiques tels que les semi-conducteurs, les terres rares, les véhicules électriques et les projets d’infrastructure. En outre, il cible, par le biais de critiques et de désinformation, des entreprises technologiques américaines telles qu’Apple et Intel.

Les médias d'État chinois, les responsables chinois et les influenceurs en ligne publient parfois sur ces sujets dans le but de « bien raconter l'histoire de la Chine » (讲好中国故&#20107. Quelques opérations d'information inauthentiques soutenues par l'État chinois ont touché aux terres rares et aux semi-conducteurs, mais jamais en profondeur ni en combinant plusieurs récits dans un seul ensemble de campagne. L’ensemble plus large de sujets et d’opinions abordés dans cette campagne peut démontrer un plus grand alignement avec le comportement connu des acteurs malveillants liés à la Russie.

Deuxièmement, il y a un changement dans les techniques et l’artisanat, car la campagne a tiré parti de l’IA. À notre connaissance, la campagne YouTube est l’une des premières fois où des essais vidéo, associés à des voix off génératives d’IA, sont utilisés comme tactique dans une opération d’influence. Les essais vidéo sont un style populaire de vidéo YouTube de longueur moyenne dans lequel un narrateur présente un argument via une voix off, tandis que le contenu pour étayer son argument est affiché à l'écran. Cela témoigne de la poursuite d’une tendance vers laquelle les acteurs malveillant s’orientent de plus en plus : utiliser des outils technologiques de montage vidéo et d’IA générative prêts à l’emploi pour produire à grande échelle un contenu convaincant et persuasif susceptible de constituer une audience sur les services de médias sociaux. Nous avons également observé un compte sur le réseau YouTube utilisant un avatar créé par Sogou, l’une des plus grandes entreprises technologiques chinoises (et filiale de Tencent) (voir page 24). Nous pensons que l’utilisation de l’avatar Sogou que nous avons identifié est le premier exemple d’être humain généré par l’IA par une entreprise chinoise utilisé dans une opération d’influence.

Troisièmement, contrairement aux précédentes campagnes axées sur la Chine, celle-ci a attiré un grand nombre de vues et d'abonnés. Elle a également été monétisé, mais uniquement par des moyens limités. Par exemple, une chaîne a accepté de l’argent d’entreprises américaines et canadiennes pour soutenir la production de ses vidéos. Le nombre important de vues et d’abonnés suggère que la campagne est l’une des opérations d’influence liées à la Chine les plus réussies jamais vues sur les réseaux sociaux. De nombreuses opérations d’influence liées à la Chine, comme Dragonbridge (également connue sous le nom de « Spamouflage » dans la communauté des chercheurs), ont attiré un engagement initial dans certains cas, mais n’ont pas réussi à maintenir une audience significative sur les réseaux sociaux.

Cependant, des recherches plus approfondies de la part de YouTube sont nécessaires pour déterminer si le nombre de vues et le nombre d’abonnés sur YouTube démontrent une audience réelle ou ont été artificiellement manipulés, ou une combinaison des deux. Nous notons que, lors de notre examen des commentaires YouTube sur les vidéos de cette campagne, nous avons constaté des signes d'une véritable audience. ASPI estime que cette campagne est probablement plus importante que les 30 chaînes couvertes dans ce rapport, mais nous avons limité notre examen initial aux chaînes que nous considérions comme étant au cœur de la campagne. Nous pensons également qu'il existe davantage de chaînes publiant du contenu dans des langues autres que l'anglais appartenant à ce réseau ; par exemple, nous avons vu des chaînes publiant en bahasa indonésien qui ne sont pas incluses dans ce rapport.

Source : Rapport

Et vous ?

Qu'en pensez-vous ? Êtes-vous surpris de voir les évolutions de l'IA se traduire également par ce type d'utilisation ?
Que pensez-vous de l’utilisation de l’IA par la Chine pour générer de la propagande sur YouTube ?
Quels sont les risques et les opportunités que représentent les deepfakes pour l’information et la communication ?
Comment vérifier la fiabilité et la crédibilité des contenus en ligne, face à la prolifération des deepfakes ?
Quel est le rôle des utilisateurs, des médias et des autorités dans la prévention et la détection des deepfakes ?
Quelles sont les mesures légales et éthiques à prendre pour encadrer l’utilisation de l’IA et des deepfakes ?