Les responsables des services de renseignement des États-Unis affirment que la Russie continue de représenter la plus grande menace en matière de désinformation électorale. Ils notent aussi que l'Iran semble intensifier ses efforts et que la Chine fait preuve de prudence en ce qui concerne l'échéance de 2024. Ces pays diffuseraient sur Internet des affirmations fausses et incendiaires sur la démocratie américaine afin de saper la confiance dans l'élection. La diffusion de la désinformation et de la propagande sur les prochaines élections américaines, ainsi qu'en France et dans d'autres pays européens, par ces trois États est facilitée par l'essor de l'IA générative. La désinformation : un fléau complexe à combattre qui est exacerbé par l'essor de l'IA
Le gouvernement américain appelle à nouveau ses populations à faire attention et trier avec soin les contenus avec lesquels elles interagissent en ligne. « Le public américain doit savoir que le contenu qu'il lit en ligne - en particulier sur les médias sociaux - peut être de la propagande étrangère, même s'il semble provenir de compatriotes américains ou être originaire des États-Unis », a déclaré un responsable du bureau du directeur du renseignement national qui a informé les journalistes sous le couvert de l'anonymat, conformément aux règles établies par le bureau du directeur. Le message est en fait double cette fois-ci.
Dans un premier temps, le renseignement américain avertit que la Russie a intensifié ses efforts visant à diffuser à grande échelle de la désinformation et de la propagande sur les élections. Ce message n'est pas vraiment nouveau. Ce qui l'est par contre, c'est le second volet du message d'alerte qui indique que la machine de propagande russe s'appuie désormais également sur des Américains mal intentionnés afin de rendre les infox plus crédibles auprès du peuple américain.
Les groupes affiliés au Kremlin font de plus en plus appel à des sociétés de marketing et de communication situées en Russie afin de sous-traiter une partie du travail de création de propagande numérique tout en couvrant leurs traces. Deux de ces sociétés ont fait l'objet de nouvelles sanctions américaines annoncées en mars. Selon les autorités, ces deux sociétés russes ont créé de faux sites Web et de faux profils de médias sociaux pour diffuser la désinformation du Kremlin.
Cette désinformation peut porter sur les candidats ou le vote, ou sur des questions qui font déjà l'objet de débats aux États-Unis, comme l'immigration, la criminalité ou la guerre à Gaza. Mais l'objectif ultime serait d'amener les Américains à diffuser la désinformation russe sans s'interroger sur son origine. « Les gens sont beaucoup plus enclins à faire confiance et à rediffuser des informations qu'ils croient provenir d'une source nationale », ont déclaré les autorités américaines.
Les faux sites Web conçus pour imiter les organes de presse américains et les profils de médias sociaux générés par l'IA ne sont que deux méthodes parmi d'autres. Dans certains cas, des Américains, des entreprises et des médias américains ont volontairement amplifié et repris les messages du Kremlin. Après l'attaque contre Donald Trump, par exemple, les agences de désinformation russes ont rapidement amplifié les affirmations selon lesquelles la rhétorique démocrate avait conduit à la fusillade.
Elles auraient également propagé des théories suggérant que Joe Biden ou le gouvernement ukrainien avait orchestré l'attentat. « Ces voix prorusses ont cherché à lier la tentative d'assassinat à la guerre que la Russie continue de mener contre l'Ukraine », a conclu le laboratoire de recherche numérique du Conseil atlantique, qui suit la désinformation russe.
La Russie derrière une vaste campagne de désinformation ciblant la France et l'Europe
Selon les autorités américaines, alors que la Chine a organisé une vaste campagne de désinformation avant les récentes élections à Taïwan, elle s'est montrée beaucoup plus prudente lorsqu'il s'agit des États-Unis. Pékin pourrait utiliser la désinformation pour cibler les élections au Congrès ou d'autres élections où un candidat a exprimé des opinions fortes sur la Chine. Mais selon les autorités américaines, la Chine ne devrait pas essayer d'influencer la course à la présidence.
L'Iran, quant à lui, aurait adopté une attitude plus agressive. La directrice du renseignement national des États-Unis, Avril Haines, a déclaré au début du mois que le gouvernement iranien avait soutenu les manifestations américaines contre la guerre menée par Israël contre le Hamas à Gaza. « Des groupes liés à l'Iran se sont fait passer pour des activistes en ligne, ont encouragé des manifestations et ont apporté un soutien financier à certains groupes de protestation », a déclaré Haines.
Au début de l'année, la France a découvert une vaste campagne de désinformation russe en Europe, baptisée Portal Kombat. Selon l'organisme de surveillance Viginum, cette campagne vise la France, l'Allemagne, la Pologne, et d'autres pays européens. Le rapport que la campagne, dirigée depuis la Russie, est composée de 193 sites Web et diffuse des infox, notamment sur l'invasion de l'Ukraine par la Russie et les élections du Parlement européen. Les objectifs sont divers et variés.
Les autorités françaises ont déclaré que cette vaste campagne de désinformation menée par la Russie en Europe vise principalement à dénigrer l'Ukraine, justifier l'invasion russe, discréditer la résistance ukrainienne, et perturber les élections et événements sportifs sur le Vieux Continent. Les experts ont souligné la complexité de cet écosystème de désinformation, mettant en garde contre ses implications sur la démocratie et appelant à une protection urgente des élections à venir.
Selon la Commission européenne, l'OTAN, et les agences de l'ONU, la désinformation est devenue une menace majeure, reflétant ainsi les inquiétudes mondiales sur ce phénomène. Les États-Unis ont récemment annoncé qu'ils sont parvenus à interrompre une opération de désinformation financée par un État-nation et basée sur l'IA.
Le directeur du FBI, Christopher Wray, a déclaré : « la Russie avait l'intention d'utiliser cette ferme de robots pour diffuser de la désinformation étrangère générée par l'IA, en étendant leur travail avec l'aide de l'IA pour saper nos partenaires en Ukraine et influencer les récits géopolitiques favorables au gouvernement russe ».
L'IA et la désinformation en ligne font craindre la fin du Web tel qu'on le connaît
Au début du mois, les autorités américaines ont annoncé qu'une opération conjointe du FBI et des forces internationales de cybersécurité a permis de démanteler une ferme de bots secrète sur les réseaux sociaux, gérés par des groupes affiliés au gouvernement russe, qui utilisait l'IA générative pour diffuser de la désinformation auprès d'utilisateurs du monde entier. Le rapport indique que des affiliés de l'organe de presse Russia Today (RT), parrainé par l'État russe, ont utilisé Meliorator, un logiciel de génération et de gestion de fermes de bots utilisant l'IA, pour créer plus de 1 000 bots sur le réseau social X d'Elon Musk.
D'après le ministère américain de la Justice (DOJ), ces bots étaient destinés à diffuser de la désinformation dans et sur de nombreux pays, dont les États-Unis, la Pologne, l'Allemagne, les Pays-Bas, l'Espagne, l'Ukraine et Israël. Dans un communiqué de presse fournissant des détails sur l'opération de démantèlement, le DOJ a déclaré :
Envoyé par Ministère américain de la Justice
Le ministère de la Justice a annoncé aujourd'hui la saisie de deux noms de domaine et la perquisition de 968 comptes de médias sociaux utilisés par des acteurs russes pour créer une ferme de robots basés sur l'IA sur les médias sociaux qui a diffusé de la désinformation aux États-Unis et à l'étranger.
La ferme de robots des médias sociaux utilisait des éléments de l'IA pour créer des profils de médias sociaux fictifs (souvent censés appartenir à des personnes aux États-Unis) que les opérateurs utilisaient ensuite pour promouvoir des messages soutenant les objectifs du gouvernement russe.
Cependant, des analyses complémentaires suggèrent que la fonctionnalité Meliorator serait probablement étendue à d'autres plateformes de médias sociaux, notamment les réseaux sociaux de Meta. Pour assurer cette fonctionnalité, Meliorator comprend un panneau d'administration appelé "Brigadir" et un outil d'ensemencement appelé "Taras". Ces différentes découvertes démontrent que l'IA fait désormais clairement partie de l'arsenal de désinformation et de propagande en ligne.
Nina Jankowicz, directrice de l'American Sunlight Project, une organisation à but non lucratif qui tente de lutter contre la propagation de la désinformation, a déclaré qu'il n'était pas surprenant qu'une opération liée à la Russie s'appuie sur l'IA pour créer de faux comptes. « C'était l'une des parties les plus fastidieuses de leur travail ; aujourd'hui, elle a été rendue beaucoup plus facile par les technologies qui ont facilité cette opération », a déclaré Jankowicz.
Des chercheurs ont mis en garde contre le déploiement d'outils d'IA pour créer des sites d'infox, amenant souvent les lecteurs et les téléspectateurs à les prendre pour une source d'information authentique. Les outils d'IA offrent des moyens nettement moins coûteux et plus rapides de fabriquer du contenu, une tendance préoccupante, car les mandataires l'utilisent de plus en plus pour influencer les masses au cours d'une année d'élections aux enjeux considérables dans le monde entier.
Source : les responsables des services de renseignement américains
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous de l'utilisation accrue de l'IA générative dans les campagnes de désinformation en ligne ? Quels sont les risques pour le Web ? Le Web tel qu'on le connaît est-il en train de disparaître ? Comment peut-on faire face à la désinformation en ligne ? Ou la désinformation est-elle devenue un problème insoluble ?Voir aussi
Cybercriminalité : la France découvre une vaste campagne de désinformation russe en Europe, 193 sites Web, dirigé depuis la Russie, diffusent de fausses nouvelles La guerre de l'information à l'ère de l'IA : le FBI annonce la perquisition de 968 comptes automatisés sur X en provenance de Russie, qui diffusaient de la propagande aux États-Unis et dans d'autres pays Microsoft veut que le Congrès interdise les fraudes par deepfake générées par l'IA, avec une "loi sur la fraude par deepfake" qui donnera aux autorités un cadre juridique pour poursuivre les fraudes par l'IA 
