
La désinformation : un fléau complexe à combattre qui est exacerbé par l'essor de l'IA
Le gouvernement américain appelle à nouveau ses populations à faire attention et trier avec soin les contenus avec lesquels elles interagissent en ligne. « Le public américain doit savoir que le contenu qu'il lit en ligne - en particulier sur les médias sociaux - peut être de la propagande étrangère, même s'il semble provenir de compatriotes américains ou être originaire des États-Unis », a déclaré un responsable du bureau du directeur du renseignement national qui a informé les journalistes sous le couvert de l'anonymat, conformément aux règles établies par le bureau du directeur. Le message est en fait double cette fois-ci.
Dans un premier temps, le renseignement américain avertit que la Russie a intensifié ses efforts visant à diffuser à grande échelle de la désinformation et de la propagande sur les élections. Ce message n'est pas vraiment nouveau. Ce qui l'est par contre, c'est le second volet du message d'alerte qui indique que la machine de propagande russe s'appuie désormais également sur des Américains mal intentionnés afin de rendre les infox plus crédibles auprès du peuple américain.
Les groupes affiliés au Kremlin font de plus en plus appel à des sociétés de marketing et de communication situées en Russie afin de sous-traiter une partie du travail de création de propagande numérique tout en couvrant leurs traces. Deux de ces sociétés ont fait l'objet de nouvelles sanctions américaines annoncées en mars. Selon les autorités, ces deux sociétés russes ont créé de faux sites Web et de faux profils de médias sociaux pour diffuser la désinformation du Kremlin.
Cette désinformation peut porter sur les candidats ou le vote, ou sur des questions qui font déjà l'objet de débats aux États-Unis, comme l'immigration, la criminalité ou la guerre à Gaza. Mais l'objectif ultime serait d'amener les Américains à diffuser la désinformation russe sans s'interroger sur son origine. « Les gens sont beaucoup plus enclins à faire confiance et à rediffuser des informations qu'ils croient provenir d'une source nationale », ont déclaré les autorités américaines.
Les faux sites Web conçus pour imiter les organes de presse américains et les profils de médias sociaux générés par l'IA ne sont que deux méthodes parmi d'autres. Dans certains cas, des Américains, des entreprises et des médias américains ont volontairement amplifié et repris les messages du Kremlin. Après l'attaque contre Donald Trump, par exemple, les agences de désinformation russes ont rapidement amplifié les affirmations selon lesquelles la rhétorique démocrate avait conduit à la fusillade.
Elles auraient également propagé des théories suggérant que Joe Biden ou le gouvernement ukrainien avait orchestré l'attentat. « Ces voix prorusses ont cherché à lier la tentative d'assassinat à la guerre que la Russie continue de mener contre l'Ukraine », a conclu le laboratoire de recherche numérique du Conseil atlantique, qui suit la désinformation russe.
La Russie derrière une vaste campagne de désinformation ciblant la France et l'Europe
Selon les autorités américaines, alors que la Chine a organisé une vaste campagne de désinformation avant les récentes élections à Taïwan, elle s'est montrée beaucoup plus prudente lorsqu'il s'agit des États-Unis. Pékin pourrait utiliser la désinformation pour cibler les élections au Congrès ou d'autres élections où un candidat a exprimé des opinions fortes sur la Chine. Mais selon les autorités américaines, la Chine ne devrait pas essayer d'influencer la course à la présidence.
L'Iran, quant à lui, aurait adopté une attitude plus agressive. La directrice du renseignement national des États-Unis, Avril Haines, a déclaré au début du mois que le gouvernement iranien avait soutenu les manifestations américaines contre la guerre menée par Israël contre le Hamas à Gaza. « Des groupes liés à l'Iran se sont fait passer pour des activistes en ligne, ont encouragé des manifestations et ont apporté un soutien financier à certains groupes de protestation », a déclaré Haines.
Au début de l'année, la France a découvert une vaste campagne de désinformation russe en Europe, baptisée Portal Kombat. Selon l'organisme de surveillance Viginum, cette campagne vise la France, l'Allemagne, la Pologne, et d'autres pays européens. Le rapport que la campagne, dirigée depuis la Russie, est composée de 193 sites Web et diffuse des infox, notamment sur l'invasion de l'Ukraine par la Russie et les élections du Parlement européen. Les objectifs sont divers et variés.
Les autorités françaises ont déclaré que cette vaste campagne de désinformation menée par la Russie en Europe vise principalement à dénigrer l'Ukraine, justifier l'invasion russe, discréditer la résistance ukrainienne, et perturber les élections et événements sportifs sur le Vieux Continent. Les experts ont souligné la complexité de cet écosystème de désinformation, mettant en garde contre ses implications sur la démocratie et appelant à une protection urgente des élections à venir.
Selon la Commission européenne, l'OTAN, et les agences de l'ONU, la désinformation est devenue une menace majeure, reflétant ainsi les inquiétudes mondiales sur ce phénomène. Les États-Unis ont récemment annoncé qu'ils sont parvenus à interrompre une opération de désinformation financée par un État-nation et basée sur l'IA.
Le directeur du FBI, Christopher Wray, a déclaré : « la Russie avait l'intention d'utiliser cette ferme de robots pour diffuser de la désinformation étrangère générée par l'IA, en étendant leur travail avec l'aide de l'IA pour saper nos partenaires en Ukraine et influencer les récits géopolitiques favorables au gouvernement russe ».
L'IA et la désinformation en ligne font craindre la fin du Web tel qu'on le connaît
Au début du mois, les autorités américaines ont annoncé qu'une opération conjointe du FBI et des forces internationales de cybersécurité a permis de démanteler une ferme de bots secrète sur les réseaux sociaux, gérés par des groupes affiliés au gouvernement russe, qui utilisait l'IA générative pour diffuser de la désinformation auprès d'utilisateurs du monde entier. Le rapport indique que des affiliés de l'organe de presse Russia Today (RT), parrainé par l'État russe, ont utilisé Meliorator, un logiciel de génération et de gestion de fermes de bots utilisant l'IA, pour créer plus de 1 000 bots sur le réseau social X d'Elon Musk.
D'après le ministère américain de la Justice (DOJ), ces bots étaient destinés à diffuser de la désinformation dans et sur de nombreux pays, dont les États-Unis, la Pologne, l'Allemagne, les Pays-Bas, l'Espagne, l'Ukraine et Israël. Dans un communiqué de presse fournissant des détails sur l'opération de démantèlement, le DOJ a déclaré :
[QUOTE=Ministère américain de la Justice]
Le ministère de la Justice a annoncé aujourd'hui la saisie de deux noms de domaine et la perquisition de 968 comptes de médias sociaux utilisés par des acteurs russes pour créer une ferme de robots basés sur l'IA sur les médias sociaux qui a diffusé[/quote=ministère américain de la justice]...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.