IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Un système d'IA pourrait aider à contrer la propagation de la désinformation avec une précision de 96 %,
Grâce à un mécanisme qui détecte les comptes de médias sociaux à l'origine de ces campagnes

Le , par Stan Adkens

86PARTAGES

11  0 
Une équipe du groupe Artificial Intelligence Software Architectures and Algorithms du Lincoln Laboratory de MIT a tenté de mieux comprendre les campagnes de désinformation en ligne et a également créé un mécanisme permettant de les détecter, dans le cadre d’un programme baptisé RIO (Reconnaissance of Influence Operations). L'objectif du programme était également de faire en sorte que ceux qui diffusent ces fausses informations sur les plateformes de médias sociaux soient identifiés. L'équipe a publié un article en janvier dernier dans Proceedings of the National Academy of Sciences, une revue scientifique multidisciplinaire.

Les campagnes de désinformation ne sont pas nouvelles, ce qui est nouveau, en revanche, c'est l'utilisation d'Internet et des médias sociaux pour diffuser ces campagnes. La diffusion de la désinformation via les médias sociaux a le pouvoir de modifier les élections, de renforcer les théories du complot et de semer la discorde.


Un nouveau rapport publié en fin 2018 sur la campagne de désinformation menée par la Russie lors de l'élection présidentielle américaine de 2016 a révélé que toutes les grandes plateformes de médias sociaux ont été utilisées pour diffuser des mots, des images et des vidéos dans le but d'influencer les électeurs pour favoriser l'élection du président Donald Trump. Le rapport offrait des détails sur la manière dont les Russes travaillant à l’Internet Research Agency auraient influencé les Américains lors des élections présidentielles de 2016 avec des infox.

Au cours du même mois, un autre rapport a conclu que la manipulation de l'opinion publique sur les plateformes de médias sociaux était devenue une menace critique pour la vie publique. Le rapport a révélé que malgré les efforts pour lutter contre la propagande informatique, le problème s'aggrave à grande échelle. En effet, partout dans le monde, des agences gouvernementales et des partis politiques exploitent les plateformes de médias sociaux pour diffuser des informations indésirables et la désinformation, exercer une censure et un contrôle, et saper la confiance dans les médias, les institutions publiques et la science.

Pas plus tard que ce mois, un groupe de chercheurs en sécurité a publié un article dans lequel il affirmait avoir démasqué une ferme massive de bots qui visait à façonner l'opinion publique sur Facebook dans le feu de l'élection présidentielle américaine de 2020. Les chercheurs ont établi que le réseau de bots comprenait 13 775 comptes Facebook uniques qui publiaient chacun environ 15 fois par mois, pour une production de plus de 50 000 publications par semaine. D’après leur rapport, les comptes semblent avoir été utilisés à des fins de « manipulation politique », la moitié environ des messages étant liés à des sujets politiques et 17 % au covid-19.

Les sociétés de réseaux sociaux comme Facebook et Twitter font mains et pieds depuis des années pour éradiquer ces fake news sur leurs plateformes sans vraiment y parvenir. L’équipe à l’origine des dernières recherches comprend Steven Smith, qui est membre du MIT Lincoln Laboratory. L’équipe, qui cherchait à mieux comprendre ces campagnes de fausses informations en lançant le programme RIO, a été récompensée l’année dernière par un prix R&D 100.

Détecter les comptes de désinformation avec une précision de 96 %

Le travail sur le projet a commencé en 2014 et l'équipe a remarqué une activité accrue et inhabituelle dans les données des médias sociaux provenant de comptes qui avaient l'apparence de propager des récits prorusses. Steve Smith, membre de l'équipe, a déclaré à MIT News qu'ils étaient « en quelque sorte en train de se gratter la tête ». L'équipe a donc demandé un financement interne par le biais du bureau des technologies du laboratoire pour essayer de comprendre ce qui se passait.

Et puis juste avant les élections françaises de 2017, l'équipe a lancé le programme pour vérifier si des techniques similaires seraient mises à contribution. Trente jours avant les scrutins, l'équipe de RIO a collecté des données en temps réel sur les médias sociaux pour analyser la propagation de la désinformation. Ils ont compilé un total de 28 millions de tweets provenant d'un million de comptes sur le site de micro-blogging. Grâce au mécanisme du RIO, l'équipe a pu détecter les comptes de désinformation avec une précision de 96 %.

La particularité du système RIO, c'est qu'il combine plusieurs techniques d'analyse afin de créer une vue globale de l'endroit et de la manière dont les récits de désinformation se propagent. Edward Kao, un autre membre de l'équipe de recherche, a déclaré qu'auparavant, si les gens voulaient savoir qui était le plus influent sur une plateforme de réseau social, ils se contentaient de regarder le nombre d'activités. Mais les chercheurs sont allés au-delà.

« Si vous essayez de répondre à la question de savoir qui est influent sur un réseau social, traditionnellement, les gens regardent le nombre d'activités », a-t-il expliqué Kao. Sur Twitter, par exemple, les analystes considèrent le nombre de tweets et de retweets. « Ce que nous avons constaté, c'est que dans de nombreux cas, ce n'est pas suffisant. Cela ne vous indique pas réellement l'impact des comptes sur le réseau social ».

Schéma fonctionnel du cadre de détection et de caractérisation de bout en bout des opérations d'influence (IO)

Kao a mis au point une approche statistique, dans le cadre de son travail de doctorat dans le programme Lincoln Scholars du laboratoire – un programme de bourses d'études. L’approche vise à aider à déterminer non seulement si un compte de médias sociaux diffuse de la désinformation, mais aussi dans quelle mesure le compte amène le réseau dans son ensemble à changer et à amplifier le message. Le programme développé par Kao est maintenant utilisé dans RIO.

Erika Mackin, un autre membre de l'équipe de recherche, a également appliqué une nouvelle approche d'apprentissage automatique qui aide RIO à classer ces comptes en examinant les données liées aux comportements, par exemple si le compte interagit avec des médias étrangers et quelles langues il utilise. Cette approche permet à RIO de détecter les comptes hostiles qui sont actifs dans diverses campagnes, allant des élections présidentielles françaises de 2017 à la diffusion de la désinformation covid-19.

Mais voici l'une des utilisations les plus uniques et les plus efficaces du RIO : le système peut détecter et quantifier l'impact des comptes exploités à la fois par des bots et des humains, alors que la plupart des systèmes automatisés utilisés aujourd'hui ne détectent que les bots. RIO est également capable d'aider les utilisateurs du système à prévoir comment différentes contre-mesures pourraient stopper la propagation d'une campagne de désinformation particulière.

L'équipe du laboratoire du MIT espère que RIO sera utilisé à la fois par le gouvernement et l'industrie, ainsi qu'au-delà des médias sociaux et dans le domaine des médias traditionnels tels que les journaux et la télévision. Actuellement, selon MIT News, l'équipe travaille avec Joseph Schlessinger, étudiant à West Point, qui est également étudiant diplômé au MIT et boursier militaire au Lincoln Laboratory, pour comprendre comment les faux récits se propagent dans les médias européens. Un nouveau programme de suivi est également en cours pour étudier les aspects cognitifs des opérations d'influence et la manière dont les attitudes et les comportements individuels sont affectés par la désinformation.

« Se défendre contre la désinformation n'est pas seulement une question de sécurité nationale, mais aussi de protection de la démocratie », a déclaré Kao.

Source : Article de recherche

Et vous ?

Que pensez-vous de cette nouvelle recherche ?
Le programme RIO pourrait analyser et détecter automatiquement la désinformation avec une précision de 96 %. Quels commentaires en faites-vous ?
Selon vous, les programmes d’IA pourraient-ils résoudre définitivement le problème de la propagation de la désinformation sur les médias sociaux ?

Voir aussi :

Microsoft dévoile des outils de détection de deepfakes, pour lutter contre les fausses nouvelles et d'autres formes de désinformation
Européennes : des hackers russes propageraient des fake news pour favoriser l'extrême droite, selon The New York Times
La manipulation de l'opinion publique sur les plateformes de médias sociaux est devenue une menace critique pour la vie publique, selon un rapport
Facebook annonce de nouveaux outils pour lutter contre la désinformation sur son site, les utilisateurs pourront désormais signaler les fakes news

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 30/05/2021 à 19:23
Citation Envoyé par Stan Adkens Voir le message

Selon vous, les programmes d’IA pourraient-ils résoudre définitivement le problème de la propagation de la désinformation sur les médias sociaux ?
Ça dépend: est-ce que ça marche aussi avec la désinformation gouvernementale?

Citation Envoyé par Stan Adkens Voir le message

L'équipe du laboratoire du MIT espère que RIO sera utilisé à la fois par le gouvernement et l'industrie, ainsi qu'au-delà des médias sociaux et dans le domaine des médias traditionnels tels que les journaux et la télévision. Actuellement, selon MIT News, l'équipe travaille avec Joseph Schlessinger, étudiant à West Point, qui est également étudiant diplômé au MIT et boursier militaire au Lincoln Laboratory, pour comprendre comment les faux récits se propagent dans les médias européens. Un nouveau programme de suivi est également en cours pour étudier les aspects cognitifs des opérations d'influence et la manière dont les attitudes et les comportements individuels sont affectés par la désinformation.
Une nième tentative de transformer les médias sociaux en télévision, en n'autorisant que les points de vue alignés avec la propagande officielle...

Citation Envoyé par Stan Adkens Voir le message

« Se défendre contre la désinformation n'est pas seulement une question de sécurité nationale, mais aussi de protection de la démocratie », a déclaré Kao.
HAHAHAHAHAHAHAHAHAHA!
6  1 
Avatar de marc.collin
Membre émérite https://www.developpez.com
Le 31/05/2021 à 1:00
Citation Envoyé par magnatux Voir le message
@kain_tn : Ne confondez pas faire preuve d'esprit critique et la désinformation.

Dans le premier cas, il s'agit d'une saine pratique, sous-peser les arguments de l'un et de l'autre des points de vue.

Dans le second il s'agit de propager une information trompeuse pour justement fausser l'analyse faite par l'esprit critique.

S'il est vrai que la communication gouvernementale est parfois empreinte d'une forme de propagande, considérer qu'elle ne peut qu'être nuisible c'est problématique.
Mentionnons ne serait-ce que la communication vouée aux mesures d'hygiène dans le cas de la COVID-19 ou encore celles destinées à soutenir le civisme.

A contrario, il m'est impossible de concevoir une situation où la désinformation pourrait s'avérer utile.
irak arme de destruction massive... koweit avec les couveuses... ça permis une guerre et d'enrichir plusieurs personnes.... donc utile pour certain...
5  0 
Avatar de Starbug
Membre actif https://www.developpez.com
Le 02/06/2021 à 9:36
Et bien évidemment cette IA ne ciblera que ce qui peux s'apparenter à un discours qui va à l'encontre de la pensée dominante. Comme c'est beau la démocratie
4  0 
Avatar de
https://www.developpez.com
Le 31/05/2021 à 9:26
Comme dit la CIA, un mensonge répété suffisamment de fois devient une vérité.

Je veux bien croire qu'une IA arrive à débusquer les fake news capillotracté et à la diffusion confidentielle. Mais que fait-on contre la désinformation organisée ?

Prenons l'exemple du Xinjiang. L'information provient d'un milieu clôt lié à l'intelligence US : Radio Free Asia, Victim of Communism Memorial Fundation, NED, ASPI, Jamestown Fundation, etc... Ces gens se citent entre eux et créent suffisamment de contenu pour rendre crédibles leurs propos auprès du non initié. Je ne pense pas qu'une IA soit à même de déceler cela.
3  0 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 31/05/2021 à 9:34
Citation Envoyé par magnatux Voir le message
@kain_tn : Ne confondez pas faire preuve d'esprit critique et la désinformation.

Dans le premier cas, il s'agit d'une saine pratique, sous-peser les arguments de l'un et de l'autre des points de vue.

Dans le second il s'agit de propager une information trompeuse pour justement fausser l'analyse faite par l'esprit critique.

S'il est vrai que la communication gouvernementale est parfois empreinte d'une forme de propagande, considérer qu'elle ne peut qu'être nuisible c'est problématique.
Mentionnons ne serait-ce que la communication vouée aux mesures d'hygiène dans le cas de la COVID-19 ou encore celles destinées à soutenir le civisme.

A contrario, il m'est impossible de concevoir une situation où la désinformation pourrait s'avérer utile.
Ben justement, parlons-en de la communication COVID-19. Étant donné que le gouvernement Français a dit tout ET son contraire, est-ce que l'on peut toujours considérer que tout ce qui sort de leur bouche est une parole d'évangile, ou est-ce qu'on fait "preuve d'esprit critique" et qu'on accepte le fait qu'eux aussi font de la désinformation quand ça les arrange (par exemple quand ils n'ont plus assez de masques)?
3  0 
Avatar de Fagus
Membre expert https://www.developpez.com
Le 31/05/2021 à 11:52
Que pensez-vous de cette nouvelle recherche ?
Le programme RIO pourrait analyser et détecter automatiquement la désinformation avec une précision de 96 %. Quels commentaires en faites-vous ?
À mon humble avis, je pense que c'est fichu pour tirer quelque chose de fiable des réseaux dits sociaux dans l'état actuel des choses (à moins de ne suivre que des sources validées). Il y a plusieurs articles dans l'avant dernier "pour la science" où des chercheurs affirment que :
* les réseaux sociaux sont conçus pour être très facilement manipulables (un faible nombre de bots peut rendre viral de l'intox)
* que les humains sont facilement manipulables par des bots intégrant les avancées des neurosciences (capacité des bots à induire des émotions de leur choix chez les humains, d'inciter à tel comportement, etc.)
* qu'à leur avis, 15% des utilisateurs actifs de Twitter sont des bots, mais que c'est de plus en plus difficile à quantifier, car les IA des chercheurs ont de plus en plus de mal à distinguer les bots des humains car les bots sont aussi des IA et progressent beaucoup .

Donc, il ne reste plus qu'à se faire un échantillon de la presse payante, si possible financée par les lecteurs et non la publicité pour avoir des info correctes. Ou les forum qui comme ici sont fréquentés surtout par des humains..., ou d'avoir des réseaux sociaux à identité physiquement vérifiée et sécurisée, ce qui n'est pas simple.
2  0 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 31/05/2021 à 13:01
Citation Envoyé par micka132 Voir le message
Inutile, ou très efficace, à un moment le gouvernement nous a menti. Mais ce n'est pas nouveau, ca se produit pour moi encore aujourd'hui, et ca se reproduira dans le futur.
Il n'empêche que les mensonges d'Etat ont ceci de rassurant qu'ils permettent d'avoir un cap idéologique plus ou moins commun et que ca ne soit pas trop le bordel.
Internet n'est qu'une image de ce qui se passe sans Etat (au sens organe de control). Ca se rapproche un peu de la vrai liberté; un monde incertain que la plupart des gens n'osent imaginer mais qui pourtant se croient libre.
Je ne trouve ça ni rassurant, ni sain d'avoir un état qui ment à ses citoyens. C'est antidémocratique.
2  0 
Avatar de jenramac
Membre habitué https://www.developpez.com
Le 01/06/2021 à 8:56
Citation Envoyé par Henri Queuille (Président du Conseil sous la IVe République | Né en 1884)
La politique ne consiste pas à faire taire les problèmes, mais à faire taire ceux qui les posent.
2  0 
Avatar de micka132
Expert confirmé https://www.developpez.com
Le 31/05/2021 à 12:23
Citation Envoyé par kain_tn Voir le message
Ben justement, parlons-en de la communication COVID-19. Étant donné que le gouvernement Français a dit tout ET son contraire, est-ce que l'on peut toujours considérer que tout ce qui sort de leur bouche est une parole d'évangile, ou est-ce qu'on fait "preuve d'esprit critique" et qu'on accepte le fait qu'eux aussi font de la désinformation quand ça les arrange (par exemple quand ils n'ont plus assez de masques)?
Inutile, ou très efficace, à un moment le gouvernement nous a menti. Mais ce n'est pas nouveau, ca se produit pour moi encore aujourd'hui, et ca se reproduira dans le futur.
Il n'empêche que les mensonges d'Etat ont ceci de rassurant qu'ils permettent d'avoir un cap idéologique plus ou moins commun et que ca ne soit pas trop le bordel.
Internet n'est qu'une image de ce qui se passe sans Etat (au sens organe de control). Ca se rapproche un peu de la vrai liberté; un monde incertain que la plupart des gens n'osent imaginer mais qui pourtant se croient libre.
1  0 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 31/05/2021 à 18:08
Citation Envoyé par micka132 Voir le message
Et pourtant c'est ce que qui se passe depuis la nuit des temps.

La démocratie n'a rien à voir là dedans, ce n'est qu'un mode d'accès au pouvoir. Ne disons nous pas de nos politiciens "tous des menteurs?"
Oui, tu as raison. Mais ce n'est pas pour autant qu'il faut l'accepter. On ne pourra peut-être pas se débarrasser de ces escrocs mais si on se résigne et qu'on l'accepte, on part déjà perdants.
1  0