IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

L'IA et la prolifération de la désinformation en ligne : « Nous sommes vraiment à l'orée de la fin de l'internet et personne n'en parle »
Les défis du déluge de contenus générés automatiquement

Le , par Stéphane le calme

39PARTAGES

8  0 
Des chercheurs ont mis en garde les escrocs et les propagandistes du monde entier contre le déploiement d'outils d'IA pour créer des sites de fausses nouvelles, amenant souvent les lecteurs et les téléspectateurs à les prendre pour une source d'information authentique. Les outils d'IA générative offrent des moyens nettement moins coûteux et plus rapides de fabriquer du contenu, une tendance préoccupante car les mandataires l'utilisent de plus en plus pour influencer les masses au cours d'une année d'élections aux enjeux considérables dans le monde entier.

L’intelligence artificielle a fait d’énormes progrès ces dernières années, et son influence sur l’internet est de plus en plus perceptible. Des algorithmes sophistiqués génèrent désormais des contenus tels que textes, images et vidéos, ce qui soulève des questions sur l’authenticité, la véracité et l’impact sur notre société.

L'argent de l'aide américaine qui sert à acheter une voiture de sport

L'une de ces fausses histoires produites par l'IA a indiqué qu'Olena Zelenska, la première dame d'Ukraine, aurait acheté une rare voiture de sport Bugatti Tourbillon pour 4,5 millions d'euros lors d'une visite à Paris pour les commémorations du jour J en juin. L'argent proviendrait de l'aide militaire américaine.

L'histoire est apparue il y a quelques semaines sur un site web français et a été rapidement démentie.

Des experts ont relevé d'étranges anomalies sur la facture mise en ligne. Un lanceur d'alerte cité dans l'article n'apparaissait que dans une vidéo bizarrement éditée qui pourrait avoir été créée artificiellement. Bugatti a publié un démenti cinglant, qualifiant l'information de "fake news", et son concessionnaire parisien a menacé d'intenter une action en justice contre les personnes à l'origine de cette fausse histoire.

Mais avant que la vérité ne puisse éclater, le mensonge est devenu viral. Les influenceurs avaient déjà repris la fausse histoire et l'avaient largement diffusée. Un utilisateur X, l'activiste pro-Russie et pro-Donald Trump Jackson Hinkle, a posté un lien vu par plus de 6,5 millions de personnes. Plusieurs autres comptes ont diffusé l'histoire à des millions d'autres utilisateurs X - au moins 12 millions au total, selon les mesures du site.


Le « psychiatre » fictif

Une autre de ces histoires produites par l'IA et publiées sur Global Village Space, un site numérique pakistanais, est devenue virale sur l'internet en affirmant que le psychiatre du Premier ministre israélien Benjamin Netanyahu s'était « suicidé ». L'article, paru en novembre, affirmait que le « psychiatre » avait rendu Netanyahou responsable de sa mort dans une lettre de suicide.

NewsGuard, un organisme de recherche basé aux États-Unis qui traque la désinformation, a révélé par la suite que l'article avait été inondé de contenu généré par l'intelligence artificielle, principalement à partir de sources en ligne grand public. Après avoir effectué des recherches, l'organisation a trouvé des similitudes significatives entre le faux article et un article fictif publié en 2010 sur un site web satirique.

« La croissance exponentielle des sources d'information générées par l'IA est alarmante car ces sites peuvent être perçus par l'utilisateur moyen comme des sources d'information légitimes et dignes de confiance », a déclaré McKenzie Sadeghi, analyste chez NewsGuard, cité par l'AFP.

Utilisé par les propagandistes

Le faux article sur le psychiatre de Netanyahou est devenu viral. Une chaîne de télévision iranienne l'a pris à bras-le-corps et a incité les téléspectateurs à lire l'article complet sur Global Village Space. L'article a également été traduit en plusieurs langues, dont l'arabe, le farsi et le français, puis amplifié par de nombreuses personnes sur les plateformes de médias sociaux.

Une poignée de sites ont même publié la nécrologie du « psychiatre » fictif.

Citation Envoyé par NewsGuard
Un site web d'information généré par l'intelligence artificielle semble être à l'origine d'une fausse affirmation selon laquelle le prétendu psychiatre du Premier ministre israélien Benjamin Netanyahu se serait suicidé, ce qui montre que les outils d'intelligence artificielle générative sont déjà apparemment utilisés par des acteurs malveillants pour diffuser des informations erronées.

La fausse affirmation semble avoir été lancée le 6 novembre sur un site web appelé Global Village Space, qui se présente comme un site d'information pakistanais. L'article, intitulé « Le psychiatre du Premier ministre israélien se suicide », affirmait que « le Dr Moshe Yatom, psychiatre israélien réputé pour ses travaux sur la guérison de maladies mentales graves, a été découvert mort à son domicile de Tel-Aviv ». L'article indique également que M. Yatom a laissé derrière lui une « lettre de suicide dévastatrice qui met en cause » M. Netanyahou. Cette affirmation s'est rapidement répandue sur plusieurs plateformes dans de nombreuses langues, y compris par des milliers d'utilisateurs de médias sociaux.

En réalité, une recherche effectuée par NewsGuard n'a permis d'identifier aucun psychiatre en Israël portant le nom de Moshe Yatom, ni aucune personne portant un nom similaire à celui qui aurait récemment trouvé la mort. Global Village Space semble avoir utilisé l'IA pour réécrire un article satirique sur Netanyahu, en capitalisant sur l'intérêt pour la guerre.

L'article de Global Village Space semble s'inspirer d'un article satirique publié le 8 juin 2010 sur Legalienate, un site qui se décrit comme un site d'actualités, de commentaires et de satire. Les articles présentent d'importantes similitudes et Global Village Space a l'habitude d'utiliser l'IA pour générer du contenu à partir d'autres sources. En août 2023, NewsGuard a découvert que GlobalVillageSpace.com était l'un des 37 sites utilisant également l'IA pour réécrire le contenu de sources d'information grand public, telles que le New York Times, sans en mentionner la source.

En mai 2023, NewsGuard a identifié pour la première fois Global Village Space comme un site web généré par l'IA. Il s'agit d'un exemple de site web déterminé par NewsGuard comme faisant partie des nombreux sites d'actualités non fiables générés par l'IA (UAINS), qui sont des sites qui publient principalement des actualités générées par l'IA, avec une supervision éditoriale humaine minimale et sans divulguer de manière transparente cette pratique à leurs lecteurs.

Pourquoi est-ce inquiétant ?

Les experts pensent que les escrocs pourraient utiliser l'IA pour diffuser des informations erronées au cours d'une année riche en élections à fort enjeu, comme aux États-Unis et en Inde.

« La désinformation générée automatiquement sera probablement un élément majeur des élections de 2024 », a déclaré Gary Marcus, professeur à l'université de New York, cité par l'AFP. « Les escrocs utilisent l'IA (générative) à gauche, à droite et au centre », a-t-il ajouté.

Selon NewsGuard, il existe au moins 739 sites d'information générés par l'IA qui fonctionnent avec peu ou pas de contrôle humain et qui portent des noms génériques tels que « Ireland Top News ».

Les analystes estiment que cela peut également nuire aux intérêts des annonceurs, car ils pourraient être considérés comme soutenant indirectement un contenu qui n'est pas basé sur des faits et des réalités sur le terrain.

La montée en puissance des contenus générés par l’IA

Images et vidéos

Les images et vidéos générées par l’IA sont de plus en plus difficiles à distinguer de celles créées par des humains. Des algorithmes de deep learning peuvent produire des visuels réalistes, des portraits aux paysages, en passant par des œuvres d’art. Cette avancée a des implications pour la photographie, le design graphique et même la sécurité, car les deepfakes deviennent plus convaincants.

Textes et articles

Les chatbots et les modèles de langage tels que GPT-3 et ChatGPT sont capables de rédiger des articles, des résumés et des commentaires. Cela peut être bénéfique pour l’automatisation de tâches, mais pose également des problèmes de désinformation. Les fermes de contenu en ligne utilisent ces modèles pour générer des articles à grande échelle, souvent sans vérification humaine.

Les défis posés par la prolifération de l’IA

Véracité et confiance

Comment pouvons-nous faire confiance à un contenu lorsque nous ne savons pas s’il a été créé par un humain ou par un algorithme ? La vérification devient un défi majeur. Les plateformes en ligne doivent mettre en place des mécanismes pour signaler les contenus générés par l’IA et garantir leur authenticité.

Surcharge d’information

Si l’IA continue de produire du contenu à un rythme effréné, l’internet risque de devenir saturé. Les utilisateurs seront submergés par des informations automatisées, ce qui pourrait nuire à la qualité de l’expérience en ligne. Comment maintenir un équilibre entre l’automatisation et la contribution humaine ?

Éthique et responsabilité

Les créateurs d’algorithmes doivent prendre en compte les implications éthiques de leurs créations. Comment éviter que l’IA ne soit utilisée pour diffuser de la désinformation, de la propagande ou des discours haineux ? La régulation et la transparence sont essentielles pour garantir que l’IA serve l’intérêt public.

1,5 milliard de fake news sont publiées chaque jour sur les médias sociaux, selon ID Crypt Global

ID Crypt Global a analysé les données du rapport Code of Practice on Disinformation de TrustLab pour comprendre la vitesse à laquelle la désinformation se propage sur les six principales plateformes de médias sociaux (Instagram, Facebook, X, LinkedIn, TikTok et YouTube) avant de mener sa propre analyse...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de calvaire
Expert éminent https://www.developpez.com
Le 29/03/2025 à 18:53
De la ou je suis (pas en Russie, ni ces alliés et pas dans l'Union européenne), je remarque surtout que les européens soit disant dans des démocraties libre ont une belle propagande sur cette guerre.
Les journaux ici ont bien plus de retenue sur poutine, et un avis bien plus neutre/objectif sur le chemin pro guerre que prends l’Europe.

En ce moment dans mon quartier français, on se marre sur les 15% de rendement prédis par les médias français sur le fond de défense français.
15% c'est juste du jamais vue, même dans les promesses des plus grosses arnaques financières que le monde à connu.

source tf1
Combien pourrait vous rapporter ce placement ? De 10 à 15% par an, selon nos informations. De quoi potentiellement doubler sa mise de départ à la fin du placement.


On y crois !
9  2 
Avatar de calvaire
Expert éminent https://www.developpez.com
Le 24/07/2024 à 17:58
Citation Envoyé par BugFactory Voir le message
Peut-être que je ne devrais pas faire de politique quand je suis de mauvaise humeur, mas il y a peut être une solution pour endiguer ce flux : pénaliser non seulement les comptes qui publient de fausses nouvelles, mais aussi ceux qui les répandent, afin de pousser les gens à réfléchir avant de "liker" n'importe quoi. Par exemple leurs "like" pourraient ne plus être pris en compte.
le problème c'est que c'est quoi une fausse nouvelle ?
l'histoire récente a montré que les complotistes, ce sont ceux qui avait raison 1ans après. Et le gouvernement est le 1er a mentir et a cacher la vérité.

Les politiciens mentent tous, Bruno Lemaire a menti sur l'économie de la france, le sénat l'a prouvé, doit t'on le sanctionner ?

Ce système risque au contraire de censurer ceux qui dénonce les mensonges des politiciens, ceux qui avait dénoncé Bruno Lemaire 6mois avant on aurait du les sanctionner à cette époque ? Qui croire, un journaliste ou le ministre de l'économie ?
5  0 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 24/07/2024 à 15:01
Citation Envoyé par Jon Shannow Voir le message
Le plus drôle, ou le plus triste, selon, c'est que ces fausses informations vont nourrir les IA qui utilisent ce qui est déjà publiées pour fabriquer leur contenus.
En l'état de l'évolution donné à internet, il n'y aura bientôt plus d'utilisateur humain: Alors que l'IA fasse du contenu à destination de l'IA!!!
3  0 
Avatar de noremorse
Membre actif https://www.developpez.com
Le 18/09/2024 à 7:25
L'attaque « orwellienne » contre les médias russes témoigne du désespoir des États-Unis à sauver l'ordre mondial unipolaire en ruine

La répression de Washington contre RT est liée au « désir de préserver l'ordre mondial unipolaire déjà pratiquement inexistant de la domination occidentale, ce qui signifie bien sûr aussi la domination dans l'espace de l'information, afin de préserver un point de vue pour tous et de supprimer et détruire tous les autres », a déclaré à Sputnik l'analyste politique Alexander Asafov.

« L’intensification des efforts dans ce sens est liée au fait que le citoyen occidental moyen, l’électeur et le contribuable qui paye pour tout, ne comprennent plus pourquoi ils devraient financer le désir de leurs élites politiques d’aider un régime dictatorial lointain comme celui de l’Ukraine, et commencent à se poser des questions et à trouver des réponses assez facilement. Pour les empêcher de le faire, des mesures comme celles-ci sont prises, qui constituent en fait une censure totale », a expliqué Asafov.

La guerre des États-Unis contre le journalisme – pas seulement avec la répression contre RT, mais aussi avec le blocage des réseaux sociaux, le harcèlement des journalistes, etc. – constitue la mise en pratique des « histoires d’horreur que l’écrivain britannique George Orwell a utilisées pour terrifier le monde entier. En substance, la persécution des journalistes est une tentative de les punir pour « délit de pensée », pour une personne qui pense différemment et qui est prête à dire la vérité », selon l’observateur.

Quant aux nouvelles restrictions et accusations contre RT, elles constituent une nouvelle tentative de faire taire la Russie et de la priver de son droit de présenter une perspective alternative, a déclaré Asafov, notant que les États-Unis continueront d'augmenter les enjeux dans leur tentative d'atteindre cet objectif « impossible ».

Les actions américaines sont « basées sur un prétexte » et non sur des faits, « et il n’existe certainement aucune base légale pour de telles actions », a souligné l’analyste politique, soulignant que le comportement de Washington ne constitue pas seulement une violation du droit international et des nobles idées sur la liberté d’expression et de la presse, mais aussi de la législation américaine elle-même. Il s’agit plutôt d’une « application pratique de ce qu’on appelle « l’ordre international fondé sur des règles »

RT et Sputnik et Rumble sont accessibles via VPN.
4  1 
Avatar de fredinkan
Membre expérimenté https://www.developpez.com
Le 20/09/2024 à 8:53
Citation Envoyé par calvaire Voir le message
Mais pour moi la solution passe par la dérégulation du marché, laissé chacun faire ce qu'il veut de son terrain. Au japon il n'ya aucune réglementation en matiere de construction, on peut en plein milieu de tokyo laissé en friche, construire une maison ou un immeuble de 100 étages sans rien demandé.
le résultat c'est que au japon le logements n'a pas bougé en 20ans et aucune pénurie de logement.
Tu oublies un gros point.
La courbe démographique du japon est négative et l'immigration extrêmement basse...
3  0 
Avatar de noremorse
Membre actif https://www.developpez.com
Le 29/03/2025 à 9:12
Pas besoin de propagande russe, la propagande macronienne fera l’affaire avec la menace imaginaire russe sur les pays du tiers monde de l’UE, le livret de survie à la con, de la récupération des puces dans les machines à laver pour fabriquer des missiles, la faux massacre de Butcha, le pietinage des accords de Minsk par Poutine qui se révèle être, le financement de la CIA des labos biologiques en Ukraine qui était censé être de la propagande russe s’avère finalement que c’est vrai, etc…etc…

https://youtu.be/EkN83kdgHps?feature=shared
9  6 
Avatar de Escapetiger
Expert éminent sénior https://www.developpez.com
Le 29/03/2025 à 20:26
Citation Envoyé par baptiste devno Voir le message
Code : Sélectionner tout
https://youtu.be/EkN83kdgHps?feature=shared
Merci beaucoup pour ce repportage absolument pas réaliser par arte, disponible uniquement sur plusieurs chaine youtube inconnue au bataillion, sur lequel je peux m'entrainer à repérer la desinformation
Je confirme au contraire qu'il s'agit bien du reportage de 2017 co-produit par ARTE intitulé « Propaganda, la fabrique du consentement » :

https://educ.arte.tv/program/propaga...u-consentement
Propaganda, la fabrique du consentement | Educ'ARTE

53min.

Description
Comment influencer les foules ? À travers la figure d’Edward Bernays, l'auteur de "Propaganda", un passionnant décryptage du "soft power" du marketing.

Si les techniques de persuasion des masses apparaissent en Europe à la fin du XIXe siècle pour lutter contre les révoltes ouvrières, elles sont développées aux États-Unis pour convaincre les Américains de s’engager dans la Première Guerre mondiale. Peu connu du grand public, neveu de Sigmund Freud, Edward Bernays (1891-1995), l'auteur du livre de référence Propaganda et l'un des inventeurs du marketing, en fut l’un des principaux théoriciens. Inspirées des codes de la publicité et du divertissement, ces méthodes de "fabrique du consentement" des foules s’adressent aux désirs inconscients de celles-ci. Les industriels s’en emparent pour lutter contre les grèves avec l’objectif de faire adhérer la classe ouvrière au capitalisme et de transformer ainsi le citoyen en consommateur. En 2001, le magazine Life classait Edward Bernays parmi les cent personnalités américaines les plus influentes du XXe siècle.

Réalisateur : Jimmy Leipold
Producteurs : ARTE France, INA
Année : 2017
Nationalité : France
https://www.imdb.com/fr/title/tt8480438/
Propaganda: La fabrique du consentement (Téléfilm 2017) - IMDb

Téléfilm 2017, 54min

Comment influencer les foules ? À travers la figure d'Edward Bernays (1891-1995), l'un des inventeurs du marketing et l'auteur de "Propaganda", un passionnant décryptage des méthodes de la "fabrique du consentement".
3  0 
Avatar de Jules34
Membre émérite https://www.developpez.com
Le 19/09/2024 à 10:20
Citation Envoyé par Ryu2000 Voir le message
C'est plutôt l'Open Society Foundations de George Soros qui s'occupe de ça.
Le projet est probablement de créer une guerre civile, pendant que les gens se tapent dessus ils ne réfléchissent à la cause des problèmes.

Si Trump est aussi populaire aux USA c'est principalement du au bilan catastrophique de "The Biden-Harris Administration".
Les étasuniens se disent "nous vivions mieux sous Trump".
Encore une fois je suis entièrement d'accord, ce qui est certains c'est que cette immigration massive ne nous aide pas, qu'elle soit le fait de Soros, de l'UE ou des Russes.

L'idée, qu'elle vienne des Russes ou des Américains est d'empêcher l'UE d'avoir un rôle de poids lourd sur le continent. Je pense personnellement que ce sont les américains. Les Russes s'arrangeaient bien de la compétitivité Allemande et Française. Il est évident que les intérêts américains et européens sont en fait contradictoire. Nord Stream 2 n'aurait pas sauté sinon. On ne connaitrait pas cette inflation et cet appauvrissement généralisé.

Les problèmes liés à l'immigration c'est la cerise sur le gâteau. Et on se demande si le problème c'est le racisme, nos sociétés ou nos capacité d'accueil mais il faut également bien comprendre qu'une minorité de personne qui arrive ici EST RACISTE ! Et ils sont clairement énervés après nous, viennent en conquérant et vomissent nos valeurs et feront tout pour embrigader les plus faibles d'esprits avec eux.

Je lis un peu les commentaires qui vont dans le sens "les Français sont des racistes", je pense que c'est vraiment une fausse piste. Arrêtons de culpabiliser la dessus. Nous sommes parmis les peuples les plus tolérants du monde et on arrive encore à se trouver raciste quand des mecs débarquent en bande d'Afghanistan ou du Pakistan avec en idée qu'une femme est un objet, une fillette une femme à marier et que nous sommes les plus décadents du monde. Si nous fermons les yeux nous serons les premiers à nous faire botter le c** !
5  3 
Avatar de der§en
Membre expérimenté https://www.developpez.com
Le 19/09/2024 à 13:23
C’est sur que le camp du bien ne provoque des coups d’états que pour favoriser la démocratie, et influence souvent par contraintes ces « alliers », rien à voir avec leurs intérêts financiers, bien sûr
2  0 
Avatar de totozor
Expert confirmé https://www.developpez.com
Le 20/09/2024 à 14:51
Citation Envoyé par calvaire Voir le message
tant que ca ce vends c'est qu'il y'a de la demande, si tu construit beaucoup, les prix vont diminuer et ces riches qui accumules des 10aines de logements vont vite les vendre et la le marché va s'effondrer.
Oui l'Espagne et la Grèce disaient ça aussi. Elles ont maintenant des villes fantomes qui réquisitionnent un espace qui pourrait servir à autre chose.
Nous avons fait confiance au capital, la conclusion est que les plus riches prennent des pseudo-risques que nous devons ensuite assumer.
réquisitionner/confisquer et une très mauvaise chose, on est pas un pays communiste, ces gens qui possède des 10aines d'apparts ont souvent des entreprises, des actions et des relations, c'est signé l'arret de mort économique de notre pays, tous les riches vont boycotter la France et les usines vont se faire ailleurs.
C'est pour ça que je proposait d'acheter aussi.
Ceci dit mon club de sport a découvert un autre moyen de réquisitionner plus capitaliste : on laisse un terrain perdre sa valeur au fur et à mesure en s'assurant bien qu'il n'intéresse personne. Puis quand sa valeur est suffisamment dérisoire on l'achète.
Comment s'assurer que personne n'est intéressé? On ouvre la porte à des squatteurs alors qu'un petit club leur apportait un petit peu d'argent et entretenait les locaux. Puis on dégrade le parking pour faire virer les squatteurs (nous savons que les dégradations n'ont pas été faites par les squatteurs parce qu'ils nous aidaient à organiser un évènement quand c'est arrivé).
Au contraire, construisons massivement, laissons les investisseurs acheter pleins de maisons et d'appart, ca fait tourner le commerce, le BTP cette année va supprimer plus de 100000 emplois, je preferais construire massivement et avoir +100000 emplois crées. Ce sera très bon pour notre économie, et l'argent récolté permetera de réduire notre dette, donc les interets et donc à la fin ca fera plus de budget pour autre chose que le remboursement de la dette (qui est le 1er budget de l'état désormais, au dessus de l'éducation de nos enfants).
Oui parce que l'immobilier est plus rentable pour le capitalisme que l'agriculture ou que sais.
Je ne dis pas qu'il ne faut pas construire des logement je dis qu'il faut le faire raisonnablement sous peine de finir avec des projets qui ne mènent nul part et qui sacrifient l'espace pour un investisseur qui s'est fait son beurre quand même et sur le dos d'honnêtes gens qui voulaient un logement ou du beurre dans les épinards.
On peut courir avec le capitalisme et créer des bulles les unes après les autres pour avoir l'impression de toujours créer plus de valeur mais la réalité est toute autre et seuls les plus riches s'enrichissent.
la seul chose a confisquer c'est le foncier/terrain des communes qui refuse de donner des permis de construire.
A finalement il faut confisquer des choses mais la tienne s'appelle la privatisation.
Le juste milieu est probablement entre nos deux idées, mais si on veut loger les SDF c'est pas avec des grands projets de construction aveugle qu'on y arrivera.
2  0