IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Les chatbots d'IA pourraient aggraver la désinformation en ligne, en permettant aux acteurs malveillants de créer des campagnes plus rentables
Et plus difficiles à repérer, selon certains chercheurs

Le , par Anthony

1PARTAGES

8  0 
Les chatbots IA représentent un nouveau chapitre passionnant de l'histoire de la technologie, mais malgré cela, ils ne sont pas exempts de dangers et de problèmes potentiels. Des chercheurs travaillant dans un large éventail d'institutions ont récemment mis en lumière un problème potentiel alarmant pouvant être causé par des IA telles que ChatGPT : elles pourraient augmenter la quantité de désinformation en ligne.

L'utilisation de robots conversationnels d'IA pourrait permettre aux acteurs malveillants de créer de fausses informations de manière beaucoup plus rentable. Ces chatbots peuvent également être utilisés pour que la désinformation soit de meilleure qualité. Ils peuvent personnaliser les différents types de campagnes de désinformation qui circulent, ce qui les rend beaucoup plus difficiles à repérer et à démanteler pour les chercheurs.

Il convient de préciser que ce ne sera pas la première fois que les chatbots seront utilisés à des fins aussi néfastes. Cependant, ils n'ont jamais été aussi puissants auparavant, le contenu qu'ils généraient étant souvent truffé d'erreurs de syntaxe, de fautes de frappe et d'autres problèmes qui rendaient ce qu'ils essayaient d'accomplir terriblement évident.


Des personas générés par l'IA ont déjà été observés dans des campagnes de désinformation menées dans le monde entier. Des technologies comme ChatGPT peuvent être utilisées pour créer des fausses nouvelles convaincantes en quelques secondes, et le contenu ne comportera pas les mêmes types d'erreurs qui le rendraient si facile à analyser.

Tout cela semble indiquer que ChatGPT et d'autres chatbots IA de ce type devront être perfectionnés afin de les rendre sûrs. Il est important de mettre en place des filtres, car c'est le genre de chose qui pourrait potentiellement empêcher les acteurs malveillants de les utiliser pour mener leurs campagnes en ligne.

Open AI a lancé un outil qui peut aider les gens à discerner si un contenu est généré par l'IA ou non. Ce sera un outil crucial dans la lutte contre la désinformation qui est en cours.

Source : Article de recherche (PDF)

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous que les conclusions formulées par ces chercheurs sont pertinentes ou crédibles ?
Quel est votre ressenti concernant les chatbots d'IA ? Selon vous, comment devrait-on encadrer leurs usages pour qu'ils soient plus sûrs ?

Voir aussi :

L'IA peut maintenant écrire de la désinformation pour tromper les lecteurs, des chercheurs ont utilisé le générateur de texte GPT-3 pour écrire des tweets que les gens ont trouvés convaincants
Un système d'IA pourrait aider à contrer la propagation de la désinformation avec une précision de 96 %, grâce à un mécanisme qui détecte les comptes de médias sociaux à l'origine de ces campagnes
Le gouvernement US développe une technologie d'IA pour démasquer les écrivains anonymes, évoquant entre autres « le suivi des campagnes de désinformation et d'autres activités malveillantes en ligne »

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de escartefigue
Modérateur https://www.developpez.com
Le 16/02/2023 à 9:00
Trump détient la palme d'or du mensonge :

Voir par exemple ici :
https://www.europe1.fr/international...mandat-4021012

Personne ne lui arrive à la cheville, ça force le respect !
6  0 
Avatar de escartefigue
Modérateur https://www.developpez.com
Le 15/02/2023 à 9:28
Citation Envoyé par Madmac Voir le message
En pratique, ils ont créé un super-menteur artificiel.
Donald Trump va porter plainte pour plagiat ?
5  0 
Avatar de escartefigue
Modérateur https://www.developpez.com
Le 06/03/2023 à 8:59
Madmac, même le patron de Fox News, chaîne pourtant inféodée aux conservateurs Américains, a récemment admis avoir propagé les mensonges de Donald Trump. Votre crédibilité est inversement proportionnelle à votre entêtement à nier l'évidence.
5  0 
Avatar de escartefigue
Modérateur https://www.developpez.com
Le 27/02/2023 à 8:49
Malheureusement pour les indécrottables trumpistes, les mensonges de l'ex-président ne sont pas dénoncés que par les journalistes français,

Les canadiens aussi on relevé la frénésie de mensonges du milliardaire psychopathe

Voir ici : https://www.journaldemontreal.com/20...naces-de-trump
ou encore là : https://pol.umontreal.ca/departement...pierre-martin/
et là : https://ici.radio-canada.ca/nouvelle...e-republicains

Les journaliste des États-Unis également, bien entendu

Voir ici : https://www.huffingtonpost.fr/intern...us_161822.html
ou ici : https://www.bfmtv.com/international/...801130006.html

Ce ne sont pas les sources qui manquent, mais nul n'est plus aveugle que celui qui ne veut pas voir.
4  0 
Avatar de escartefigue
Modérateur https://www.developpez.com
Le 01/03/2023 à 8:51
@Madmac : modifier les propos d'autrui est à la fois déloyal et symptomatique d'une personne à cours d'arguments, par ailleurs, si vous pensez être mieux informés que les journalistes dont c'est le métier, c'est que vous avez les chevilles qui enflent !
4  0 
Avatar de Delias
Modérateur https://www.developpez.com
Le 01/03/2023 à 19:05
Les citations sont réattribuées à leur auteur et contextualisées, la compréhension en sera meilleure. C'est dans le premier article mis en lien par escartefigue.
4  0 
Avatar de escartefigue
Modérateur https://www.developpez.com
Le 07/03/2023 à 7:45
Il faut arrêter de lire la presse complotiste Madmac, ça nuit gravement à la santé et au pouvoir de discernement
4  0 
Avatar de Madmac
Membre extrêmement actif https://www.developpez.com
Le 14/02/2023 à 23:04
Citation Envoyé par Anselme45 Voir le message
Magnifique! Extraordinaire! Quelle prouesse technologique!
C'est une dangereuse prouesse. Mais ici ce que tu dois savoir est que la traduction n'est pas exact avec l'adjectif "convaincant". Remplace le terme par "qui semble plus digne de confiance qu'un humain".

En pratique, ils ont créé un super-menteur artificiel. Imagine le potentiel pour l'écriture de discour politique. Grace à tes tweets, il est en mesure de déterminer comment paraître être une personne qui te ressemble pour mieux te convaincre.
1  1 
Avatar de Madmac
Membre extrêmement actif https://www.developpez.com
Le 19/03/2023 à 3:54
Citation Envoyé par escartefigue Voir le message
Il faut arrêter de lire la presse complotiste Madmac, ça nuit gravement à la santé et au pouvoir de discernement
La différence entre un complot et un fait , C'est environ 6 mois de différence.
0  1 
Avatar de Madmac
Membre extrêmement actif https://www.developpez.com
Le 25/02/2023 à 17:59
Citation Envoyé par escartefigue Voir le message
Trump détient la palme d'or du mensonge :

Voir par exemple ici :
https://www.europe1.fr/international...mandat-4021012

Personne ne lui arrive à la cheville, ça force le respect !
Assez malhonnête comme procédé. Cité un nombre ridicule, sans même cité un seul "mensonge".

Les journalistes français sont toujours aussi merdique. Et en décalage sur la réalité. Trump est un des rare politiciens à respecté ses promesses électorales. Par exemple, le mur aurait été complètement terminé si les Démocrates n'avaient bloqué le financement.
1  5