IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Craignez-vous que l'information ne soit plus du tout fiable sur Internet à cause de l'intelligence artificielle ?
Vers une ère de désinformation sans précédent à cause des chatbots et deepfakes ?

Le , par Patrick Ruiz

6PARTAGES

18  0 
Craignez-vous que l’information ne soit plus du tout fiable sur Internet à cause de l’intelligence artificielle ?
Vers une ère de désinformation sans précédent à cause des chatbots et deepfakes ?

Les chatbots représentent un nouveau tournant passionnant en matière de technologie. ChatGPT d’OpenAI par exemple est capable de réussir un examen de codage pour un ingénieur de niveau 3 chez Google. Si la créativité humaine n’y est pas encore, cette technologie peut aider à revoir à la hausse la productivité d’une équipe de développement informatique. Par contre, rendue à ce stade de son évolution, elle attire déjà l’attention en matière de désinformation en ligne. En effet, des chatbots comme ChatGPT peuvent être utilisés pour diffuser des contenus réalistes mais faux. Illustration avec les cas ChatGPT d’OpenAI et Bard de Google.


En fait, la situation est telle que des pionniers de l’apprentissage profond quittent leurs emplois pour être libres de parler des dangers de l’intelligence artificielle dont la désinformation.


Google Bard contre ChatGPT et les dangers en lien avec la qualité de l’information

Ce qu’on sait de ces intelligences artificielles d’OpenAI et de Google est qu’il s’agit de chatbots capable de générer des réponses à des questions, de compléter des phrases, de traduire des textes, d'écrire des articles et de tenir des conversations avec des humains. Ils peuvent donner de façon directe des solutions à des problèmes complexes. C’est la raison pour laquelle certaines institutions universitaires en interdisent l’usage à leurs étudiants. Le professeur Arvind Narayanan de l’université de Princeton tire néanmoins la sonnette d’alarme sur la pertinence de s’appuyer sur des moteurs de recherche intégrant ces chatbots en déclarant que c’est de la « poudre de perlimpinpin. »

« Sayash Kapoor et moi-même l'appelons un générateur de conneries, comme d'autres l'ont aussi fait. Nous n'entendons pas cela dans un sens normatif mais dans un sens relativement précis. Nous voulons dire qu'il est entraîné à produire des textes plausibles. Il est très bon pour être persuasif, mais il n'est pas entraîné à produire des déclarations vraies. Il produit souvent des affirmations vraies comme effet secondaire de sa plausibilité et de sa persuasion, mais ce n'est pas son objectif.

Cela correspond en fait à ce que le philosophe Harry Frankfurt a appelé connerie, c'est-à-dire un discours destiné à persuader sans se soucier de la vérité. Un conteur humain ne se soucie pas de savoir si ce qu'il dit est vrai ou non ; il a certaines fins en tête. Tant qu'il persuade, ces objectifs sont atteints. En fait, c'est ce que fait ChatGPT. Il essaie d'être persuasif et il n'a aucun moyen de savoir avec certitude si les déclarations qu'il fait sont vraies ou non », déclare-t-il à propos de ChatGPT.

D’ailleurs, une mouture de Microsoft Bing a affiché 2,5 milliards de personnes en réponse à la question de savoir quelle est la population de la planète Mars. La situation soulève la question de savoir si la montée en puissance de l’intelligence artificielle ne va pas plutôt amener les humains à travailler plus dur pour lutter contre la désinformation.


Un GIF partagé par Google montre Bard répondant à la question : « De quelles nouvelles découvertes du télescope spatial James Webb puis-je parler à mon enfant de 9 ans ? » Bard propose une liste à puces de trois éléments, parmi lesquels un élément indiquant que le télescope « a pris les toutes premières images d'une planète en dehors de notre propre système solaire. »


Cependant, un certain nombre d'astronomes sur Twitter ont souligné que c'était incorrect et que la première image d'une exoplanète avait été prise en 2004 - comme indiqué sur le site Web de la NASA (voir en source) : « Ce n'est pas pour faire mon connard (en fait, si finalement) et je suis sûr que Bard sera impressionnant, mais pour mémoire : JWST n'a pas pris 'la toute première image d'une planète en dehors de notre système solaire' », a tweeté l'astrophysicien Grant Tremblay.


C’est cette imprécision qui a poussé les développeurs et les experts de la filière à avertir que cette technologie ne devrait pas être utilisée pour prendre des décisions importantes pour le moment.

Et vous ?

Craignez-vous que l’information sur Internet ne soit plus du tout fiable à cause de l’intelligence artificielle ?
Partagez-vous l'avis des internautes qui pensent que l'information sur Internet était déjà douteuse avant la montée en puissance de l'intelligence artificielle ? Pour quelles raisons ?

Voir aussi :

L'IA de génération de texte d'Elon Musk trop dangereuse pour être rendue publique, selon ses créateurs
Le projet de tunnel du milliardaire de la tech Elon Musk est-il une vaste blague ? The Boring Company a inauguré son premier tunnel anti-bouchons
Neuralink, le projet d'Elon Musk pour qu'un cerveau humain interagisse directement avec un PC et l'Homme fusionne avec l'IA, aberration ou fiction ?
Elon Musk rappelle qu'en rendant publics les brevets Tesla, il a œuvré pour le bien de la planète et l'essor du marché des véhicules électriques

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de daerlnaxe
Membre éprouvé https://www.developpez.com
Le 12/08/2023 à 13:57
Le net est déjà défiguré de mon point de vue:
- Les gros Réseaux sociaux qui ont attiré du monde en masse, un net qui ne sert plus pour l'information, l'éducation mais faire du pognon.
- La qualité en a souffert affreusement, outre les centres d'intérêts limités, même pour avoir des informations sur du code, c'est la croix et la bannière à cause de site montés exprès pour faire du fric, qui vont reprendre tout ce qu'il faut pour monter en tête sur les moteurs... duck duck go en a pris un coup dans l'aile, c'est rare de chopper quelque chose de pertinent, google s'en sort maintenant mieux que lui. Ces sites sont pauvres en information quand ce n'est pas erroné, c'est généré de manière procédurale, ça se sent... Et c'est un long pavé dans lequel sera noyée une bribe d'information. Du genre mais à quoi sert donc la fonction Write-Host de Powershell, le tout étalé sur des dizaines de lignes. Enfin vous voyez.

Et pour finir, par contre... et j'avoue jubiler. StackOverFlow se pète la gueule car sa communauté est tout simplement toxique. Ils ont foutu un système de downvote, il suffit de poser une question très pointue pour que tous ceux qui ne la comprennent pas downvote et on se fait allumer. J'ai un excellent exemple avec protobuf 3, ça venait à peine de sortir, ici (désolé j'ai oublié son nom, il a un avatar avec un bouc) m'a beaucoup aidé à avancer et quand j'ai pu aller plus loin grâce à tout le temps que j'avais pour programmer de manière libre, je lui ai communiqué ce que j'avais pu faire. C'est quelque chose qui me parait naturel. Là bas j'ai posé une question relativement pointue car je devais en fait avoir des plugins sur ma partie serveur, aptes à communiquer avec des plugins sur la partie client et ceci de manière assez souple... rien de prévu à l'avance en fait. J'ai pris 4 downvote avec des réponses.. de merde.. où l'on me renvoyait vers comment utiliser en version simple client/serveur protobuf. Sauf que ça n'était pas ma question, je savais le faire, et là ça ne collait pas du tout... C'est finalement au bout de plusieurs jours, je me demande si je m'étais pas fait BL pour avoir OSER posé cette question, qu'un mec des pays du nord m'a répondu, un gars comme moi avec très peu de "notoriété".

"Bizarrement" je suis sûr que Code Project ne va pas sentir grand chose en comparaison... La communauté est géniale, un débutant aura des réponses avec beaucoup de bienveillance, ce qui est totalement normal. Ah et j'oubliais, c'est au nom de la pertinence qu'on te fous du downvote capable de te blacklister... Parce que là bas comme le site l'indique bien, poster n'est pas un droit. T'as le droit de fermer ta gueule, de toute manière quandun modo arbitre il regarde combien tu as de notoriété et va toujours dans le sens du mec qui a la meilleure même s'il est toxique comme pas permis. J4ai même compris comment gagner de cette notoriété, en fait faire quelque chose de très bateau et attendre que ça grimpe, c'est le temps qui déverrouille tes droits.. Mais bref, tu trouves du code de 10 ans qui ne fonctionnera pas mais si tu poses la question pour la dernière version du langage/framework tu prendras quand même un downvote.

Donc franchement si le site crève, tant mieux, là en effet une IA ne pourra jamais faire pire qu'eux.
7  0 
Avatar de jmv
Membre confirmé https://www.developpez.com
Le 15/06/2023 à 0:03
Citation Envoyé par Patrick Ruiz Voir le message

Et vous ?
Craignez-vous que l’information sur Internet ne soit plus du tout fiable à cause de l’intelligence artificielle ?
Parce que l'information sur Internet a été fiable un jour ???
4  0 
Avatar de Prox_13
Membre éprouvé https://www.developpez.com
Le 15/06/2023 à 9:47
Citation Envoyé par jmv Voir le message
Parce que l'information sur Internet a été fiable un jour ???
Elle n'a jamais été fiable, mais lorsqu'elle ne l'était pas, c'était plutôt évident. Généralement quelqu'un qui ment finit par se trahir.
Peut-être que ce sera plus compliqué, maintenant que l'IA peut pallier à ces problèmes d'expression.
4  0 
Avatar de Fagus
Membre expert https://www.developpez.com
Le 16/06/2023 à 18:29
Citation Envoyé par jmv Voir le message
Parce que l'information sur Internet a été fiable un jour ???
parce que même en dehors d'internet, on a beaucoup d'informations fiables, non biaisées ou teintées idéologiquement ;-) ?
Même dans les trucs scientifiques, quand c'est ton domaine, de temps en temps, tu te dis "ah tiens, marrant que personne ne s'en soit rendu compte avant la publication", et hors de ton domaine c'est le flou...

Disons que sur internet, ça s'arrange pas. Les fermes de trolls, les spambots, ont pourri les commentaires (lesquels ont souvent été désactivés), alors avec l'IA c'est encore moins cher.
Maintenant avec l'IA, les moteurs de recherche peinent à reconnaître les fermes de contenu, surtout si les sites "ayant pignon sur rue" décident farmer sur une partie de leurs articles avec l'IA.
3  0 
Avatar de chrtophe
Responsable Systèmes https://www.developpez.com
Le 12/08/2023 à 16:19
Ce n'est pas un problème du site mais plutôt de la communauté présente sur le site. Bien sûr, la politique du site peut jouer sur la population y participant (càd sa communauté).

L'IA va être un catalyseur d'un prob latent. Une IA apportera de l’efficacité en terme "calcul", mais aucunement en terme de réflexion, les réponses pourront être bonnes et efficaces ... ou non, mais seront insipides.

Les gens veulent de plus en plus une réponse immédiate, efficace, tout en étant de plus en plus individualiste, ne veulent pas payer pour le service ou pas cher et se plaignent une fois celui-ci nivelé par le bas de la mauvaise qualité de celui-ci.

Il est de plus en plus difficile d'avoir des gens même que l'on paye sur qui ont peut vraiment compter, alors les bénévoles....

Triste évolution des choses.
3  0 
Avatar de daerlnaxe
Membre éprouvé https://www.developpez.com
Le 12/08/2023 à 21:38
Je te rejoins sur un point au niveau de l'IA, je pense aussi que cela va appauvrir, simplement pour ce site ça m'indiffère. Idem pour jeuxvideo.com, ...

Mais pour Stackoverflow ,ils ont choisi de mettre un fonctionnement à coup de like, ici c'est juste pour dire si on est d'accord ou pas, là bas ça conditionne tes questions comme tes réponses, si on veut avoir une idée pratique ce ce que dénonce (entre autres) la série black mirror, c'est parfait comme cas. Et le hic c'est qu'en meublant l'espace et en ayant bien ficelé le site ils arrivent en tête. Pour revenir sur mon avis du net, vu que j'utilise beaucoup et tu dois aussi le faire je pense, les moteurs de recherche... J'ai vu au fil du temps l'appauvrissement généralisé. DEs traducteurs auto qui ramènent n'importe quoi en plus de ce que j'ai décris plus haut... Et surtout, les communautés se sont pas mal vidées, aujourd'hui les gens passent infiniment plus de temps sur des réseaux sociaux de grandes tailles qu'à se regrouper autour d'une passion commune. Du coup l'IA là dedans ne va porter je pense que le coup de grâce.

Pour dire au niveau pertinence j'en suis revenu à quand j'ai commencé sur le net et qu'il n'y avait pas autant de monde (98), j'imagine que toi comme d'autres aussi se souviennent.
3  0 
Avatar de chrtophe
Responsable Systèmes https://www.developpez.com
Le 12/09/2024 à 20:53
Des fois je regardes la télé, c'est chiant. Des fois je l'allumes, c'est pire
Patrick Timsit.
3  0 
Avatar de ciola
Membre du Club https://www.developpez.com
Le 15/06/2023 à 1:51
D'après ce que j'ai lu sur les Large Language Models, malgré les apparences, ces IA ne comprennent rien du tout à ce qu'elles lisent, ni à ce qu'elles écrivent. Il ne s'agit pour l'instant que d'un plagiat des productions humaines grâce aux fréquence d'apparition de certains mots.
2  0 
Avatar de Artemus24
Expert éminent sénior https://www.developpez.com
Le 22/08/2023 à 13:01
Salut à tous.

Craignez-vous que l’information sur Internet ne soit plus du tout fiable à cause de l’intelligence artificielle ?
Comment savoir qu'une information est fiable ?
Quand on cherche un mot dans un dictionnaire, on sait qu'il y a des linguistes, des lexicographes dont le métier est de décrire les différents usages de la langue et de rédiger des dictionnaires, comme le petit Robert ou encore le Larousse.

Mais sur internet, aucune vérificaion, même si l'information est approuvée par des millions d'internautes, elle peut tout simplement être fausse.

Il ne faut faire confiance à personne, surtout pas à une machine et toujours vérifier l'information que l'on nous impose comme étant une soi-disant vérité.

Partagez-vous l'avis des internautes qui pensent que l'information sur Internet était déjà douteuse avant la montée en puissance de l'intelligence artificielle ? Pour quelles raisons ?
Les informations sont plus que douteuses car elles sont émises par des personnes qui donnent leur opinion et ne sont pas étayées par des preuves.

Les didacticiels en sont un exemple. Quelqu'un donne la recette pour configurer un logiciel puis quelques versions plus tard, plus rien ne fonctionne. Autrement dit, ces informations sont éphémères alors que leur site reste présent durant encore des années.

L'intelligence artificiel a déjà le mérite de vous répondre mais en aucune façon, vous devez vous reposer sur qui que ce soit car vous devez faire votre propre jugement et non reprendre à votre compte ce que d'autres disent, sans l'avoir vérifier ou expérimenter par vous même aupréalable.

Quels peuvent être les impacts sociaux, éthiques et juridiques de la production de contenu par l’IA ?
Un éclatement de la société ! Entre ceux qui vont continuer à croire dans le dieu Internet et ceux qui font devenir allergique à sa domination.

Quelles mesures peuvent prendre les plateformes collaboratives pour préserver la qualité et la fiabilité de leur contenu face à l’IA ?
On ne peut pas ! Comment faire confiance quand on n'a aucun critère pour le savoir ? Il suffit de se rendre compte qu'un simple logo comme dans les supermarchés peuvent être détournés de leur fonction première, uniquement dans l'intérêt des producteurs ou je ne sais qui d'autre.

Quelles sont selon vous, les opportunités et les limites de l’IA pour enrichir et diversifier le contenu du web ?
Dans des domaines où son expertise ne sera pas remis en cause. En aucun cas, notre jugement doit reposer sur sa seule expertise, car comme chez un humain, une minuscule erreur que personne ne voit va induire un résultat prometteur alors que tout le projet peut s'avérer catastrophique.

Cordialement.
Artemus24.
@+
0  0 
Avatar de Jules34
Membre émérite https://www.developpez.com
Le 13/09/2024 à 11:27
La télé était nocive mais la elle s'apprête carrément à devenir dangereuse pour les neurones.
0  0