Un rapport sur l'éducation appelant à une utilisation éthique de l'IA contient plus de 15 sources fictives,

Le tableau tire la sonnette d'alarme sur la désinformation due à l'intelligence artificielle

Un rapport sur l'éducation appelant à une utilisation éthique de l'IA contient plus de 15 sources fictives
Le tableau tire la sonnette d’alarme sur la désinformation due à l’intelligence artificielle

Des rapports font état de ce qu'un important document sur la réforme de l'éducation préparé pour la province canadienne de Terre-Neuve-et-Labrador contient au moins 15 fausses citations générées par une intelligence artificielle. Le contenu du rapport qui appelle pourtant à une utilisation « éthique » de l'intelligence artificielle dans les écoles tire la sonnette d’alarme sur la désinformation due à l’intelligence artificielle.

Publié le 28 août, le document intitulé « Une vision pour l'avenir : transformer et moderniser l'éducation » sert de feuille de route sur dix ans pour moderniser les écoles publiques et les établissements d'enseignement postsecondaire de la province. Ce document de 418 pages, dont la rédaction a pris 18 mois, a été dévoilé par les coprésidentes Anne Burke et Karen Goodnough, toutes deux professeures à la faculté d'éducation de l'Université Memorial, en présence du ministre de l'Éducation, Bernard Davis.

L'une des fausses citations fait référence à un film de l'Office national du film de 2008 intitulé « Schoolyard Games » qui n'existe pas, selon un porte-parole de l'Office. La citation exacte figurerait dans un guide de style de l'université de Victoria, un document qui enseigne aux étudiants comment formater les références à l'aide d'exemples fictifs. Le guide de style avertit dès la première page que « de nombreuses citations dans ce guide sont fictives », ce qui signifie qu'il s'agit d'exemples inventés utilisés uniquement pour illustrer le formatage approprié. Pourtant, quelqu'un (ou un chatbot IA) a copié l'exemple fictif directement dans le rapport sur l'accord sur l'éducation comme s'il s'agissait d'une source réelle.

Aaron Tucker, professeur adjoint à Memorial dont les recherches portent sur l'histoire de l'IA au Canada, a déclaré qu'il n'avait pas pu trouver de nombreuses sources citées dans le rapport, malgré des recherches dans la bibliothèque de l'Université Memorial, d'autres bases de données universitaires et Google. « Je ne sais pas s'il s'agit d'IA, mais la fabrication de sources est un signe révélateur de l'intelligence artificielle », a-t-il déclaré.


Le nombre de sites web et de blogs hébergeant de faux articles générés par l’intelligence artificielle a augmenté de 1150 % depuis avril 2023

C’est ce qui ressort d’une étude de Newsguard : le nombre de sites Web hébergeant de faux articles générés par des intelligences artificielles est en hausse de 1150,51 % depuis avril 2023, ce qui représente une augmentation mensuelle moyenne de 143,81 %.

Plus de 614 pages web différentes proposant des informations et des statistiques faussement produites par la technologie de l'IA continuent à fonctionner de manière très fonctionnelle et sans aucun obstacle. Ces pages ne font l'objet que d'une surveillance humaine minime, voire inexistante, et si l'on considère que ces chiffres ne concernaient que 49 sites web auparavant, il s'agit là d'un bond en avant considérable et inquiétant.

Cette recherche et de nombreuses autres études similaires mettent en lumière le fait que l'avènement des outils d'intelligence artificielle constitue un essor considérable pour ceux qui se livrent à la diffusion de fausses informations ainsi que pour ceux qui disposent de fermes de contenu pour cet acte illégal.


Les meilleurs jours d’Internet semblent être derrière nous. Nous entrons dans l’ère d’un Internet dit « zombie » : il n’est pas mort comme le suggèrent certains partisans de la théorie de l’Internet mort, mais il n’apparaît plus aussi vivant qu’avant l’avènement des outils d’intelligence artificielle qui créent de plus en plus de contenus en lieu et place des humains. Les données à disposition font état de ce que 90 % du contenu en ligne est susceptible d’être généré par l’intelligence artificielle dans les années à venir. Le train est en marche et une constante semble se dégager au fur et à mesure de son avancée : les rapports sur le renforcement de la désinformation en ligne se multiplient.

Microsoft Bing animé par une mise à jour de ChatGPT a affiché 2,5 millions de personnes en réponse à la question de savoir quelle est la population sur la planète Mars, dans le cadre de ses premiers tests. Le nombre de contenus deepfakes augmente à un rythme annuel de 900 %, d’après le Forum économique mondial. La liste de tel exemples peut être étendue à souhaits dans le contexte actuel.

Source : rapport

Et vous ?

Partagez-vous l'avis des internautes qui pensent que l'information sur Internet était déjà douteuse avant la montée en puissance de l'intelligence artificielle ? Pour quelles raisons ?
Est-il possible de se prémunir de toute la désinformation qui a cours en raison de la montée en puissance de l’intelligence artificielle ? Si oui, quels sont les artifices dont vous faites usage pour y parvenir ?

Voir aussi :

L'IA de génération de texte d'Elon Musk trop dangereuse pour être rendue publique, selon ses créateurs
Le projet de tunnel du milliardaire de la tech Elon Musk est-il une vaste blague ? The Boring Company a inauguré son premier tunnel anti-bouchons
Neuralink, le projet d'Elon Musk pour qu'un cerveau humain interagisse directement avec un PC et l'Homme fusionne avec l'IA, aberration ou fiction ?
Elon Musk rappelle qu'en rendant publics les brevets Tesla, il a œuvré pour le bien de la planète et l'essor du marché des véhicules électriques