Un district scolaire de l'Iowa exploite l'IA pour établir des listes de livres potentiellement interdits dans les bibliothèques du district

Selon le Globe Gazette, le conseil scolaire de Mason City, dans l'Iowa, a commencé à exploiter la technologie de l'IA pour établir des listes de livres potentiellement interdits dans les bibliothèques du district avant l'année scolaire 2023/ 2024.


En mai dernier, la législature de l'État, contrôlée par les républicains, a adopté, et le gouverneur Kim Reynolds a ensuite signé, le dossier du Sénat 496 (SF 496), qui a apporté des changements radicaux au programme d'enseignement de l'État. Plus précisément, il limite les livres pouvant être mis à disposition dans les bibliothèques scolaires et les salles de classe, exigeant que les titres soient « adaptés à l'âge » et ne contiennent pas de « descriptions ou de représentations visuelles d'un acte sexuel », conformément au code de l'Iowa 702.17. Mais s'assurer que tous les livres des archives du district respectent ces nouvelles règles devient rapidement une entreprise colossale. « Les bibliothèques de nos classes et de nos écoles possèdent de vastes collections, composées de textes achetés, donnés ou trouvés. Il n'est tout simplement pas possible de lire tous les livres et de les filtrer pour répondre à ces nouvelles exigences », a déclaré Bridgette Exman, surintendante adjointe chargée des programmes scolaires et de l'enseignement au Mason City Community School District, dans un communiqué.

C'est pourquoi le district scolaire de Mason City fait appel à l'intelligence artificielle pour analyser les textes suspects à la recherche d'idées et de descriptions interdites, car il y a tout simplement trop de titres pour que les réviseurs humains puissent les couvrir à eux seuls. Selon le district, une « liste principale » est d'abord établie à partir de « plusieurs sources », en fonction de l'existence ou non de plaintes antérieures concernant le contenu sexuel. Les livres de cette liste sont ensuite scannés par un « logiciel d'intelligence artificielle » - le district ne précise pas quels systèmes seront utilisés - qui indique aux censeurs de l'État s'il y a ou non une représentation du sexe dans le livre. Jusqu'à présent, l'IA a signalé 19 livres à supprimer.

Source : The Globe Gazette

Et vous ?

Que pensez-vous de cette approche ?

Voir aussi :

Des chercheurs font appel à un outil basé sur l'IA pour mettre en quarantaine le discours haineux afin d'éviter de passer par la censure et donner à l'utilisateur plus de contrôle

Des chercheurs ont mis au point Geneva, une IA capable de contourner la censure de l'Internet, en détectant les bogues et les lacunes dans le système de censure

Le concurrent chinois de ChatGPT bannit les utilisateurs qui demandent à l'IA des infos sur Xi Jinping et Winnie l'ourson, comment la Chine censure son chatbot pour éviter les questions gênantes

La Russie lance l'outil de surveillance par l'IA Oculus pour renforcer sa machine de censure, l'IA du Kremlin serait capable de passer au crible jusqu'à 200 000 images et vidéos par jour sur le Web