Un scandale provoqué par des deepfakes sexuellement explicites générés par l'IA entraîne la fermeture d'une école en Pennsylvanie,

Les défis liés à la technologie deepfake exacerbés par l'IA générative

Un élève de la Lancaster Country Day School, en Pennsylvanie, a utilisé l'IA pour créer des images sexuellement explicites d'environ 50 camarades de classe. La diffusion des photos et l'inaction présumée des responsables de l'école ont suscité un tollé dans la communauté et rendu les parents furieux. Le scandale a entraîné la démission du directeur de l'école et celle de la présidente du conseil scolaire, ainsi que l'annulation des cours et la fermeture temporaire de l'établissement. Les parents d'élève menacent toujours de poursuivre l'école, soulignant que les deepfakes explicites constituent la nouvelle réalité terrifiante à laquelle les adolescents sont confrontés.

La diffusion de deepfakes générés par l'IA secoue une école en Pennsylvanie

L'essor de l'IA générative a rendu la technologie deepfake plus accessible et plus facile d'utilisation. N'importe quelle personne peut désormais créer des deepfakes réalistes et les diffuser dans la nature. Cet état de choses a favorisé ces dernières années la prolifération des deepfakes sexuellement explicites (ou photos de nu) générés par l'IA, portant ainsi préjudice aux victimes. C'est ce qui est arrivé à la Lancaster Country Day School, une école basée en Pennsylvanie.

Selon le récit, un seul élève a utilisé l'IA pour créer des images sexuellement explicites de près de 50 camarades de classe l'année dernière. L'incident aurait été signalé pour la première fois au directeur de l'école, Matt Micciche, en novembre 2023 par le biais d'un système d'alerte anonyme. Cela dit, Matt Micciche n'a rien fait, permettant ainsi que d'autres élèves soient ciblés pendant de nombreux mois, jusqu'à ce que la police soit mise au courant au mois de mai 2024.


Les policiers ont arrêté en août 2024 l'élève accusé d'avoir créé le contenu préjudiciable. Le téléphone de l'élève a été saisi pendant que les policiers enquêtaient sur l'origine des photos générées par l'IA. Mais cette arrestation n'a pas suffi à rendre justice aux parents choqués par le fait que l'école n'a pas respecté les obligations de signalement obligatoire en cas de soupçon de maltraitance d'enfant. Ils ont déposé une assignation en justice au début de ce mois.

Ils menacent d'intenter une action en justice si les dirigeants de l'école responsables de la mauvaise gestion de l'affaire ne démissionnent pas dans les 48 heures. La tactique a réussi à pousser le directeur Matt Micciche et la présidente du conseil scolaire, Angela Ang-Alhadeff, à démissionner le vendredi 15 novembre 2024 en fin de journée. La Lancaster Country Day School a déclaré dans un communiqué de presse qu'elle apporte « tout son soutien à la communauté ».

Dans un message envoyé aux parents d'élève et transmis à un journaliste, le conseil d'administration de l'école déclare notamment : « après une longue réflexion et une discussion approfondie sur ce qui est dans le meilleur intérêt de notre école, la décision a été prise de se séparer du directeur de l'école, Matt Micciche. En outre, notre présidente, Angela Ang-Alhadeff, a décidé de se retirer de son rôle et de ses fonctions au sein du conseil scolaire ».

Mais les parents ne semblent pas prêts à abandonner les poursuites, car les dirigeants de l'école ont apparemment traîné les pieds et ont démissionné deux jours après la date limite. L'avocat des parents, Matthew Faranda-Diedrich, a déclaré que « l'action en justice serait maintenue malgré les changements de direction ».

Le scandale a entraîné la fermeture temporaire de la Lancaster Country Day School. Les cours ont été annulés le lundi 18 novembre 2024 à la suite de la démission de Matt Micciche et Angela Ang-Alhadeff. Les médias locaux ont rapporté que les cours ont repris le mardi 19 novembre 2024.

Des enfants retirés de l'école pour protester contre la gestion des événements

Ni les élèves ni leurs parents n'ont été satisfaits de la manière dont le conseil scolaire a géré la situation. Au début du mois, des centaines de lycéens auraient quitté l'établissement en signe de protestation. De son côté, la direction de l'école a voulu rassurer la communauté en promettant des améliorations dans la gestion de crise, le signalement et le traitement de ce type d'incident, ainsi que d'autres changements, mais cela n'a pas suffi à calmer la situation.


Selon les médias locaux, les élèves ne semblent pas vouloir laisser passer l'incident sans prendre d'autres mesures pour aider les filles à se sentir en sécurité à l'école. Ils ont rapporté que plus de la moitié de l'école a débrayé la semaine dernière, ce qui a entraîné l'annulation des cours. Les élèves et certains membres du corps enseignant de l'établissement réclament en effet la démission d'autres cadres de la direction et des changements supplémentaires.

Avant son départ, Matt Micciche a déclaré dans un communiqué : « nos élèves ont légitimement fait entendre leur voix aujourd'hui pour exprimer leur inquiétude et leur frustration face à la réponse de l'école à la situation concernant les deepfakes sexuellement explicites. Beaucoup d'entre eux sont convaincus que nous n'avons pas été aussi ouverts et communicatifs que nous le pouvions, ce qui ne fait qu'ajouter à leur douleur ». Il a annoncé des changements.

« Nous travaillerons avec nos étudiants pour trouver une solution qui favorise la guérison et nous nous laisserons guider par ce qu'ils nous diront », a-t-il ajouté. Mais les commentaires de Matt Micciche sont restés lettre morte. Dans le cadre de l'enquête de la police, un mandat de perquisition a été utilisé cet été pour obtenir un iPhone 11 lié à un adolescent de 15 ans accusé d'être à l'origine des images explicites. Les documents judiciaires n'identifient pas l'adolescent.

Le scandale de la Lancaster Country Day School est le dernier en date d'une longue série d'incidents similaires survenus aux États-Unis au cours des deux dernières années. Les fausses images sexuellement explicites générées par l'IA sont rapidement devenues le nouveau visage de l'intimidation et du harcèlement, grâce à l'émergence d'applications pour smartphones faciles à utiliser et capables de générer des nus hautement réalistes en quelques instants.

Créer des cadres juridiques afin de lutter contre les deepfakes générés par l'IA

Aux États-Unis, les autorités fédérales vérifient actuellement si les lois existantes protégeant les enfants contre les abus sont suffisantes pour les protéger des méfaits de l'IA. Des législateurs proposent également des lois pour lutter contre la prolifération de ce type spécifique de contenu préjudiciable en ligne. Certaines propositions de loi visent à criminaliser non seulement la création d'images explicites à l'aide de l'IA, mais aussi le partage de contenus préjudiciables.

Selon un projet de loi, toute personne partageant de la pornographie deepfake sans le consentement d'un individu s'expose à des dommages-intérêts pouvant aller jusqu'à 150 000 $ et à une peine d'emprisonnement pouvant aller jusqu'à 10 ans si le partage des images facilite la violence ou a un impact sur les procédures d'une agence gouvernementale. Cela dit, ces propositions ont été bloquées, car des enfants de 12 ou 13 ans risquent toujours d'en être victimes.


En mai 2024, les autorités fédérales ont arrêté un ingénieur logiciel accusé d'avoir utilisé du matériel pédopornographique ([URL="https://droit.developpez.com/actu/3...