Le principal du lycée de Pikesville a fait l'objet d'une enquête après qu'un enregistrement censé être sa voix a circulé sur les médias sociaux. La police a inculpé l'ancien directeur sportif qui, selon elle, a falsifié l'enregistrement.La police du comté de Baltimore a arrêté l'ancien directeur sportif du lycée de Pikesville et l'a accusé d'avoir utilisé l'intelligence artificielle pour se faire passer pour le principal Eric Eiswert, laissant croire au public que ce dernier tenait des propos racistes et antisémites à huis clos.
Dazhon Darien, 31 ans, a été inculpé pour avoir perturbé les activités scolaires, après que les enquêteurs ont déterminé que Darien avait imité la voix d'Eiswert et fait circuler l'audio sur les médias sociaux en janvier, selon le bureau du procureur du comté de Baltimore. Le surnom de Darien, DJ, figurait parmi les noms mentionnés dans les clips audio qu'il aurait falsifiés.
"Le clip audio (...) a eu de profondes répercussions", a écrit la police dans les documents d'inculpation. Il a non seulement entraîné le renvoi temporaire d'Eiswert de l'école, mais a également déclenché une vague de messages haineux sur les médias sociaux et de nombreux appels à l'école. L'enregistrement a également causé d'importantes perturbations pour le personnel et les élèves de l'école. Il est également accusé de vol et de représailles à l'encontre d'un témoin, en rapport avec les paiements illicites qu'il aurait versés à un entraîneur sportif de l'école, ainsi que de harcèlement, ont déclaré les procureurs.
Le chef de la police du comté de Baltimore, Robert McCullough, l'exécutif du comté, Johnny Olszewski, et la directrice de l'école, Myriam Rogers, ont annoncé une conférence de presse à pour discuter de l'affaire.
Des propos racistes et antisémites dans l'enregistrement
La voix d'Eiswert, que la police et les experts en intelligence artificielle estiment avoir été simulée, contenait des commentaires désobligeants à l'égard des élèves noirs et de la communauté juive environnante, et a largement circulé sur les médias sociaux.
Des questions sur l'authenticité de l'audio ont rapidement suivi. La police a écrit dans les documents d'inculpation que Darien avait accédé au réseau de l'école à plusieurs reprises en décembre et en janvier à la recherche d'outils OpenAI, et utilisé des "grands modèles de langage" qui pratiquent "l'apprentissage profond, qui implique de tirer de vastes quantités de données de diverses sources sur Internet, peut reconnaître le texte saisi par l'utilisateur et produire des résultats conversationnels." Ils ont également relié Darien à un compte de messagerie qui avait distribué l'enregistrement.
De nombreux étudiants actuels et anciens croient que M. Eiswert est responsable des remarques offensantes, tandis que d'anciens collègues ont dénoncé l'enregistrement et défendu la personnalité de M. Eiswert. Eiswert lui-même a nié avoir fait ces commentaires et a déclaré qu'ils ne correspondaient pas à ses opinions. L'enregistrement, publié sur le compte Instagram populaire murder_ink_bmore, a donné lieu à une enquête des écoles publiques du comté de Baltimore et de la police du comté de Baltimore. Eiswert ne travaille plus dans l'école depuis le début de l'enquête.
La voix fait référence à des "enfants noirs ingrats qui ne peuvent pas tester leur façon de sortir d'un sac en papier" et s'interroge sur la difficulté d'amener ces élèves à répondre aux attentes du niveau scolaire. L'orateur cite des noms de personnes qui semblent être des membres du personnel et dit qu'ils n'auraient pas dû être embauchés et qu'il devrait se débarrasser d'une autre personne "d'une manière ou d'une autre". "Et si je dois encore recevoir une plainte d'un Juif de cette communauté, je rejoindrai l'autre camp", dit la voix.
L'affaire a secoué Pikesville
Darien faisait l'objet d'une enquête depuis décembre dans le cadre d'une enquête pour vol, initiée par Eiswert. La police affirme que Darien avait autorisé un paiement de 1 916 dollars à l'entraîneur de basket-ball de l'école, qui était également son colocataire, sous prétexte qu'il était entraîneur adjoint de football féminin. Ce n'était pas le cas, ont déclaré les responsables de l'école. Eiswert a déterminé que Darien avait soumis le paiement au système de paie de l'école, en contournant les procédures appropriées. Darien a été informé de l'enquête, a déclaré la police.
La police affirme que le clip a été reçu par trois enseignants la nuit avant qu'il ne devienne viral. Le premier était Darien ; un troisième a déclaré avoir reçu le courriel et a ensuite reçu un appel de Darien et de l'enseignante Shaena Ravenell lui disant de vérifier son courriel. Shaena Ravenell a déclaré à la police qu'elle avait transféré l'e-mail sur le téléphone portable d'un élève, "dont elle savait qu'il diffuserait rapidement le message sur divers médias sociaux et dans toute l'école", et qu'elle l'avait également envoyé aux médias et à la NAACP, a indiqué la police. Elle n'a pas mentionné avoir reçu le message de Darien jusqu'à ce qu'elle soit confrontée à son implication. Ravenell n'a pas été inculpée.
Darien et Ravenell ont tous deux présenté leur démission au système scolaire, selon un document du conseil scolaire daté du 16 avril. Les démissions sont datées du 30 juin.
En janvier, M. Rogers, le directeur de l'école, a qualifié les commentaires de "troublants" et de "très offensants et inappropriés à l'égard des étudiants afro-américains, du personnel du lycée de Pikesville et de la communauté juive de Pikesville."
Billy Burke, directeur du Council of Administrative & Supervisory Employee, le syndicat qui représente M. Eiswert, a été le seul responsable à suggérer que l'audio avait été généré par l'intelligence artificielle. M. Burke s'est dit déçu que le public ait présumé de la culpabilité de M. Eiswert. Lors d'une réunion du conseil scolaire en janvier, il a déclaré que le principal avait besoin d'une présence policière à son domicile parce que lui et sa famille avaient été harcelés et menacés. Burke avait également reçu des courriels de harcèlement, avait-il déclaré à l'époque.
La police a déclaré que le personnel de l'accueil de l'école était "inondé d'appels téléphoniques de parents et d'élèves exprimant des inquiétudes et des remarques désobligeantes à l'égard du personnel et des administrateurs de l'école". L'afflux d'appels a rendu difficile le traitement des appels téléphoniques des parents essayant de prendre des dispositions pour leurs enfants et d'autres fonctions de l'école, ont déclaré les responsables à la police. "La direction de l'école a indiqué que le personnel ne se sentait pas en sécurité, ce qui a nécessité une augmentation de la présence policière à l'école pour répondre aux inquiétudes et aux craintes en matière de sécurité", a déclaré la police.
Les enseignants, qui avaient l'impression que l'enregistrement était authentique, "ont exprimé leurs craintes que des dispositifs d'enregistrement aient pu être placés à divers endroits de l'école", a déclaré la police. "La diffusion de l'enregistrement a profondément affecté la confiance entre les enseignants et l'administration", a déclaré la police. "Une personne a indiqué qu'elle avait répondu à des appels téléphoniques sensibles dans son véhicule, sur le parking, au lieu de parler à l'école."
L'enquête de la police confirme que la voix était générée par l'intelligence artificielle
Des experts en détection de faux enregistrements audio et vidéo ont déclaré au journal The Banner en mars qu'il existait des preuves irréfutables que la voix était générée par une intelligence artificielle. Ils ont noté que le ton plat, les bruits de fond inhabituellement propres et l'absence de respiration cohérente ou de pauses étaient des caractéristiques de l'IA. Ils ont également soumis le fichier audio à plusieurs techniques de détection de l'IA, qui ont toutes conclu qu'il s'agissait d'un faux, même s'ils ne pouvaient en être sûrs à 100 %.
La police a également fait appel à l'expertise de deux professeurs familiarisés avec la détection de l'IA pour l'aider dans son enquête. Catalin Grigoras, analyste judiciaire et professeur à l'université du Colorado à Denver, a conclu que "l'enregistrement contenait des traces de contenu généré par l'IA avec une édition humaine après coup, qui ajoutait des bruits de fond pour plus de réalisme", selon les documents d'inculpation. Henry Farid, de l'université de Californie à Berkley, qui est également un expert en analyse médico-légale, a déterminé que "l'enregistrement a été manipulé et que plusieurs enregistrements ont été assemblés", selon les documents.
Les outils de génération de voix par IA sont désormais largement disponibles en ligne, et une seule minute d'enregistrement de la voix d'une personne peut suffire à la simuler avec un outil d'IA à 5 dollars par mois, a rapporté le Nieman Journalism Lab en février. Il existe peu de réglementations pour empêcher les imitations d'IA, appelées "deepfakes", et peu d'auteurs sont poursuivis en justice.
Cindy Sexton, présidente de l'association des enseignants du comté de Baltimore, a déclaré que l'IA devrait préoccuper tout le monde, en particulier les éducateurs. "C'est une chose tellement nouvelle", a-t-elle déclaré. "Il y a tellement d'implications à de nombreux niveaux." Elle ajoute que l'Association nationale de l'éducation s'efforce de répondre aux préoccupations des éducateurs, mais qu'en attendant, elle n'est pas sûre de ce qu'il faut faire d'autre. "Nous devons faire quelque chose en tant que société, mais la grande question est de savoir ce qu'il faut faire", a déclaré Mme Sexton.
Source : Robert McCullough, chef de la police du comté de Baltimore
Et vous ?
Quel est votre avis sur cette affaire ?Voir aussi :
OpenAI affirme pouvoir cloner une voix juste à partir d'un enregistrement audio de 15 secondes, mais juge son outil de clonage de voix trop risqué pour être diffusé à grande échelle La terrifiante escroquerie à l'IA qui utilise la voix de votre proche pour simuler des situations de rançon : comment les cybercriminels se servent des avancées dans le clonage vocal. La FCC juge illégales les voix générées par l'IA dans les appels automatisés : "De mauvais acteurs les utilisent pour extorquer des membres de la famille et désinformer les électeurs"