Une série de documentaires censée présentée de «vrais crimes» a des millions de vues, mais les meurtres sont tous générés par l'IA.

Le YouTubeur se défend, estimant qu'il s'agit d'une forme de divertissement

Une série de documentaires censée présentée de « vrais crimes » a des millions de vues, mais les meurtres sont tous générés par l'IA.
Le YouTubeur se défend, estimant qu'il s'agit d'une forme de divertissement

L’intelligence artificielle envahit Internet et il devient de plus en plus difficile pour les internautes de distinguer le vrai du faux et de ce qui est un mélange étrange et synthétique des deux. La nouvelle frontière de cette tendance bizarre et dystopique a été révélé par l’essor du podcast « True Crime » généré par l’IA qui, comme vous pouvez l’imaginer, n’est pas du tout basé sur la vérité. La chaîne YouTube True Crime Case Files a réussi à accumuler des millions de vues en relatant des crimes qui sont en fait générés par intelligence artificielle. Certaines vidéos de la chaîne ne comptent que quelques centaines de vues. D'autres, en revanche, en comptent des dizaines, voire des centaines de milliers.

Elizabeth Hernandez a découvert ce meurtre vieux de dix ans grâce à une multitude d'informations envoyées à sa rédaction en août de l'année dernière.

Tous ces tuyaux réagissaient à une vidéo YouTube au titre choquant : « L'histoire d'amour secrète du mari avec son beau-fils se termine par un meurtre atroce ». Elle décrivait un crime horrible qui s'était apparemment déroulé à Littleton, dans le Colorado. Près de deux millions de personnes l'ont visionnée.

« Certaines personnes disaient : "Pourquoi le Denver Post n'a-t-il pas couvert cette affaire ?" », a noté Hernandez, journaliste pour le compte de ce média. « Parce que dans la vidéo, on a l'impression qu'il s'agit d'un événement important et pourtant, quand on cherche sur Google, il n'y a pas de couverture ».

La raison de cette absence de couverture lui est apparue très clairement. Dans la vidéo, qui dure 26 minutes, une voix guindée raconte par-dessus des images fixes floues d'un quartier qui ne ressemble vraiment pas à Littleton. Hernandez a appelé plusieurs représentants des forces de l'ordre et a rapidement confirmé ses soupçons. Le meurtre était un faux et la vidéo avait été réalisée à l'aide de l'IA générative.

La vidéo a été téléchargée sur une chaîne YouTube appelée True Crime Case Files. Avant que la chaîne ne soit fermée, elle avait publié plus de 150 vidéos similaires au cours de l'année écoulée. Celle-ci était la plus populaire.


« Je ne suis pas surprise de voir ce genre de choses », a déclaré Casey Fiesler, professeur associé à l'université du Colorado à Boulder, qui fait des recherches et enseigne l'éthique technologique, le droit et la politique de l'internet et les communautés en ligne.

Fiesler a déclaré avoir vu des contenus similaires générés par l'IA et destinés à propager des théories conspirationnistes. « Le vrai crime est un genre qui a beaucoup de sens, de la même manière que les théories du complot, car les gens regardent ce type de contenu », explique Fiesler. « La motivation est l'argent ».

Parmi les autres titres, citons :

• « Sheriff Murdered After Affair With His Secretary Got Exposed » (Shérif assassiné après que sa liaison avec sa secrétaire ait été révélée), 30 000 vues.
• « Wife Secret Affair with Neighbor’s Teenage Daughter Ends in Grisly Murder » (La liaison secrète d'une femme avec la fille adolescente d'un voisin se termine par un meurtre atroce) (34 000 vues).
• « Coach Gives Cheerleader HIV after Secret Affair, Leading to Pregnancy » (L'entraîneur donne le VIH à une pom-pom girl après une liaison secrète, menant à une grossesse) avec 10 000 vues.

Chacune d'entre elles a été réalisée par l'IA et les crimes décrits n'ont pas eu lieu. Sur la page d'accueil de la chaîne ou dans les descriptions des vidéos, rien n'indique le contraire.

Selon l'homme qui dirigeait la page, c'était à dessein.

« Il faut l'appeler "true crime", parce que le true crime est un genre », a indiqué le propriétaire de la chaîne aux médias en décembre. « Je voulais que [les téléspectateurs] se demandent pourquoi [...] ils tiennent tant à ce que ce soit vrai, pourquoi cela leur importe tant que de vraies personnes soient assassinées ».

Il n'est pas la première personne à mentir sur Internet, mais il avait l'impression de mentir d'une toute nouvelle manière. Il avait trouvé son propre créneau dans l'écosystème des vidéos générées par l'IA. Il pensait que les gens ne voudraient pas regarder ses vidéos s'ils savaient qu'elles étaient fausses, et qu'il n'était pas pire que ses concurrents.

« Le vrai crime, c'est du divertissement déguisé en information [...] c'est tout ce qu'il y a à faire », a-t-il déclaré.

Quelle que soit la leçon de morale qu'il prétendait vouloir transmettre, la plupart des commentateurs n'y ont manifestement pas trouvé leur compte.

« Je suis sûr à 100 % que la relation sexuelle entre le beau-père et le beau-fils a commencé bien avant qu'il n'ait 19 ans », peut-on lire dans l'un des principaux commentaires sur la vidéo trouvée par Hernandez. D'autres commentaires, innombrables, émettent tous des hypothèses sur la fausse enquête de police et les faux criminels.


« J'essaie de surdoser le spectateur en matière d'obscénité, de le confronter au fait qu'il semble tellement investi dans l'obscénité de tout cela. La vie secrète des gens, leurs liaisons secrètes qui sont vraiment taboues », a expliqué le YouTubeur. Bien entendu, il gagnait également de l'argent grâce à ces vidéos.

Environ la moitié de chaque vidéo était réalisée à l'aide de ChatGPT ou d'un service d'images d'IA, selon lui. L'autre moitié, l'ossature de l'histoire, les petits détails et les montages, sont entièrement à sa charge. Il réalise généralement une ou deux vidéos par semaine, d'une durée d'environ deux heures et demie chacune, et se présente comme un « cinéaste pour moi », qui profite d'une nouvelle ère de contenu sans avoir besoin d'équipes et de matériel de prise de vue coûteux.

Il n'a pas voulu dire combien ses vidéos lui rapportaient en recettes publicitaires, mais il a déclaré qu'il s'y consacrait à plein temps.

Les intrigues générées par l'IA du YouTuber sont décrites comme des exercices « dérangeants, souvent hypersexuels », apparemment conçus pour attirer les téléspectateurs avec leur folie exagérée. Le YouTuber a déclaré qu'il avait été inspiré pour créer la chaîne après avoir passé beaucoup de temps à regarder Dateline avec sa famille. Il dit s'être rendu compte que ces émissions étaient basées sur une structure très formelle, et que cette structure était facile à régurgiter. À partir de là, il a commencé à expérimenter la création de contenu via ChatGPT. Peu de temps après, il a lancé la chaîne.

« Je l'ai étiquetée comme une parodie de l'IA et elle n'a pas bien marché [...] Je pense que c'est en partie dû au fait que les gens sont tout simplement hostiles à l'IA. Donc, quand ils voient le mot IA, ils sont tout simplement effrayés par ce mot », a déclaré le YouTubeur. Il a ensuite retiré l'avertissement « parodique » et le nombre de vues de sa chaîne a commencé à augmenter.

Si vous rechercher les vidéos mentionnées plus haut, vous tomberez sur un certain nombre d'autres chaînes faisant exactement la même chose. Il s'agit manifestement d'une activité attrayante pour quelqu'un qui cherche à gagner rapidement de l'argent. Les escrocs du web pensent qu'ils peuvent utiliser des plateformes de création de contenu automatisées comme ChatGPT pour exploiter l'économie de l'attention et gagner un peu d'argent.

Il arrive cependant que cela ne soit pas payant. L'année dernière, une émission diffusée sur YouTube a tenté d'utiliser une « émission humoristique spéciale George Carlin » générée par l'IA pour attirer l'attention. L'épisode s'est soldé par un procès intenté par la famille de Carlin et la vidéo a dû être définitivement retirée du web.

« C'est une forme absurde de divertissement »

Voici ce qu'il explique : « En fin de compte, il s'agit d'une forme de divertissement. Les téléspectateurs ne regardent pas ce genre d'émissions pour être informés de choses qui les toucheront personnellement. Ils sont juste là pour se divertir et pour voir un mystère palpitant avec quelques éléments obscurs », a-t-il déclaré.

Et de rajouter : « C'est presque devenu un passe-temps national, comme la tauromachie. Les gens se contentent d'observer passivement et ne se posent même pas la question de savoir pourquoi nous apprécions tant cette violence ».

Le roman policier jouit bien sûr d'une popularité astronomique. Plus de la moitié des Américains déclarent consommer ce genre littéraire sous une forme ou une autre, et le roman policier figure dans trois des dix podcasts les plus populaires d'Apple en 2024.

Ce n'est pas la première fois que l'on entend dire que le genre « true crime » pourrait avoir des problèmes. Selon certains experts, il pourrait revictimiser des personnes qui ont déjà souffert. Il agit de la même manière que les journaux télévisés locaux qui commencent par les crimes les plus sanglants de la nuit, ce qui, d'après les recherches, effraie davantage les téléspectateurs. D'autres experts affirment également que cela influence nos idées sur les crimes courants, les victimes et les enquêteurs ; la façon dont nous voyons le « vrai » mal commis à l'écran détermine la façon dont nous nous attendons à ce qu'il se produise dans la vie réelle.

Le YouTubeur affirme que ce qu'il fait n'est pas pire que les véritables péchés du genre « true crime ». En fait, il affirme que sa version est meilleure parce qu'il n'exploite aucune victime réelle. Les téléspectateurs ont droit à leur litre de sang, il fait ses vidéos - et de l'argent - et personne n'est blessé dans le processus. « Il n'y a vraiment aucune différence entre nous, si ce n'est que [je] n'utilise pas de vraies personnes et leurs souffrances comme moyen de communication », a-t-il déclaré.

Cela ne convient pas à Annie Nichol. Nichol défend les intérêts des victimes à Washington. Sa sœur, Polly Klaas, a été assassinée en 1993 et a fait l'objet de nombreux documentaires, podcasts et adaptations télévisées.

Elle a également beaucoup de problèmes avec les médias spécialisés dans les crimes authentiques. Selon Nichol, ce que fait le YouTubeur n'est pas mieux. « Les victimes sont utilisées de cette manière par les médias et par les créateurs de contenus sur les crimes authentiques », a-t-elle déclaré lors d'une interview. « Notre traumatisme est souvent coopté et exploité à des fins lucratives. Ainsi, quelqu'un qui génère des[/je]...