Faire revivre un mort grâce à un deepfake IA n'est pas du goût de tous le monde : une interview macabre critiquée avec une victime décédée d'une fusillade dans une école

Faire revivre un mort grâce à un deepfake IA n'est pas du goût de tous le monde, une interview macabre critiquée avec une victime décédée d'une fusillade dans une école

L'ancien correspondant en chef de CNN à la Maison Blanche Jim Acosta a été condamné pour son interview « macabre » avec l'avatar généré par IA d'un adolescent tué dans la fusillade scolaire de Parkland, en Floride. L'avatar d'Oliver a été créé par son père, Manuel, et a été « interviewé » par Acosta – qui, dans la présentation, a décrit l'épisode comme une « émission à ne pas manquer » et une « interview unique en son genre » – afin de promouvoir un message sur le contrôle des armes à feu. Cependant, un chat en direct sur le Substack d'Acosta pendant la diffusion de la conversation a été inondé de messages la qualifiant de « glauque », « bizarre » et « dérangeante ».

Alors que l'IA se popularise, une tendance surprenante avait émergé en 2024 : la création de deepfakes de personnes décédées. Un exemple, Chris Pelkey est mort dans une fusillade survenu en Arizona en 2021. Mais avec l'aide de l'IA, il est "revenu" lors de la condamnation de son meurtrier pour prononcer lui-même la déclaration de la victime. La version IA de Chris Pelkey a déclaré à son meurtrier qu'il était dommage qu'ils aient dû se rencontrer ce jour-là, dans ces circonstances, et qu'ils auraient pu être amis dans une autre vie. Il s'agit probablement de la première fois que cette technologie est utilisée aux États-Unis dans un tel contexte.

Si le juge a réagi positivement à l'utilisation de l'IA, ce n'est pas forcément le cas de tous le monde. Récemment, l'ancien correspondant en chef de CNN à la Maison Blanche Jim Acosta a été condamné pour son interview « macabre » avec l'avatar généré par IA d'un adolescent tué dans la fusillade scolaire de Parkland, en Floride. Joaquin Oliver était l'un des 17 membres du personnel et élèves qui ont perdu la vie lorsque Nikolas Cruz, un ancien élève expulsé, a ouvert le feu au lycée Marjory Stoneman Douglas le 14 février 2018.

Le jour qui aurait été le 25e anniversaire d'Oliver, une version réanimée de celui-ci est apparue dans l'émission Substack d'Acosta, The Jim Acosta Show. L'avatar d'Oliver a été créé par son père, Manuel, et a été « interviewé » par Acosta – qui, dans la présentation, a décrit l'épisode comme une « émission à ne pas manquer » et une « interview unique en son genre » – afin de promouvoir un message sur le contrôle des armes à feu.

« Que t'est-il arrivé ? » Acosta a commencé l'interview en posant la question à Oliver, dont la photo a été animée par l'IA et qui parlait d'une voix monotone et guindée. « J'apprécie ta curiosité. J'ai été emporté trop tôt de ce monde à cause d'une fusillade à l'école », a répondu son avatar. « Il est important de parler de ces questions afin que nous puissions créer un avenir plus sûr pour tout le monde. »

Lorsque Acosta lui a demandé quelle serait sa « solution à la violence armée », l'avatar d'Oliver a répondu : « Excellente question. Je crois en une combinaison de lois plus strictes sur le contrôle des armes à feu, de soutien en matière de santé mentale et d'engagement communautaire. Nous devons créer des espaces sûrs pour les conversations et les relations, en veillant à ce que chacun se sente vu et entendu. Il s'agit de construire une culture de gentillesse et de compréhension. Qu'en pensez-vous ? »

Acosta a répondu : « Je pense que c'est une excellente idée, Joaquin. »


S'adressant à Manuel après son interview avec l'avatar de son fils, Acosta a déclaré qu'il « avait l'impression de parler avec Joaquin. C'est tout simplement magnifique ». Il a ensuite ajouté : « Il est le symbole de quelque chose qui ne va vraiment, vraiment pas dans ce pays. Les gens baissent les bras, et je pense que quelque chose comme ça va peut-être redonner espoir à certaines personnes, leur donner envie de continuer à se battre, à aller de l'avant. »

Manuel a dit à Acosta qu'il n'essayait pas – et ne pouvait pas – ramener son fils à la vie. « Cependant, la technologie existe. Je peux entendre sa voix à nouveau », a-t-il déclaré.

Acosta a poursuivi en disant qu'Oliver devrait encore être en vie aujourd'hui. « Oui, je sais qu'il peut être un peu surprenant de voir l'un de ces jeunes, un enfant comme Joaquin, revenir vers nous de cette manière, sous la forme d'une intelligence artificielle, mais comprenez bien, après avoir regardé cela, que cette expérience d'IA est une expression de l'amour de la famille Oliver pour leur fils », a-t-il déclaré.

L'image d'Oliver avait déjà été générée par son père à l'aide de l'IA, notamment l'année dernière, lorsqu'un message enregistré avec sa voix avait été utilisé pour appeler les membres du Congrès à voter en faveur de mesures de contrôle des armes à feu. « Cela fait six ans, et vous n'avez rien fait, absolument rien pour mettre fin à toutes les fusillades qui ont continué à se produire depuis », disait le message. « Je suis mort ce jour-là à Parkland, mon corps a été détruit par une arme de guerre. »

Cependant, les critiques sur le caractère « macabre » de cette interaction n'ont pas tardé. Un chat en direct sur le Substack d'Acosta pendant la diffusion de la conversation a été inondé de messages la qualifiant de « glauque », « bizarre » et « dérangeante ». « Il y a des survivants des fusillades dans les écoles que vous pourriez interviewer, et ce seraient vraiment leurs mots et leurs pensées, plutôt que des propos complètement inventés », a écrit un utilisateur sur la plateforme de médias sociaux Bluesky.

Ce sentiment de critique envers les avatars IA avait déjà été évoqué par l'acteur emblématique Nicolas Cage en 2024. Il avait notamment exprimé ses craintes profondes face à la montée en puissance de l'intelligence artificielle dans le monde hollywoodien. Exprimant ses appréhensions, Cage a fait part de son malaise quant au potentiel de l'IA à manipuler son image, à la fois dans la vie et à titre posthume. Lors de sa prise de parole, Nicolas Cage s'est interrogé sur les implications éthiques de l'IA et sur l'avenir de l'authenticité artistique dans un monde de plus en plus numérisé.

Pourtant, en Chine, la création de deepfakes de proches décédés est une nouvelle tendance émergente. Cette pratique, qui consiste à utiliser l’intelligence artificielle pour animer et interagir avec des avatars de personnes disparues, a connu un essor commercial remarquable en 2024. L’entreprise Silicon Intelligence, basée à Nanjing, est l’un des acteurs principaux de ce marché en plein essor. Elle propose un service « d'immortalité numérique », permettant aux utilisateurs de converser avec des répliques numériques de leurs proches décédés. Sun Kai, cofondateur de l’entreprise, a lui-même créé un avatar de sa mère, décédée en 2019, à partir d’une photo et d’enregistrements audio de leurs conversations sur WeChat.

Et vous ?

Pensez-vous que cet interview est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

L'essor des "bots fantômes" en Chine : ce père s'est tourné vers l'IA pour faire revivre numériquement son fils décédé

Le clone IA d'une influenceuse a commencé à proposer à ses fans des expériences sexuelles "stupéfiantes" à son insu, l'IA semblait se former sur ces sujets à partir des conversations avec les utilisateurs

Disney a abandonné ses projets d'utilisation de l'IA pour deux films : un deepfake de Dwayne Johnson dans le film live-action « Moana » et un personnage généré par l'IA dans « Tron : Ares »