Une nouvelle tendance a émergé en Chine : la création de deepfakes de proches décédés. Cette pratique, qui consiste à utiliser l’intelligence artificielle pour animer et interagir avec des avatars de personnes disparues, connaît un essor commercial remarquable. L’entreprise Silicon Intelligence, basée à Nanjing, est l’un des acteurs principaux de ce marché en plein essor. Elle propose un service « d'immortalité numérique », permettant aux utilisateurs de converser avec des répliques numériques de leurs proches décédés. Sun Kai, cofondateur de l’entreprise, a lui-même créé un avatar de sa mère, décédée en 2019, à partir d’une photo et d’enregistrements audio de leurs conversations sur WeChat.Une fois par semaine, Sun Kai passe un appel vidéo avec sa mère. Il lui parle de son travail, des pressions qu'il subit en tant qu'homme d'âge mûr et de pensées dont il ne parle même pas à sa femme. Sa mère fait parfois un commentaire, lui disant par exemple de prendre soin de lui - il est son seul enfant. Mais la plupart du temps, elle se contente d'écouter.
C'est parce que la mère de Sun est morte il y a cinq ans. Et la personne à qui il parle n'est pas vraiment une personne, mais une réplique numérique qu'il a faite d'elle - une image animée qui peut tenir des conversations de base. Cela fait maintenant quelques années qu'ils se parlent.
Après sa mort soudaine en 2019, Sun a voulu trouver un moyen de maintenir leur connexion. Il s'est donc tourné vers une équipe de Silicon Intelligence, une entreprise d'IA basée à Nanjing, en Chine, qu'il a cofondée en 2017. Il leur a fourni une photo d'elle et des extraits audio de leurs conversations sur WeChat. Alors que l'entreprise se concentrait principalement sur la génération audio, le personnel a passé quatre mois à rechercher des outils synthétiques et a généré un avatar avec les données fournies par Sun. Ce dernier a ensuite pu voir une version numérique de sa mère et lui parler par l'intermédiaire d'une application sur son téléphone.
« Ma mère ne semblait pas très naturelle, mais j'ai quand même entendu les mots qu'elle disait souvent : "As-tu déjà mangé ?" » Sun se souvient de la première interaction. L'IA générative étant une technologie naissante à l'époque, la réplique de sa mère ne pouvait dire que quelques lignes pré-écrites. Mais Sun affirme que c'est ainsi qu'elle était de toute façon. « Elle répétait toujours ces questions, encore et encore, et cela me rendait très émotif quand je l'entendais », dit-il.
Un marché particulièrement dynamique en Chine
Nombreux sont ceux qui, comme Sun, souhaitent utiliser l'IA pour préserver, animer et interagir avec les êtres chers disparus pendant qu'ils font leur deuil et tentent de guérir. Le marché est particulièrement dynamique en Chine, où au moins une demi-douzaine d'entreprises proposent aujourd'hui de telles technologies et où des milliers de personnes ont déjà payé pour en bénéficier. En fait, les avatars sont la manifestation la plus récente d'une tradition culturelle : les Chinois ont toujours trouvé du réconfort en se confiant aux morts.
La technologie n'est pas parfaite - les avatars peuvent encore être rigides et robotiques - mais elle évolue et de plus en plus d'outils sont disponibles auprès d'un plus grand nombre d'entreprises. Par ailleurs, le prix de la « résurrection » d'une personne - également appelée « immortalité numérique » dans l'industrie chinoise - a considérablement baissé. Aujourd'hui, cette technologie devient accessible au grand public.
Certains se demandent si le fait d'interagir avec des répliques d'IA de personnes décédées est réellement une manière saine de faire son deuil, et les implications juridiques et éthiques de cette technologie ne sont pas tout à fait claires. Pour l'instant, l'idée met encore beaucoup de gens mal à l'aise. Mais comme le dit Sima Huapeng, cofondateur et PDG de Silicon Intelligence, « même si seulement 1 % des Chinois acceptent [le clonage des morts par l'IA], cela reste un marché énorme ».
Résurrection par l'IA
Les avatars des morts sont essentiellement des deepfakes : les technologies utilisées pour reproduire une personne vivante et une personne morte ne sont pas intrinsèquement différentes. Les modèles de diffusion génèrent un avatar réaliste qui peut bouger et parler. De grands modèles de langage peuvent être attachés pour générer des conversations. Plus ces modèles ingèrent de données sur la vie d'une personne (photos, vidéos, enregistrements audio et textes), plus le résultat sera proche de cette personne, qu'elle soit morte ou vivante.
La Chine s'est révélée être un marché mûr pour toutes sortes de doubles numériques. Par exemple, le pays dispose d'un secteur du commerce électronique robuste, et les marques de consommation engagent de nombreux « livestreamers » pour vendre leurs produits. Au départ, il s'agissait de personnes réelles, mais de nombreuses marques se tournent vers des influenceurs clonés par l'IA qui peuvent faire des lives 24 heures sur 24 et 7 jours sur 7.
Au cours des trois dernières années seulement, le secteur chinois qui développe des avatars d'IA a rapidement mûri, explique Shen Yang, professeur d'IA et de médias à l'université Tsinghua de Pékin, et les répliques sont passées de vidéos de quelques minutes à des avatars 3D « en direct » capables d'interagir avec les gens.
Selon Sima, cette année a marqué un tournant, le clonage par l'IA devenant abordable pour la plupart des individus. « L'année dernière, il coûtait entre 2 000 et 3 000 dollars, mais aujourd'hui, il ne coûte plus que quelques centaines de dollars. Cela s'explique par la guerre des prix que se livrent les entreprises chinoises spécialisées dans l'IA pour répondre à la demande florissante d'avatars numériques dans d'autres secteurs, tels que le streaming ».
Et des capacités techniques qui se perfectionnent
En fait, la demande d'applications permettant de recréer les morts a également stimulé les capacités des outils qui reproduisent numériquement les vivants.
Silicon Intelligence propose les deux types de services. Lorsque Sun et Sima ont lancé leur entreprise, ils se concentraient sur l'utilisation des technologies de synthèse vocale pour créer des sons et utiliser ensuite ces voix générées par l'IA dans des applications telles que les appels téléphoniques automatiques (robocalls). Mais après avoir reproduit la mère de Sun, l'entreprise s'est orientée vers la création d'avatars réalistes. Cette décision a fait de l'entreprise l'un des principaux acteurs chinois de la création d'influenceurs alimentés par l'IA.
Sa technologie a généré des avatars pour des centaines de milliers de vidéos de type TikTok et de chaînes de streaming, mais M. Sima explique que, plus récemment, un millier de clients l'ont utilisée pour reproduire une personne décédée. Nous avons commencé à travailler sur la « résurrection » en 2019 et 2020", explique-t-il, mais les gens ont d'abord été lents à l'accepter : « Personne ne voulait être le premier à l'adopter.
La qualité des avatars s'est améliorée, dit-il, ce qui a stimulé l'adoption. Lorsque l'avatar est de plus en plus réaliste et qu'il donne moins de réponses qui sortent du cadre, il est plus facile pour les utilisateurs de le considérer comme un membre de leur famille décédé. De plus, l'idée se popularise grâce à la multiplication des représentations à la télévision chinoise.
Aujourd'hui, Silicon Intelligence propose un service de réplication pour un prix compris entre plusieurs centaines et plusieurs milliers de dollars. Le produit le plus basique se présente sous la forme d'un avatar interactif dans une application, et les options supérieures impliquent souvent une personnalisation plus poussée et de meilleurs composants matériels, tels qu'une tablette ou un écran d'affichage. Il existe au moins une poignée d'autres entreprises chinoises qui travaillent sur la même technologie.
Le commerce de ces « deepfakes » s'appuie sur la longue histoire culturelle de la Chine en matière de communication avec les morts
Dans les foyers chinois, il est courant d'afficher le portrait d'un parent décédé pendant les quelques années qui suivent le décès. Zhang Zewei, fondateur d'une société basée à Shanghai appelée Super Brain, explique que lui et son équipe ont voulu réorganiser cette tradition en créant un « cadre photo IA ». Ils créent des avatars d'êtres chers décédés qui sont préchargés sur une tablette Android, qui ressemble à un cadre photo lorsqu'elle est debout. Les clients peuvent choisir une image animée qui prononce des mots tirés d'une base de données hors ligne ou d'un LLM.
« Par essence, ce n'est pas très différent d'un portrait traditionnel, si ce n'est qu'il est interactif », explique Zhang.
Zhang indique que l'entreprise a réalisé des répliques numériques pour plus de 1 000 clients depuis mars 2023 et facture entre 700 et 1 400 dollars, selon le service acheté. L'entreprise prévoit de lancer prochainement une application qui permettra aux utilisateurs d'accéder aux avatars sur leur téléphone, ce qui pourrait réduire encore le coût à environ 140 dollars.
Conclusion
Les deepfakes de proches décédés représentent une avancée technologique fascinante mais aussi controversée. Alors que certains y voient une manière de conserver un lien avec ceux qu’ils ont perdus, d’autres mettent en garde contre les conséquences potentiellement néfastes de ces pratiques sur le processus de deuil. Seul l’avenir nous dira comment cette technologie sera intégrée dans notre société et quelles seront ses répercussions sur notre rapport à la mort et au souvenir.
Source : vidéos
Et vous ?
Quelles sont les implications de la création de deepfakes de personnes décédées ? Est-ce un hommage ou une transgression ? La technologie des deepfakes peut-elle aider à faire le deuil, ou risque-t-elle d’empêcher les gens de passer à autre chose ? Comment devrions-nous réglementer l’utilisation des images et des voix des défunts pour éviter les abus potentiels ? Quel impact ces avatars numériques pourraient-ils avoir sur notre mémoire collective et notre histoire personnelle ? Devrait-il y avoir un consentement préalable de la personne avant sa mort pour l’utilisation de son image et de sa voix dans un deepfake posthume ? Comment la société peut-elle s’assurer que la technologie des deepfakes reste accessible à tous et ne crée pas une élite numérique ? Quelles mesures de soutien psychologique pourraient être mises en place pour ceux qui interagissent avec des deepfakes de proches décédés ?