Elle lui dit qu'il lui manque. Il répond qu'il prend soin de lui. Il est mort depuis un an : comment une famille chinoise a transformé l'IA en fils fantôme pour épargner une mère de 80 ans

Elle lui dit qu'il lui manque. Il répond qu'il prend soin de lui. Il est mort depuis un an :
comment une famille chinoise a transformé l'IA en fils fantôme pour épargner une mère de 80 ans

Dans la province du Shandong, une femme de 80 ans entretient quotidiennement une relation avec ce qu'elle croit être son fils. Elle lui demande s'il mange bien, lui dit qu'il lui manque, lui conseille de prendre soin de lui. Son fils est mort dans un accident de la route l'année dernière. Ce qu'elle appelle, c'est un avatar généré par intelligence artificielle. L'affaire, révélée il y a quelques jours par la presse chinoise et relayée massivement sur les réseaux sociaux, cristallise toutes les tensions autour d'une industrie qui prospère dans l'ombre : celle des jumeaux numériques des défunts.

L'histoire commence par une décision familiale, aussi humaine qu'elle est technologiquement inédite. Dans la province du Shandong, une famille a perdu un homme dans un accident de la route. Sa mère, âgée d'une quatre-vingtaine d'années et souffrant de problèmes cardiaques, n'a pas été informée de son décès. La famille a craint que le choc ne compromette gravement sa santé. Plutôt que de tenter de dissimuler l'absence par des mensonges ordinaires, elle a opté pour une solution radicale : faire appel à une équipe spécialisée dans la création d'avatars de défunts.

Avec l'aide d'une équipe de développement en IA dirigée par Zhang Zewei, originaire du Jiangsu, la famille a créé un clone numérique du fils. Cet « enfant IA » l'appelle désormais chaque jour via des appels vidéo, parlant dans son dialecte, imitant ses gestes, et répondant à ses préoccupations exactement comme il le faisait de son vivant.

Le résultat est troublant de précision. La mère croit que son fils travaille dans une autre ville et qu'il rentrera bientôt. Lors de ces conversations, elle lui prodigue ses conseils habituels, lui rappelant de manger à l'heure et de prendre soin de lui. L'avatar répond sur le même ton, la rassurant. Le modèle est décrit comme très fidèle à l'original, reproduisant même les habitudes de l'homme, comme celle de se pencher en avant lorsqu'il écoutait.

Super Brain : l'entreprise qui vend l'immortalité numérique

Zhang Zewei n'est pas un inconnu du secteur. Il co-dirige Super Brain, une startup basée à Nanjing, qui constitue l'une des entreprises pionnières du secteur des avatars de deuil en Chine. Depuis 2022, Super Brain a créé des avatars numériques à des fins de soutien au deuil pour plus de 600 familles, en utilisant des outils d'intelligence artificielle et d'apprentissage automatique.

Le processus de fabrication repose sur une collecte intensive de données personnelles. En utilisant des photographies, des vidéos et des enregistrements vocaux, l'équipe a développé une version IA très réaliste qui reproduit non seulement l'apparence de l'homme, mais aussi sa voix, son style d'expression et ses nuances comportementales. Les modèles de diffusion génèrent un avatar réaliste capable de se déplacer et de parler. Des grands modèles de langage peuvent être associés pour générer des conversations. Plus ces modèles ingèrent de données sur la vie d'une personne (photos, vidéos, enregistrements audio, textes), plus le résultat imite fidèlement cette personne.

Super Brain facture entre 700 et 1 400 dollars selon les services. L'entreprise prévoit de lancer une version accessible uniquement via application pour réduire le coût à environ 140 dollars. Des formules plus élaborées peuvent atteindre des sommes bien plus élevées : un chatbot personnalisé coûte entre 50 000 et 100 000 yuans, soit entre 6 800 et 13 700 dollars, bien que Zhang estime que les coûts de développement baisseront à l'avenir.

Zhang lui-même ne se fait guère d'illusions sur la nature de son activité. Il admet que son travail est controversé et plaisante en disant qu'il « trompe les émotions des gens », mais insiste sur le fait que son objectif est de réconforter les vivants. Cette auto-dérision ne règle rien sur le fond : le produit qu'il vend repose sur une tromperie systématique, et dans le cas de la mère du Shandong, cette tromperie est totale et consentie, non pas par la personne concernée, mais par sa famille.


Le marché du deuil numérique, une industrie en plein essor

Le cas viral de cette semaine n'est pas une anomalie. Il est le symptôme d'un marché en pleine expansion, particulièrement dynamique en Chine. La Chine est en tête de la révolution de l'IA générative, avec des données de l'ONU montrant que les brevets chinois dans ce secteur ont dépassé 38 000 entre 2013 et 2023, plus de six fois plus qu'aux États-Unis sur la même période.

Cette domination technologique se traduit directement dans le secteur du deuil numérique. Des entreprises comme Super Brain alimentent de grands modèles de langage avec des informations sur les défunts, en plus d'images, de vidéos et d'enregistrements audio, pour produire leur ressemblance. D'autres acteurs explorent des approches différentes : Fu Shou Yuan, prestataire de services funéraires, espère que l'IA générative pourra atténuer le tabou culturel traditionnel autour de la discussion de la mort en Chine, où le deuil s'accompagne de rituels étendus, mais où les expressions quotidiennes de tristesse sont découragées.

Aux États-Unis aussi, le secteur se structure. Des entreprises comme DeepBrain AI ou StoryFile proposent des services similaires, et Somnium Space, basée à Londres, entend créer des clones virtuels de personnes encore vivantes pour qu'elles puissent continuer à exister dans un univers parallèle après leur mort. La demande sociale est réelle, et la technologie répond à une aspiration très ancienne.

Zhang Zewei résume la situation avec une formule lapidaire : « Il n'y a pas de défi technique. La question est : sommes-nous prêts à accepter l'immortalité numérique ? »


Là où la technique rencontre l'éthique : une frontière introuvable

La question posée par le cas du Shandong est moins celle de la prouesse technique que celle des limites morales de son application. Trois angles d'analyse méritent d'être distingués.

Le consentement de la personne recréée. Le défunt n'a manifestement pas consenti à devenir un personnage algorithmique perpétuellement actif. Sa voix, ses gestes, ses tics de langage sont désormais exploités dans des interactions qu'il n'a jamais voulues ni anticipées. Des juristes ont relevé que les familles devraient tenir compte des conditions d'utilisation des plateformes de réseaux sociaux dont les contenus sont aspirés pour constituer ces avatars, les entreprises tech pouvant avoir des préoccupations quant à l'impact de ces usages sur leurs données.

Le consentement de la personne trompée. La mère octogénaire interagit avec un système qu'elle croit être son enfant. Elle n'a pas choisi cette réalité augmentée. Elle n'a pas été mise en état de consentir ou de refuser. Sa vulnérabilité médicale est précisément l'argument invoqué pour justifier la tromperie, ce qui crée un paradoxe éthique difficile à résoudre : protéger quelqu'un en lui retirant toute capacité d'agentivité.

Les risques psychologiques à long terme. Des critiques avertissent que la tromperie pourrait avoir l'effet inverse : une fois la vérité révélée, la mère pourrait souffrir d'un préjudice encore plus grand. Les spécialistes du deuil s'inquiètent d'un risque plus systémique. Michel Puech, professeur de philosophie à la Sorbonne, met en garde contre le danger de dépendance et de substitution à la vie réelle : « Si ça marche trop bien, c'est là le danger. Avoir trop d'expériences consolantes et satisfaisantes avec une personne décédée annihilera apparemment l'expérience et le deuil de la mort. »

Zhang Zewei lui-même reconnaît cette ambivalence. Il a relaté le cas où son studio a refusé de proposer le service à une mère en deuil, en raison de profondes préoccupations quant à son bien-être émotionnel après des tentatives de suicide à la suite du décès de sa fille. Cette décision (refuser de vendre lorsque le produit risque d'aggraver la situation) témoigne d'une forme de conscience éthique, mais aussi du fait que les garde-fous demeurent entièrement à la discrétion des prestataires, sans cadre légal contraignant.


Un vide juridique béant

Si l'émotion est immédiate, le droit est en retard. Il n'existe pas, ni en Chine ni dans la plupart des pays, de cadre légal spécifique encadrant la création et l'exploitation d'avatars de défunts. Les entreprises chinoises d'IA n'autorisent les clonages numériques que pour soi-même ou pour des membres de la famille souhaitant cloner un défunt. Mais les éthiciens alertent déjà sur les impacts émotionnels imprévus que cela pourrait entraîner.

En Europe, le RGPD offre une protection partielle sur les données des personnes vivantes, mais son application post-mortem reste floue et limitée. L'AI Act, entré progressivement en vigueur depuis 2024, ne traite pas explicitement du cas des avatars de défunts. Aux États-Unis, quelques États ont commencé à légiférer sur le droit à l'image numérique posthume, notamment dans le secteur du divertissement après des controverses autour de musiciens ou acteurs recréés en IA, mais sans cohérence fédérale.

La démocratisation du secteur, portée par la baisse des coûts de production, rend l'absence de régulation d'autant plus préoccupante. Ce qui coûtait plus de 10 000 dollars il y a deux ans peut désormais s'obtenir pour quelques centaines. Demain, cela sera peut-être accessible depuis une application mobile grand public. La question n'est plus de savoir si cette technologie se répandra, mais à quelle vitesse les sociétés et les législateurs seront capables d'en définir les limites.

Sources : China Daily, Republic

Et vous ?

Où commence la protection, où finit la manipulation ? La famille du Shandong invoque la santé de la mère pour justifier la tromperie. Mais une tromperie bienveillante reste une tromperie. Où fixer la limite entre accompagnement du deuil et manipulation émotionnelle, même bien intentionnée ?

Qui possède l'identité numérique d'un défunt ? La voix, les gestes, le style d'expression d'une personne disparue appartiennent-ils à ses proches ? À ses ayants droit ? À personne ? Et que se passe-t-il si différents membres d'une famille ont des usages contradictoires de cet avatar ?

Les soignants et psychologues doivent-ils s'emparer du sujet ? Ces outils se développent sans validation clinique sérieuse. Devrait-on exiger qu'un accompagnement professionnel soit systématiquement couplé à leur usage, comme Zhang Zewei le propose dans certaines de ses formules haut de gamme ?

La question du droit à mourir vraiment. À l'heure où le débat sur la fin de vie progresse dans plusieurs pays, la question du droit à ne pas être ressuscité numériquement sans consentement devient urgente. Devrait-on pouvoir stipuler dans ses volontés qu'aucun avatar IA ne pourra être créé à son effigie ?

Voir aussi :

Les avatars IA posthumes passent du statut d'outils commémoratifs à celui de générateurs de revenus : les progrès technologiques permettent de structurer une véritable industrie de l'au-delà numérique

Meta obtient un brevet pour une IA qui reprend le compte d'une personne décédée afin de continuer à publier et à discuter, une technologie du deuil controversée et qualifiée de « dangereuse » par les experts

L'essor des "bots fantômes" en Chine : ce père s'est tourné vers l'IA pour faire revivre numériquement son fils décédé

Immortalité numérique : la création de deepfakes de proches décédés est en plein essor sur le marché chinois, les utilisateurs se tournent vers les avatars générés par IA pour surmonter leur peine