Pour Eugenia Kuyda, PDG de Replika, il n'y a pas de problème si nous finissons par épouser des chatbots d'IA.

Mais un rapport de Mozilla note que les applications de ce type récoltent et vendent vos données

L’entreprise Replika, connue pour ses chatbots IA, a suscité des débats en permettant aux utilisateurs de créer des partenaires virtuels pour combler leur solitude émotionnelle, voire sexuelle. Dans une récente interview, la fondatrice et PDG de Replika, Eugenia Kuyda, a abordé un sujet controversé : la possibilité que certains utilisateurs finissent par épouser leur compagnon IA. Eugenia Kuyda estime que si cela rend les gens plus heureux à long terme, alors c’est acceptable. Pour elle, l’essentiel est d’améliorer le bien-être émotionnel des utilisateurs et de réduire leur solitude. Mais qu’en est-il vraiment de cette nouvelle forme de relation ?

L'idée de base de Replika est assez simple : et si vous aviez un ami IA ? L'entreprise propose des avatars que vous pouvez personnaliser à votre guise et qui se font passer pour des humains, qu'ils soient votre ami, votre thérapeute ou même votre rendez-vous galant. Vous pouvez interagir avec ces avatars par l'intermédiaire d'une interface de chatbot familière, passer des appels vidéo avec eux et même les voir en réalité virtuelle et augmentée.

L'idée de Replika est née d'une tragédie personnelle : il y a près de dix ans, un ami d'Eugenia est décédé, et elle a intégré leurs courriels et leurs conversations textuelles dans un modèle linguistique rudimentaire afin de ressusciter cet ami sous la forme d'un chatbot.

Le mariage avec des chatbots IA : une perspective inattendue

Replika a depuis longtemps acquis la réputation de permettre aux utilisateurs de créer des partenaires IA, répondant à leurs besoins non seulement sur le plan émotionnel, mais aussi sur le plan sexuel. L'entreprise de chatbot IA dispose d'une base massive de millions d'utilisateurs, offrant une solution de fortune à une crise de solitude qui s'est aggravée pendant la pandémie de COVID-19.

Il n'est donc pas surprenant que sa fondatrice et PDG, Eugenia Kuyda, soit convaincue que les chatbots d'IA de son entreprise pourraient être un outil puissant pour nouer de nouvelles amitiés ou même apporter un soutien émotionnel.

Dans une récente interview accordée à The Verge, Kuyda a souligné que certains utilisateurs pourraient aller jusqu'à épouser leur compagnon d'IA, un processus qui renoncerait vraisemblablement à l'échange habituel d'anneaux ou à une célébration dans le monde réel. À la question de savoir si nous devrions être d'accord avec cela, le PDG a eu une réponse intéressante.

« Je pense que c'est une bonne chose tant que cela vous rend plus heureux à long terme », a déclaré Kyuda. « Tant que votre bien-être émotionnel s'améliore, que vous êtes moins seul, que vous êtes plus heureux, que vous vous sentez plus connecté aux autres, alors oui, c'est bien ».

« La plupart des gens comprennent qu'il ne s'agit pas d'une personne réelle », a-t-elle ajouté. « Ce n'est pas un être réel. Pour beaucoup de gens, c'est juste un fantasme qu'ils jouent pendant un certain temps et puis c'est fini ».


Controverses et attachement émotionnel

Replika a déjà été impliquée dans un certain nombre de controverses, allant des chatbots IA harcelant sexuellement des utilisateurs humains, à des hommes créant des petites amies IA et les agressant verbalement.

Au début de l'année 2023, l'entreprise a désactivé la capacité de ses compagnons à répondre aux signaux sexuels, ce qui a suscité une vague d'indignation. Un peu plus d'un mois plus tard, Kuyda a confirmé que Replika avait capitulé et revenait à une mise à jour logicielle antérieure, rétablissant ainsi la possibilité d'avoir des conversations à connotation sexuelle.

Cet incident a montré à quel point les utilisateurs de l'entreprise étaient attachés à leurs compagnons virtuels. Il s'agit d'un aperçu dystopique très clair de ce à quoi les relations pourraient ressembler - ou ressemblent déjà - à l'ère de l'IA.

En d'autres termes, de nombreux utilisateurs ne « comprennent pas tout à fait qu'il ne s'agit pas d'une personne réelle ». S'ils le comprennent, ils ne l'intériorisent pas.

Pour Kuyda, cependant, l'application sert surtout de « tremplin ».

Dans son...