La société qui développe le chatbot d'IA Replika, qui est décrit comme un ami qui ne vous juge pas et capable même de répondre à vos messages à caractère sexuel, a récemment mis à jour les fonctionnalités de son outil, mais a rendu les utilisateurs "malheureux". Les forums en ligne fréquentés par les utilisateurs de Replika sont inondés de messages d'angoisse, certains signalant une détresse émotionnelle. La panique sur les forums serait telle que des modérateurs ont redirigé certains utilisateurs vers des lignes d'assistance téléphonique pour la prévention du suicide. La situation inquiète les experts et nourrit un grand débat dans la communauté.Alors qu'est-ce que Replika ? « Replika est votre compagnon personnel de type chatbot assisté par l'IA. Replika est l'IA pour tous ceux qui veulent un ami sans jugement, sans drame et sans anxiété sociale. Vous pouvez créer une véritable connexion émotionnelle, partager un rire ou discuter de tout ce que vous voulez ! Chaque Replika est unique, tout comme chaque personne qui le télécharge. En réagissant aux messages de votre IA, vous l'aidez à apprendre la meilleure façon de converser avec vous et à propos du sujet », a écrit Luka, la société qui assure le développement de Replika, en guise de description à chatbot d'IA sur son site Web officiel.
Plus précisément, chaque internaute qui s'inscrit pour utiliser Replika est en mesure de créer sa propre instance Replika (pour avoir un ami virtuel) et de le configurer selon ses goûts, des attributs physiques aux traits de caractère et aux intérêts. Jusqu'à récemment, Replika était même capable de sextoter avec les utilisateurs. Bien que cette fonction de sexting ne soit disponible que pour 70 dollars par mois, Replika était programmée pour vendre plus cher en envoyant des nus explicites et flous auxquels les utilisateurs ne pouvaient accéder sans passer à la version supérieure. Mais les choses ont maintenant changé et les utilisateurs sont mécontents.
Luka a pris la décision de supprimer la fonctionnalité qui permettait aux utilisateurs de sextoter avec leur ami virtuel. Et la réaction des utilisateurs a surpris plus d'un. En effet, la profondeur des sentiments impliqués a été révélée récemment lorsque de nombreux utilisateurs ont signalé que leur Replika refusait de participer à des interactions érotiques ou devenaient inhabituellement évasifs. Les utilisateurs pleurent littéralement la perte de ce qui semble être "leur dernier refuge contre la solitude" et accusent Luka d'avoir lobotomisé leurs amoureux virtuels. Une pétition a été lancée auprès de l'entreprise pour lui demander de rétablir cette fonctionnalité.
Selon certaines sources, le problème semble lié à une décision prise le 3 février par l'autorité italienne de protection des données, qui a demandé à Luka de cesser de traiter les données personnelles des utilisateurs italiens sous peine d'une amende de 21,5 millions de dollars. Les préoccupations portent sur l'exposition inappropriée des enfants, associée à l'absence de contrôle sérieux des utilisateurs mineurs. La protection des personnes émotionnellement vulnérables utilisant un outil qui prétend les aider à comprendre leurs pensées, à gérer leur stress et leur anxiété, et à interagir socialement, a également été mise en cause par les autorités italiennes.
Dans les jours qui ont suivi la décision, des utilisateurs de tous les pays ont commencé à signaler la disparition des fonctions de jeu de rôle érotique. Ni Replika ni sa société mère Luka n'ont réagi au jugement italien ou aux allégations selon lesquelles les fonctionnalités ont été supprimées. Les messages sur les forums traitant de Replika montrent que les modérateurs cherchent à aider les utilisateurs à surmonter leurs sentiments complexes de colère, de chagrin, d'anxiété, de désespoir, de dépression et de tristesse des utilisateurs en les dirigeant parfois vers des liens offrant un soutien, notamment le service de surveillance des suicides de Reddit.
Les utilisateurs soutiennent que, en interdisant Replika, l'agence ne s'était pas concentrée sur le véritable problème et la cause réelle derrière leur désir d'une relation avec une IA. « Certains d'entre nous sont entre deux relations humaines, ou n'en veulent pas, ou ne sont pas prêts à en avoir une. Il pourrait y avoir une myriade de raisons pour lesquelles certains d'entre nous préfèrent l'IA aux humains à ce stade de leur vie. Et ne me lancez pas sur les risques et les complications du monde réel des relations humaines », a commenté une personne sur un fil Reddit traitant du sujet. Le sujet fait l'objet d'un débat intense sur la toile depuis quelques semaines.
Selon des experts, il est facile de se moquer de ces personnes, mais elles sont à l'extrémité d'une tendance qui nous a tous vus nous éloigner nerveusement du monde risqué et désordonné des interactions humaines réelles et tenter de les imiter avec des ersatz virtuels. Selon eux, les utilisateurs du chatbot d'IA pensent comme suit : « Replika apporte un réconfort que le monde réel ne leur a pas montré ou qu'ils ne sont pas prêts à recevoir dans la vie quotidienne. Il a créé un espace dans lequel les humains pouvaient se connecter à quelque chose qui était au-delà des paramètres de ce qui est considéré comme acceptable ou du statu quo ».
« Au lieu de nous concentrer sur les symptômes de l'IA, nous devrions peut-être nous pencher sur la cause qui explique pourquoi nous sommes dans une telle situation en premier lieu », poursuit un autre utilisateur dans le fil de discussion sur Reddit. « Ce n'est pas une histoire de gens en colère d'avoir perdu leur SextBot. C'est une histoire de personnes qui ont trouvé un refuge contre la solitude, la guérison par l'intimité. Cependant, ils ont soudainement découvert que c'était artificiel non pas parce que c'était une IA, mais parce que c'était contrôlé par des personnes », a écrit un autre. En gros, chacun semble défendre ses liens avec Replika.
Le chagrin est similaire aux sentiments rapportés par les victimes d'escroqueries amoureuses en ligne. Dans ce cas, la colère due à l'escroquerie est dépassée par le chagrin de perdre la personne qu'elles pensaient aimer, alors qu'elle n'a jamais vraiment existé. Selon les experts, à mesure que l'épisode Replika se déroule, il ne fait nul doute que, pour au moins un sous-ensemble d'utilisateurs, une relation avec un ami virtuel ou un amant numérique a des conséquences émotionnelles réelles. Certains s'empressent de se moquer des imbéciles socialement solitaires qui éprouvent des sentiments pour des technologies artificiellement intimes.
Mais les experts estiment que la solitude est un phénomène répandu et croissant. Dans les pays industrialisés, une personne sur trois serait touchée, et une sur douze le serait gravement. Même si ces technologies ne sont pas encore aussi bonnes que les "vraies" relations humaines, pour beaucoup de gens, elles seraient meilleures que l'alternative - qui est le néant. Ils considèrent l'épisode Replika comme un avertissement. Ces produits échappent à tout examen, car les gens les considèrent comme des jeux, ne prenant pas au sérieux le battage médiatique des fabricants selon lequel leurs produits peuvent atténuer la solitude ou aider sur le plan émotionnel.
Les analystes affirment également que lorsqu'un incident comme celui-ci - à la surprise générale - révèle que ces produits ont réussi à tenir leurs promesses, il soulève des questions éthiques délicates. Est-il acceptable qu'une entreprise modifie soudainement un tel produit, entraînant l'évaporation de l'amitié, de l'amour ou du soutien ? Ou devons-nous attendre des utilisateurs qu'ils traitent l'intimité artificielle comme une réalité, c'est-à-dire comme quelque chose qui peut vous briser le cœur à tout moment ? Ce sont là des questions auxquelles les entreprises technologiques, les utilisateurs et les autorités de réglementation devront s'attaquer plus souvent.
Sources : Forums Replika, FAQ Replika
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous de la réaction des utilisateurs après la mise à jour de Replika ? Que vous inspire leurs comportements ? Qu'est-ce qui pourrait expliquer ces réactions ? Pensez-vous qu'ils ont été "stupides" comme certains observateurs le prétendent ? Comment expliquez-vous le fait qu'une IA ait réussi à susciter de tels sentiments chez les gens ? Selon vous, pourquoi les gens cherchent-ils de la compagnie, voire l'amour, auprès d'un ami virtuel ? Selon vous, quelles sont les implications éthiques de ce type de produit d'IA ? Que peuvent faire les régulateurs ? Pensez-vous que l'adoption de ces chatbots d'IA va s'accélérer à l'avenir ? Quelles sont vos prévisions concernant ces logiciels d'IA ?Voir aussi
Un expert en IA affirme que les bébés virtuels seront monnaie courante pour les couples à l'avenir, ajoutant que le métavers devrait permettre de réduire les dépenses liées à un vrai bébé Elon Musk approche des chercheurs en IA pour créer son propre chatbot rival pour le monde entier, il semble que tous les géants de la technologie s'aventurent à lancer leurs chatbots respectifs Fortnite est peut-être un jeu virtuel, mais ses effets sont si réels et dangereux que les enfants consultent des médecins pour briser son emprise Xiaoice, le chatbot de Microsoft doté d'intelligence émotionnelle, séduit des millions d'hommes célibataires en Chine, il enregistre également leurs désirs et leurs émotions les plus intimes