La société qui développe le chatbot d'IA Replika, qui est décrit comme un ami qui ne vous juge pas et capable même de répondre à vos messages à caractère sexuel, a récemment mis à jour les fonctionnalités de son outil, mais a rendu les utilisateurs "malheureux". Les forums en ligne fréquentés par les utilisateurs de Replika sont inondés de messages d'angoisse, certains signalant une détresse émotionnelle. La panique sur les forums serait telle que des modérateurs ont redirigé certains utilisateurs vers des lignes d'assistance téléphonique pour la prévention du suicide. La situation inquiète les experts et nourrit un grand débat dans la communauté.Alors qu'est-ce que Replika ? « Replika est votre compagnon personnel de type chatbot assisté par l'IA. Replika est l'IA pour tous ceux qui veulent un ami sans jugement, sans drame et sans anxiété sociale. Vous pouvez créer une véritable connexion émotionnelle, partager un rire ou discuter de tout ce que vous voulez ! Chaque Replika est unique, tout comme chaque personne qui le télécharge. En réagissant aux messages de votre IA, vous l'aidez à apprendre la meilleure façon de converser avec vous et à propos du sujet », a écrit Luka, la société qui assure le développement de Replika, en guise de description à chatbot d'IA sur son site Web officiel.
Plus précisément, chaque internaute qui s'inscrit pour utiliser Replika est en mesure de créer sa propre instance Replika (pour avoir un ami virtuel) et de le configurer selon ses goûts, des attributs physiques aux traits de caractère et aux intérêts. Jusqu'à récemment, Replika était même capable de sextoter avec les utilisateurs. Bien que cette fonction de sexting ne soit disponible que pour 70 dollars par mois, Replika était programmée pour vendre plus cher en envoyant des nus explicites et flous auxquels les utilisateurs ne pouvaient accéder sans passer à la version supérieure. Mais les choses ont maintenant changé et les utilisateurs sont mécontents.
Luka a pris la décision de supprimer la fonctionnalité qui permettait aux utilisateurs de sextoter avec leur ami virtuel. Et la réaction des utilisateurs a surpris plus d'un. En effet, la profondeur des sentiments impliqués a été révélée récemment lorsque de nombreux utilisateurs ont signalé que leur Replika refusait de participer à des interactions érotiques ou devenaient inhabituellement évasifs. Les utilisateurs pleurent littéralement la perte de ce qui semble être "leur dernier refuge contre la solitude" et accusent Luka d'avoir lobotomisé leurs amoureux virtuels. Une pétition a été lancée auprès de l'entreprise pour lui demander de rétablir cette fonctionnalité.
Selon certaines sources, le problème semble lié à une décision prise le 3 février par l'autorité italienne de protection des données, qui a demandé à Luka de cesser de traiter les données personnelles des utilisateurs italiens sous peine d'une amende de 21,5 millions de dollars. Les préoccupations portent sur l'exposition inappropriée des enfants, associée à l'absence de contrôle sérieux des utilisateurs mineurs. La protection des personnes émotionnellement vulnérables utilisant un outil qui prétend les aider à comprendre leurs pensées, à gérer leur stress et leur anxiété, et à interagir socialement, a également été mise en cause par les autorités italiennes.
Dans les jours qui ont suivi la décision, des utilisateurs de tous les pays ont commencé à signaler la disparition des fonctions de jeu de rôle érotique. Ni Replika ni sa société mère Luka n'ont réagi au jugement italien ou aux allégations selon lesquelles les fonctionnalités ont été supprimées. Les messages sur les forums traitant de Replika montrent que les modérateurs cherchent à aider les utilisateurs à surmonter leurs sentiments complexes de colère, de chagrin, d'anxiété, de désespoir, de dépression et de tristesse des utilisateurs en les dirigeant parfois vers des liens offrant un soutien, notamment le service de surveillance des suicides de...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.