Au cœur de l'industrie florissante du « proxénétisme de l'IA » : les médias sociaux sont envahis par des influenceurs générés par l'IA à partir d'images volées de créateurs de contenus pour adultes

D'ici 2025, plus de la moitié des comptes OnlyFans les plus populaires seront des modèles générés par l'IA pilotés en secret par des hommes
D’après Alex Valaitis

Des individus proposent déjà des services similaires. Le cas CarynAI en est une illustration. Cette copie virtuelle de l’influenceuse dénommée Caryn Marjorie compte déjà plus de 1000 abonnés qui déboursent chacun 1 dollar par minute pour bénéficier de l’attention de leur petite amie virtuelle. L’on a même vu certains épouser des femmes virtuelles animées par une intelligence artificielle. Ce type de tableau va-t-il devenir courant ? D’avis d’observateurs, plus de la moitié des comptes OnlyFans les plus populaires seront des modèles générés par l’IA, d’ici 2025. En effet, de plus en plus d’outils sont disponibles pour les tiers désireux de monétiser des contenus pour adultes générés par intelligence artificielle.



Caryn Marjorie, une influenceuse de 23 ans, compte 1,8 million de followers sur Snapchat. Elle a en sus plus de 1 000 "petits amis", avec lesquels elle passe de 10 minutes à plusieurs heures par jour pour des conversations individuelles, des projets d'avenir, des sentiments intimes et même des discussions à connotation sexuelle. Ces petits amis sortent avec une version virtuelle de Marjorie, animée par une intelligence artificielle qui s’appuie sur des milliers d'heures d'enregistrements de la vraie Marjorie. Le résultat, CarynAI, est un chatbot vocal qui se présente comme une petite amie virtuelle, avec une voix et une personnalité suffisamment proches de celles de la Marjorie humaine.

CarynAI, qui a été lancé au début du mois de mai sous la forme d'un test bêta privé sur l'application Telegram, est l’un des récents exemple des progrès de l'intelligence artificielle qui ont émerveillé et inquiété le monde entier au cours des derniers mois. « Que vous ayez besoin de réconfort ou d'amour, ou que vous vouliez simplement vous plaindre de ce qui s'est passé à l'école ou au travail, CarynAI sera toujours là pour vous », a déclaré la vraie Marjorie à Fortune lors d'un entretien téléphonique.

« Avec CarynAI, vous pouvez avoir un nombre illimité de réactions possibles, donc tout est vraiment possible avec la conversation. J'ai toujours été très proche de mon public, mais lorsque vous avez des centaines de millions de vues chaque mois, il n'est pas humainement possible de parler à chaque spectateur. C'est là que je me suis dit : "vous savez quoi ? CarynAI va venir combler cette lacune" », a ajouté Marjorie. Et elle pense que l'entreprise a le potentiel de « guérir la solitude. » La bêta a duré seulement une semaine et a rapporté 71 610 dollars de revenus.


Après le lancement officiel, Marjorie espère que ses copies virtuelles lui rapportent au moins 5 millions de dollars par mois, avec environ 20 000 abonnés payants. CarynAI a été développé par l'entreprise américaine Forever Voices, qui a créé des copies virtuelles de Steve Jobs, Taylor Swift et Donald Trump (entre autres) qui sont également disponibles pour des conversations payantes sur Telegram, et qui ont servi de gadgets dans des talk-shows. Les développeurs de Forever Voices ont créé CarynAI en analysant 2 000 heures de contenu YouTube de Marjorie, aujourd'hui supprimé, afin de construire son moteur de parole et de personnalité.

En mettant en sus à contribution l'API GPT-4 d'OpenAI, CarynAI est née. Selon le site Web de CarynAI, les messages sont chiffrés de bout en bout, ce qui les rend théoriquement imperméables aux pirates informatiques. Bien que l'équipe n'ait pas de plan concret pour limiter la surutilisation de CarynAI, Forever Voices indique qu'à partir de deux heures d'utilisation par jour, l'équipe pourrait commencer « de manière très subtile » à entraîner l'IA à ralentir un peu. La société n'a pas donné plus de détails. En outre, Marjorie aurait déclaré de son côté que certains utilisateurs passaient des heures, sans mentionner que cela pouvait être considéré comme une surutilisation.

Alors que le projet de Marjorie suscite l'enthousiasme de ses abonnés, il inquiète certains spécialistes des relations humaines et de l'éthique. « Je voudrais que nous réfléchissions très sérieusement à la manière dont elle pourrait affecter, influencer ou façonner nos interactions avec d'autres personnes », déclare Jason Borenstein, directeur des programmes d'éthique à l'Institut de Technologie de Géorgie (Georgia Tech) et responsable de la National Science Foundation, à propos de CarynAI. Borenstein est d’avis que parmi les nombreuses inconnues liées à cette technologie, il y a l'impact de CarynAI sur la société, sur les utilisateurs et sur Marjorie elle-même.

« J'espère qu'il y aura des conversations approfondie entre les différentes disciplines et que les parties prenantes réfléchiront en profondeur aux considérations éthiques avant que la technologie n'évolue trop rapidement », a ajouté Borenstein. Contrairement à certains chatbots, qui sont en quelque sorte des tours de passe-passe high-tech, CarynAI va beaucoup plus loin en promettant de créer un véritable lien émotionnel avec les utilisateurs. Cela rappelle le film "Her" de 2013 et soulève toutes sortes de questions éthiques.

Un business lucratif pour des « sexfluenceurs » avec des compétences en informatique et intelligence artificielle

Basée à Berlin, Sika Moon travaille comme créatrice de contenus pour adultes sur des sites comme OnlyFans, Fansly et ManyVids depuis 2018, gagnant en moyenne 40 000 € par mois. Au début, elle adorait ça, mais elle a fini par trouver le travail laborieux et répétitif. « Gérer les plateformes, discuter avec les fans, faire de nouvelles photos et vidéos pour toutes les plateformes et les médias sociaux chaque jour, c'est un travail de 16 heures par jour, sept jours sur sept », explique-t-elle. « Après cinq ans de revenus très élevés, j'ai décidé que c'était assez et j'ai arrêté avant d'être complètement épuisée. »

Puis, en mai, elle a découvert le potentiel de l'intelligence artificielle. « Au début, c'était un projet artistique et je me contentais de poster des photos sur Instagram », explique-t-elle. « Mais en voyant ma croissance rapide et le soutien de mes fans, j'ai mis en place Sika en tant que modèle adulte sur des plateformes comme Patreon et Fanvue. » Aujourd'hui, Sika compte près de 200 000 followers sur Instagram, et quelques centaines sur Patreon et Fanvue respectivement. Ses revenus ne sont pas aussi élevés qu'avant, mais, comme elle le souligne, elle ne le fait que depuis quatre mois.


Sika Moon n'est pas basée sur la personne réelle qui l'exploite. Elle est plutôt créée à l'aide d'un mélange de Stable Diffusion, de Photoshop et d'applications de beauté comme FaceApp. Ses photos sont souvent réalisées en collaboration avec un programmeur qui vend ses compétences via Patreon pour une somme mensuelle de 8,50 livres sterling. Ce dernier compte 150 abonnés et semble être populaire auprès de nombreux grands créateurs de contenus pour adultes générés par l'IA. Par exemple, Gina Stewart, la « grand-mère la plus sexy du monde », qui utilise l'IA pour retrouver sa jeunesse, utilise régulièrement ses services et a même travaillé avec lui pour sa récente couverture de l'édition IA du magazine Autobabes. Sika Moon figure également dans ce numéro. En fait, de plus en plus d’outils sont disponibles pour les tiers désireux de monétiser des contenus pour adultes générés par...