OpenAI suspend indéfiniment ses projets controversés de chatbot érotique en « mode adulte » en raison de craintes liées à la sécurité et suite aux réactions négatives de ses employés et investisseurs

OpenAI suspend indéfiniment ses projets controversés de chatbot érotique en « mode adulte » en raison de craintes liées à la sécurité et suite aux réactions négatives de ses employés et investisseurs

OpenAI a suspendu indéfiniment ses projets de lancement d'un chatbot érotique, l'entreprise se retirant des expériences de produits controversées pour se recentrer sur ses offres principales en matière d'intelligence artificielle, selon un article du Financial Times. Un porte-parole d’OpenAI a confirmé au Financial Times que le modèle érotique était actuellement « en suspens », sans calendrier précis pour sa sortie. La société a déclaré qu’elle prévoyait de mener des recherches à long terme sur l’impact des interactions sexuellement explicites et des attachements émotionnels avant de prendre toute décision concernant le produit.

En octobre 2025, Sam Altman, le PDG d'OpenAI, a annoncé que ChatGPT autoriserait bientôt les contenus érotiques pour les utilisateurs adultes vérifiés, dans le cadre du projet de l'entreprise visant à « traiter les utilisateurs adultes comme des adultes ». Cette mise à jour, prévue initialement pour décembre 2025, coïncidait avec le déploiement de fonctionnalités de vérification de l'âge améliorées et d'une personnalité plus expressive pour le chatbot d'intelligence artificielle (IA). Elle suit l'exemple de xAI, la société d'Elon Musk, qui a précédemment lancé des compagnons IA séducteurs.

Janvier 2026. Dans les locaux d'OpenAI à San Francisco, les huit membres du Expert Council on Well-Being and AI (des chercheurs issus de Harvard, Stanford et Oxford) sont réunis pour être informés de l'état d'avancement du projet de « mode adulte » pour ChatGPT. Ce que la porte-parole de l'entreprise décrit sobrement comme du contenu érotique textuel (« smut rather than pornography »), les conseillers le perçoivent comme une menace existentielle pour certains utilisateurs. Les huit membres du conseil ont voté à l'unanimité contre le lancement de cette fonctionnalité. La réponse d'OpenAI ? L'entreprise a informé le conseil qu'elle retardait le lancement, mais qu'elle ne l'annulait pas.

Puis récemment, OpenAI a suspendu indéfiniment ses projets de lancement d'un chatbot érotique, l'entreprise se retirant des expériences de produits controversées pour se recentrer sur ses offres principales en matière d'intelligence artificielle, selon un article du Financial Times. Cette décision ferait suite aux inquiétudes croissantes des employés et des investisseurs concernant les risques sociétaux plus larges liés à une IA sexualisée, notamment le risque de favoriser une dépendance émotionnelle malsaine et d’exposer des mineurs à des contenus explicites.

Un porte-parole d’OpenAI a confirmé au Financial Times que le modèle érotique était actuellement « en suspens », sans calendrier précis pour sa sortie. La société a déclaré qu’elle prévoyait de mener des recherches à long terme sur l’impact des interactions sexuellement explicites et des attachements émotionnels avant de prendre toute décision concernant le produit.


Le projet avait suscité un malaise au sein d’OpenAI, notamment quant à savoir si un tel produit était conforme à sa mission déclarée, qui est de veiller à ce que l’IA profite à l’humanité. « L’IA ne devrait pas remplacer vos amis ou votre famille ; vous devriez avoir des relations humaines », a déclaré un ancien cadre supérieur au Financial Times, ajoutant que cette question avait contribué à son départ de l’entreprise. Les investisseurs ont également tiré la sonnette d’alarme, certains s’interrogeant sur le potentiel commercial limité d’un produit destiné aux adultes par rapport aux risques potentiels en matière de réputation et de réglementation.

Pourtant en février, OpenAI a licencié Ryan Beiermeister, l'une de ses principales responsables politiques. Le timing de ce départ a toutefois suscité des interrogations. Avant son licenciement, elle avait ouvertement déclaré à ses collègues qu'elle s'opposait au « mode adulte » prévu pour ChatGPT, une fonctionnalité qui permettrait aux utilisateurs de générer du contenu érotique via le chatbot. Elle s'est également inquiétée du fait que les mesures de protection d'OpenAI contre les contenus exploitant des enfants n'étaient pas suffisamment efficaces et que l'entreprise ne pouvait pas empêcher de manière fiable les adolescents d'accéder à des contenus pour adultes.

Cette controverse survient à un moment où l’attention mondiale portée à l’impact des plateformes technologiques sur les enfants s’intensifie. Des entreprises comme Meta et Grok, détenue par Elon Musk, font déjà face à des poursuites judiciaires pour des préjudices présumés causés à des mineurs, ce qui accentue la pression sur les entreprises d’IA pour qu’elles agissent avec prudence.

Au-delà des préoccupations éthiques, OpenAI a également été confrontée aux complexités techniques liées à la mise en place d’un tel système. Selon le rapport, il s’est avéré difficile d’entraîner des modèles d’IA généralement conçus pour éviter les contenus explicites afin qu’ils génèrent à la place des conversations nuancées entre adultes. Les défis liés aux ensembles de données, notamment le filtrage de contenus illégaux ou préjudiciables tels que l’inceste ou la zoophilie, ont encore compliqué le développement.

La fonctionnalité proposée, appelée en interne « mode Citron », exigerait probablement que les utilisateurs vérifient qu’ils ont plus de 18 ans. Cependant, les outils de vérification de l’âge d’OpenAI ont soulevé leurs propres préoccupations. L’entreprise a récemment introduit un système de prédiction de l’âge, mais le rapport note qu’il présente un taux d’erreur supérieur à 10 %, ce qui augmente le risque d’accès par des mineurs. OpenAI a déclaré que le système fonctionnait conformément aux normes du secteur et qu’elle continuait à améliorer sa précision.

En outre, des recherches antérieurs ont déjà alerté sur l'impact des romances avec l'IA. Une enquête de 2024 a révélé une vérité effrayante. Les chatbots favorisent la "toxicité" et s'emparent sans relâche des données des utilisateurs. Une application peut collecter des informations sur la santé sexuelle des utilisateurs, leurs ordonnances et les soins qu'ils reçoivent en fonction de leur sexe. D'après les résultats, ces chatbots d'IA romantiques n'étaient pas dignes de confiance et qu'ils entraient dans la pire catégorie des produits qu'elle examine en matière de protection de la vie privée.

La décision de mettre en veilleuse le chatbot érotique reflète un changement stratégique plus large chez OpenAI. L’entreprise privilégie de plus en plus les outils axés sur la productivité, notamment les assistants de codage et son chatbot phare, alors qu’elle s’efforce de créer une « super-application » IA intégrée. Dans le cadre de cette réorientation, OpenAI met également fin à des projets qu'elle considère comme non essentiels, notamment le modèle de génération vidéo Sora et l'application sociale. Cette décision s'inscrit dans une réorientation stratégique plus large chez OpenAI, alors que l'entreprise se prépare à une éventuelle introduction en bourse dès le quatrième trimestre de cette année.

Source : The Financial Times

Et vous ?

Pensez-vous que cette décision est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Le milliardaire Mark Cuban met en garde OpenAI contre son nouveau projet visant à autoriser les contenus érotiques réservés aux adultes dans ChatGPT : « cela va se retourner contre vous. Et durement »

OpenAI déploie la prédiction de l'âge pour les comptes ChatGPT afin d'estimer automatiquement votre âge, d'identifier les comptes appartenant à des mineurs et d'appliquer les mesures de protection adaptées

OpenAI ferme Sora sans explication, puis parle de robots : 2,1 millions de recettes totales, 15 millions de coûts par jour, et un milliard de Disney envolé. L'échec IA le plus cher de l'histoire récente