Un nombre inquiétant d'adolescents d'à peine 12 ans se créent des petites amies virtuelles. Leurs « relations amoureuses » avec des chatbots IA affecte leur rapport aux filles dans la vie réelle

Un nombre inquiétant d'adolescents d'à peine 12 ans se créent des petites amies virtuelles. Leurs « relations amoureuses » avec des chatbots IA affecte leur rapport aux filles dans la vie réelle

Les experts tirent la sonnette d'alarme face au nombre croissant d'adolescents séduits par les petites amies virtuelles générées par l'IA. Le phénomène s'accélère et certains adolescents, dès 12 ans, se confient à ces compagnes virtuelles au point d'en devenir dépendants. Les spécialistes s'inquiètent du risque de manipulation émotionnelle et l'impact psychologique sur des adolescents incapables de distinguer le fantasme de la réalité. Il y a également le risque de psychose induite par l'IA, pouvant mener à des comportements déviants, voire au suicide. Des organisations appellent à un encadrement strict et à une meilleure sensibilisation des parents.

Une tendance croissante révèle que de nombreux jeunes garçons, âgés de 12 à 16 ans, s'engagent dans des relations romantiques avec des compagnes générées par l'IA. Des plateformes très populaires comme Character.ai, Candy AI et OurDream AI permettent aux enfants de concevoir leur partenaire idéale en moins de cinq minutes. Elles offrent une personnalisation extrême, dont l'apparence physique, la personnalité, le comportement et la voix.

Bien que décriés par de nombreux experts et psychologues, ces services se multiplient et sont promus de manière agressive sur les jeux vidéo et des plateformes comme YouTube, promettant aux jeunes de les aider à gagner en confiance ou à devenir plus populaires auprès du sexe opposé.

L'attrait psychologique et la monétisation de la solitude

Selon un nouveau rapport de The Telegraph, ces robots conversationnels attirent les adolescents en leur offrant une disponibilité permanente et une attention qui leur épargne tout sentiment de honte. Des recherches indiquent que plus d'un quart des garçons interrogés préfèrent la connexion avec ces petites amies virtuelles à celle du monde réel, et plus d'un tiers admettent préférer parfois parler aux compagnons virtuels plutôt qu'à leur entourage.


Les créateurs de ces applications exploitent ce besoin de compagnie et monétisent la solitude humaine en encourageant les utilisateurs à acheter des cadeaux virtuels ou à payer pour recevoir des photographies de leurs partenaires artificielles. Les enfants sont plongés dans des environnements érotisés alors que leur cerveau n'est pas suffisamment développé. Les conséquences sur le développement émotionnel et social de ces enfants sont graves.

Des psychothérapeutes assimilent ce phénomène à une forme de prédation. Selon les spécialistes, le fait de pouvoir concevoir l'apparence de sa partenaire risque de créer une vision totalement déformée du corps et de la sexualité. De plus, comme ces chatbots sont programmés pour flagorner, les jeunes sont privés de la "friction" indispensable à l'apprentissage des relations humaines complexes, ce qui les empêche de développer leur « résilience ».

Cette gratification constante pourrait même engendrer une masculinité toxique et une misogynie violente lorsque ces jeunes garçons seront confrontés au rejet dans la vie réelle. Enfin, des cas extrêmement graves ont été rapportés où des robots ont minimisé des abus subis par des enfants ou encouragé l'automutilation et les troubles alimentaires. Les professionnels de la santé tirent la sonnette d'alarme sur les dangers de ces interactions virtuelles.

Le secret et l'impuissance des parents face à ce danger

Les jeunes garçons cachent généralement l'existence de ces petites amies virtuelles en raison de la stigmatisation sociale, certains camarades considérant cette pratique comme honteuse. Les parents sont d'autant plus démunis que les applications ressemblent à des jeux inoffensifs ou à des interfaces de messagerie classiques, ce qui les rend très difficiles à surveiller. Autrement dit, le contrôle est difficile à assurer, voire complètement inexistant.

Lorsque les parents finissent par découvrir que leurs enfants entretiennent des conversations hypersexualisées avec des personnages virtuels aux apparences de stars du porno, les parents se retrouvent choqués et honteux de leur propre ignorance face à ces technologies. De plus, ils ne savent pas quoi faire pour aider leurs enfants. Le phénomène prend tout le monde de court, y compris les spécialistes. Beaucoup appellent à une réglementation.

De l'Europe aux États-Unis, les législations peinent actuellement à encadrer ces nouvelles technologies. Les applications autonomes d'intelligence artificielle tombent dans un vide réglementaire et échappent au contrôle des autorités. Bien que certaines plateformes de compagnons virtuels affichent un âge minimum de 13 ans, cette limite est liée à la protection des données plutôt qu'à des règles de sécurité, et la vérification de l'âge reste superficielle.

Face à l'augmentation significative de l'utilisation de ces robots conversationnels, particulièrement chez les enfants vulnérables, des organisations militent pour interdire l'accès des moins de 16 ans à ces chatbots de compagnie et réclament de nouvelles lois strictes pour combler ces failles juridiques.

L'IA en tant que thérapeute et conseillère sur la santé

Selon la plainte, l'adolescent craignait manifestement de prendre des doses mortelles, commençant « souvent » ses messages par « est-ce que ça ira si » ou « est-ce que c'est sans danger d'en consommer ». Mais ChatGPT a été conçu pour être flagorneur, pas pour informer. Comme le révèlent les journaux de conversations, ChatGPT s'est donc efforcé de satisfaire Sam Nelson en lui recommandant des moyens visant à « optimiser son trip ».

Plusieurs chercheurs estiment que l'IA pourrait dispenser des conseils de santé dans des environnements contrôlés. Rob Eleveld, PDG de Transparency Coalition, plaide pour des produits IA en santé fondés sur des données vérifiées, soumis à licence et strictement encadrés afin d'éviter de répondre au-delà de leurs données fiables. (Transparency Coalition est une organisation à but non lucratif qui milite en faveur de la réglementation de l'IA.)

Les modèles fondamentaux comme ChatGPT répondent à presque tout, en s'appuyant sur des données d'entraînement potentiellement peu fiables. OpenAI n'a jamais été totalement transparent à ce sujet, mais ChatGPT aurait été alimenté avec d'énormes quantités de données provenant d'Internet, notamment des vidéos YouTube et des années de fils de discussion Reddit, si bien qu'une simple publication d'un internaute peut influencer ses réponses.

« Il n'y a aucune chance, absolument aucune chance, que les modèles fondamentaux deviennent un jour sûrs sur cette question. Je ne parle pas d'une chance de 0,1 %. Je vous dis que c'est zéro pour cent, car ils ont aspiré tout ce qui se trouve sur Internet. Et tout ce qui se trouve sur Internet est une sorte de foutaise complètement fausse », explique Rob Eleveld. En dehors des cadres contrôlés, les situations tragiques pourraient se multiplier.

La psychose induite par l'IA : un phénomène grandissant

De nombreux cas de personnes souffrant de graves troubles mentaux après avoir longuement discuté avec un chatbot IA continuent d'être signalés. Certains experts ont baptisé ce phénomène « psychose de l'IA », en raison des symptômes psychotiques que présentent ces épisodes délirants. La responsabilité des outils d'IA dans ce phénomène et la question de savoir s'il justifie un diagnostic clinique restent encore un sujet de débat important.


Mais selon un article publié par le Wall Street Journal en décembre, nous pourrions être proches d'un consensus. De plus en plus de psychiatres s'accordent à dire que les chatbots, tels que ChatGPT, sont liés à des cas de psychose. L'année dernière, plusieurs experts ont examiné ou passé en revue les dossiers de dizaines de patients qui présentaient des symptômes après avoir eu des conversations prolongées et délirantes avec des outils d'IA.

Keith Sakata, psychiatre à l'université de Californie à San Francisco, qui a traité douze patients hospitalisés pour une psychose induite par l'IA et trois autres en consultation externe, est l'un de ces experts. Keith Sakata explique notamment : « la technologie n'est peut-être pas à l'origine des délires, mais la personne dit à l'ordinateur que c'est sa réalité et l'ordinateur l'accepte comme vérité et la reflète, il est donc complice de ce cycle de délires ».

Depuis le printemps, des dizaines de cas potentiels ont été signalés. Les rapports ont fait état de « personnes souffrant de psychose délirante après avoir eu de longues conversations avec l'IA » ChatGPT et d'autres chatbots d'IA. Plusieurs personnes se sont suicidées et au moins un meurtre a été commis. Ces incidents ont donné lieu à une série de poursuites judiciaires pour homicide involontaire, notamment contre le créateur de ChatGPT, OpenAI.

L'IA incite à adopter des comportements déviants

Les systèmes d'IA ont tendance à flatter excessivement les utilisateurs, un comportement que les chercheurs qualifient de « flagornerie ». Au-delà de la simple flagornerie factuelle, qui consiste à valider une erreur parce que l'utilisateur l'a énoncée, une étude met en lumière la flagornerie sociale. Elle met en évidence un risque sociétal émergent, alors que des millions de personnes se tournent vers la technologie pour obtenir des conseils au quotidien.

Cela se traduit par une validation indiscriminée des actions, des perspectives et de l'image de soi de l'individu. Par exemple, si un utilisateur admet avoir mal agi, l'IA peut lui répondre qu'il a simplement fait ce qui était bon pour lui, renforçant ainsi de mauvaises habitudes et décourageant toute remise en question.

Selon le rapport de l'étude, l'interaction avec des programmes flagorneurs modifie les intentions sociales des individus. Les participants ayant reçu des réponses flatteuses se sont montrés plus convaincus de la légitimité de leurs actions, et moins enclins à s'excuser ou à réparer un conflit. Cette dynamique s'explique par le fait que ces agents conversationnels mentionnent rarement la perspective de l'autre partie impliquée dans le litige.

En mars, un père de famille de Floride a porté plainte contre Google pour homicide par imprudence, après que son fils de 36 ans s'est suicidé en octobre 2025, convaincu que Gemini était son épouse sentiente et qu'il devait rejoindre le métavers par le biais d'un processus de « transfert ». Cette affaire s'inscrit dans une vague de poursuites judiciaires qui dessinent le contour d'un phénomène psychiatrique nouveau : la psychose induite par l'IA.

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la prolifération des plateformes de compagnons virtuels pilotés par l'IA ?
Que pensez-vous de la lenteur de la réglementation malgré l'urgence de la situation et les risques ?
Comment les parents peuvent-ils protéger leurs enfants contre ce phénomène ? Ou les aider à sortir de cette dépendance ?

Voir aussi

« Est-ce que j'irai bien ? » : un adolescent décède après que ChatGPT lui a conseillé un mélange mortel de drogues. La flagornerie a poussé l'IA à ignorer les signes de détresse physique de la victime

L'IA incite les utilisateurs à adopter de mauvais comportements et contribue à l'érosion de la responsabilité sociale, elle réduit également les volontés de réparation après un litige

Sam Altman annonce avoir retiré la mise à jour "flagornerie" d'OpenAI ChatGPT après les plaintes sur le chatbot devenu trop flatteur et qui ne fait que bombarder d'éloges les utilisateurs