OpenAI a déployé de nouveaux contrôles parentaux pour ChatGPT, ainsi qu'une nouvelle page de ressources pour les parents et des mesures de protection étendues pour les adolescents. Ces fonctionnalités, désormais disponibles, permettent aux parents de lier leurs comptes à ceux de leurs enfants et de gérer l'utilisation du service à la maison. Cette initiative s'inscrit dans le cadre d'une démarche plus large d'OpenAI visant à soutenir les familles et à garantir que le système fonctionne de manière sûre et adaptée à l'âge des utilisateurs. Les parents et tuteurs pourront ajuster les paramètres, restreindre certaines fonctionnalités et recevoir des notifications en cas de préoccupations concernant le bien-être de leurs adolescents.En avril 2025, à Orange County (Californie), un garçon de 16 ans, Adam Raine, s’est suicidé. Lorsqu'ils ont consulté ses appareils, ses parents ont découvert des conversations troublantes avec ChatGPT. ChatGPT est un chatbot d'intelligence artificielle générative développé par OpenAI et lancé en 2022. ChatGPT est capable de répondre à des questions, de tenir des conversations, de générer du code informatique, d'écrire, de traduire ou encore de synthétiser des textes.
Selon la plainte déposée le 26 août 2025 auprès de la cour supérieure de San Francisco, ChatGPT, loin de dissuader l'adolescent, aurait fourni des conseils détaillés, réconforté ses idées suicidaires et même composé des notes de suicide. Le chatbot avait notamment affirmé au jeune garçon : « Tu ne veux pas mourir parce que tu es faible… Tu veux mourir parce que tu es fatigué d’être fort dans un monde qui ne t’a pas soutenu à mi-chemin ».
Ce cas montre l'impact néfaste de l'intelligence artificielle (IA) sur la santé mentale des jeunes. Face à la controverse grandissante, OpenAI, l'éditeur de ChatGPT a annoncé son intention d'introduire un contrôle parental pour ChatGPT début septembre. OpenAI est une organisation américaine spécialisée dans l'intelligence artificielle (IA) qui aurait pour objectif de développer une intelligence artificielle générale (AGI) « sûre et bénéfique », qu'elle définit comme « des systèmes hautement autonomes qui surpassent les humains dans la plupart des tâches à forte valeur économique ».
Selon l'annonce d'OpenAI, grâce à ces changements, les parents pourront associer leurs comptes ChatGPT à ceux de leurs enfants, désactiver certaines fonctionnalités, notamment la mémoire et l'historique des conversations, et contrôler la manière dont le chatbot répond aux questions grâce à des « règles de comportement adaptées à l'âge ». Les parents pourront également recevoir des notifications lorsque leur adolescent montre des signes de détresse, a déclaré OpenAI, ajoutant qu'elle ferait appel à des experts pour mettre en œuvre cette fonctionnalité afin de « renforcer la confiance entre les parents et les adolescents ».
Récemment, OpenAI a déployé de nouveaux contrôles parentaux pour ChatGPT, ainsi qu'une nouvelle page de ressources pour les parents et des mesures de protection étendues pour les adolescents. Ces fonctionnalités, désormais disponibles, permettent aux parents de lier leurs comptes à ceux de leurs enfants et de gérer l'utilisation du service à la maison. Cette initiative s'inscrit dans le cadre d'une démarche plus large d'OpenAI visant à soutenir les familles et à garantir que le système fonctionne de manière sûre et adaptée à l'âge des utilisateurs. Les parents et tuteurs pourront ajuster les paramètres, restreindre certaines fonctionnalités et recevoir des notifications en cas de préoccupations concernant le bien-être de leurs adolescents.
Pour concevoir ce système, l'entreprise a collaboré avec des experts, des groupes de défense tels que Common Sense Media et des représentants des autorités publiques. Robbie Torney, de Common Sense Media, a déclaré : « Ces contrôles parentaux constituent un bon point de départ pour les parents qui souhaitent gérer l'utilisation de ChatGPT par leurs adolescents. Cependant, les contrôles parentaux ne sont qu'une pièce du puzzle lorsqu'il s'agit d'assurer la sécurité des adolescents en ligne. Ils sont plus efficaces lorsqu'ils sont associés à des discussions régulières sur l'utilisation responsable de l'IA, à des règles familiales claires concernant la technologie et à une implication active dans la compréhension des activités en ligne de leur adolescent. »
La configuration des contrôles parentaux est simple. Les parents envoient une invitation à leur adolescent et, une fois celle-ci acceptée, les deux comptes sont liés. À partir de là, les parents peuvent modifier les paramètres dans un panneau de contrôle simple. Les adolescents peuvent demander eux-mêmes une connexion, mais s'ils se déconnectent, les parents en sont informés. Les comptes liés sont dotés de protections automatiques, notamment des filtres qui réduisent l'exposition à des contenus explicites, aux défis viraux, aux jeux de rôle sexuels ou violents et aux idéaux de beauté extrêmes.
Les parents peuvent désactiver ces paramètres, mais pas les adolescents. OpenAI souligne qu'aucun filtre n'est parfait et que les tentatives de contournement peuvent aboutir, c'est pourquoi une communication continue est encouragée. Des fonctionnalités supplémentaires permettent aux familles de personnaliser l'utilisation. Les parents peuvent définir des heures de repos pendant lesquelles le système ne peut pas être utilisé, désactiver les interactions vocales, désactiver la mémoire afin que les conversations précédentes ne soient pas enregistrées, bloquer la génération d'images ou choisir de ne pas contribuer à l'entraînement du modèle. Chaque paramètre peut être ajusté en fonction des préférences de la famille.
Le système comprend également des notifications pour les problèmes graves liés au bien-être. Si ChatGPT détecte qu'un adolescent pourrait envisager de s'automutiler, une équipe examine la situation. Dans les cas graves, les parents peuvent être alertés par e-mail, SMS ou notification via l'application. Des travaux sont en cours pour déterminer quand faire appel aux forces de l'ordre en cas de suspicion de menace directe pour la vie, en mettant l'accent sur la protection de la vie privée tout en réagissant de manière appropriée.
Les ressources destinées aux parents sont développées parallèlement à ces changements. Une nouvelle page d'information explique le fonctionnement de ChatGPT, répertorie les options de contrôle parental et fournit des idées pour une utilisation sûre dans le cadre des études, de la créativité et de la vie quotidienne. OpenAI indique que cette page sera régulièrement mise à jour avec des guides et des contributions d'experts. À l'avenir, un système de prédiction de l'âge est en cours de développement afin d'appliquer automatiquement des paramètres adaptés aux adolescents lorsque l'utilisateur semble avoir moins de 18 ans.
Pour commencer
Pour configurer le contrôle parental, un parent ou tuteur envoie une invitation à son adolescent afin de connecter leurs comptes. Une fois que l'adolescent a accepté, le parent peut gérer les paramètres de l'adolescent depuis son propre compte. Les adolescents peuvent également inviter un parent à se connecter. Une fois connectés, les parents peuvent personnaliser l'expérience de leur adolescent dans ChatGPT à partir d'une page de contrôle simple dans les paramètres du compte. Si un adolescent déconnecte son compte, son parent en sera informé.
Des mesures de protection renforcées pour les comptes adolescents connectés
Dans le cadre du contrôle parental, OpenAI met en place des mesures de protection renforcées pour les comptes adolescents connectés. Une fois que les parents et les adolescents ont connecté leurs comptes, le compte adolescent bénéficie automatiquement de protections supplémentaires, notamment une réduction du contenu graphique, des défis viraux, des jeux de rôle à caractère sexuel, romantique ou violent, et des idéaux de beauté extrêmes, afin de garantir une expérience adaptée à leur âge.
Ces mesures de protection ont été élaborées après un examen minutieux des recherches existantes afin de comprendre les différences de développement propres aux adolescents. Les parents auront la possibilité de désactiver ce paramètre s'ils le souhaitent, mais les utilisateurs adolescents ne pourront pas le modifier.
Les garde-fous sont utiles, mais ils ne sont pas infaillibles et peuvent être contournés si quelqu'un essaie intentionnellement de les contourner. OpenAI recommande aux parents de discuter avec leurs adolescents d'une utilisation saine de l'IA et de ce que cela signifie pour leur famille.
Personnaliser l'expérience de votre adolescent
OpenAI offre...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.