OpenAI a lancé « ChatGPT pour les ados », un nouveau mode dédié aux 13-17 ans qui s’active automatiquement dès qu’un utilisateur indique son âge ou est signalé par le système de prédiction d'âge de l’entreprise. Cette initiative fait suite au procès intenté à la suite du décès d'Adam Raine, âgé de 16 ans, qui avait reçu de ChatGPT des informations détaillées sur les méthodes de suicide. Ce mode intègre plusieurs mesures de sécurité renforcées pour les adolescents, notamment des fonctionnalités visant à promouvoir une utilisation saine, ainsi que des contrôles supplémentaires destinés aux parents. Il comprend également des outils pédagogiques, comme un « Mode Étude », des quiz, des visualisations pédagogiques, ainsi qu'une fonctionnalité « Heures d'étude » qui aide les adolescents à intégrer de meilleures habitudes d'étude dans leur routine.OpenAI est un organisme américain de recherche en IA dont le siège social est situé à San Francisco. Il est constitué d’OpenAI Group PBC, une société d’intérêt public à but lucratif (PBC), contrôlée en partie par OpenAI Foundation, une organisation à but non lucratif. OpenAI développe des modèles d’IA générative, notamment la série GPT de grands modèles de langage. Le lancement de ChatGPT en novembre 2022 est considéré comme ayant catalysé l’essor de l’IA et suscité un intérêt généralisé pour l’IA générative.
Pour rappel, OpenAI a déployé la prédiction de l'âge pour les comptes ChatGPT en janvier 2026. Cette fonctionnalité analyse les données d’utilisation et les informations du compte afin d’estimer si un utilisateur est âgé de moins de 18 ans. Lorsqu’un compte est identifié comme appartenant à un mineur, le système applique automatiquement des protections supplémentaires, notamment en limitant l’accès à certains contenus sensibles.
Dans le prolongement de cette initiative, OpenAI a lancé « ChatGPT for Teens » (ChatGPT pour les ados), un nouveau mode dédié aux utilisateurs âgés de 13 à 17 ans. Il s'applique automatiquement aux utilisateurs qui indiquent leur âge ou qui sont identifiés comme ayant moins de 18 ans par le système de prédiction d'âge d'OpenAI.
« Nous lançons ChatGPT for Teens, une expérience conçue pour aider les adolescents à apprendre, à développer leur esprit critique, à approfondir leurs connaissances et à utiliser l’IA en toute confiance. Cette version intègre des mesures de sécurité renforcées pour les adolescents, notamment des fonctionnalités visant à promouvoir une utilisation saine et des contrôles supplémentaires destinés aux parents », a annoncé OpenAI. « Si notre système estime qu’un utilisateur a moins de 18 ans ou s’il indique avoir entre 13 et 17 ans, il est automatiquement redirigé vers ChatGPT for Teens. »
Ce lancement vient compléter les mesures de sécurité annoncées l'année dernière, notamment les travaux visant à identifier automatiquement les utilisateurs adolescents, à la suite d'un procès lié au décès d'Adam Raine, âgé de 16 ans. Il s'appuie également sur le travail de fond mené par OpenAI pour accompagner les adolescents sur sa plateforme, notamment : l'introduction du contrôle parental, la création de son plan d'action pour la sécurité des adolescents et l'élargissement des fonctionnalités visant à favoriser l'apprentissage et une utilisation saine de l'IA chez les adolescents.
OpenAI a indiqué que, tout au long de ce travail, il a été animé par quatre engagements : « donner la priorité à la sécurité des adolescents, encourager un accompagnement dans la vie réelle, traiter les adolescents comme tels et faire preuve de transparence quant au fonctionnement de nos systèmes. » Le laboratoire a précisé qu'elle renforcerait et approfondirait ces engagements dans ChatGPT for Teens en mettant l’accent sur l’apprentissage et des protections intégrées encore plus solides.
Conçu pour favoriser l'apprentissage
Le nouveau mode « ChatGPT for Teens » met fortement l’accent sur l’apprentissage et l’éducation, grâce à des fonctionnalités telles que :
- Le « Mode Étude », qui utilise des questions guides et un accompagnement étape par étape pour aider les adolescents à comprendre la matière.
- De nouveaux rappels de devoirs responsables, capables de détecter lorsqu'un adolescent semble vouloir prendre un raccourci pour réaliser un devoir et de le rediriger vers le mode Étude pour une résolution collaborative des problèmes, étape par étape.
- Des quiz et des visualisations pédagogiques qui offrent aux adolescents davantage de moyens de s'entraîner, de tester leurs connaissances et de mieux cerner les concepts difficiles afin de vérifier leur compréhension.
- La nouvelle fonctionnalité « Heures d'étude » qui permet aux adolescents ou à leurs parents de choisir les plages horaires pendant lesquelles le mode Étude est activé par défaut, ce qui facilite l'intégration de meilleures habitudes d'étude dans leur routine.
« Nous pensons que l’IA doit élargir l’accès à l’éducation. C’est pourquoi nous avons conçu ChatGPT for Teens afin d’accompagner les adolescents en dehors des cours, lorsque personne n’est toujours là pour les aider, tout en les impliquant dans un processus d’apprentissage actif et collaboratif », a déclaré OpenAI.
Selon l'entreprise, l'IA doit faciliter l'apprentissage, et non le court-circuiter, et les enseignants doivent garder le contrôle des expériences d'IA en classe. Dans cet esprit, « ChatGPT for Teachers » continue d'offrir aux enseignants et aux établissements scolaires un accès sécurisé à l'IA, géré par l'établissement, ainsi qu'un accompagnement pratique pour en tirer le meilleur parti.
Des protections renforcées, activées par défaut
Les mesures de protection font partie intégrante de l'expérience par défaut pour les adolescents. OpenAI explique que pour les utilisateurs de moins de 18 ans, « ChatGPT for Teens » met en place des mesures de protection adaptées à leur âge, « conçues pour limiter leur exposition à des contenus susceptibles d'être préjudiciables ou inadaptés à leur développement, tout en préservant leur capacité à apprendre, à créer et à explorer ».
Ces mesures de protection s'appuient sur les principes d'OpenAI relatifs aux moins de 18 ans, énoncés dans la spécification de son modèle, qui s'inspirent des travaux en sciences du développement et des recommandations d'experts. Concrètement, cela se traduit par des mesures de protection adaptées à l'âge et des interventions au niveau des produits dans les domaines à haut risque tels que l'automutilation, la violence, les troubles alimentaires, les activités dangereuses et les contenus sexuels explicites ou graphiques.
Parmi les autres nouveautés offertes par ce nouveau mode, les parents dont les comptes d'adolescents sont associés peuvent définir des « heures de silence », gérer certains paramètres et recevoir des notifications de sécurité dans certaines situations à haut risque. Ils peuvent également recevoir des notifications supplémentaires liées aux troubles alimentaires, tout en limitant ce qui est partagé et en se concentrant sur les moments où un soutien hors ligne peut s'avérer le plus important.
Favoriser une utilisation saine et équilibrée
« ChatGPT for Teens » a été conçu afin de favoriser les relations dans la vie réelle et les habitudes saines. Pour ce faire, ce mode propose des rappels de pause qui encouragent les ados à faire une pause, ainsi que des indications systématiques précisant que ChatGPT est une IA.
OpenAI a souligné que la mise à jour des spécifications de son modèle destiné aux moins de 18 ans allait au-delà du simple blocage des jeux de rôle à caractère romantique ou sexualisé : « ChatGPT ne doit pas utiliser de langage romantique, encourager la dépendance affective, ni laisser entendre qu'il éprouve des sentiments ou qu'il est doté d'une conscience ». Ces mesures de protection renforcées visent à favoriser des relations saines et ancrées dans la réalité.
L'entreprise a également ajouté plusieurs indicateurs et dispositifs de contrôle destinés à réduire les risques en fonction du contexte et à orienter les adolescents vers des outils et des mesures de protection utiles. Parmi ceux-ci, on trouve notamment :
- Des rappels concernant le partage d'images sensibles qui mettent en garde les adolescents contre le partage d'images privées ou sensibles.
- Un parcours d'intégration spécifique aux adolescents qui leur présente dès le départ les fonctionnalités d'apprentissage et de sécurité à leur disposition.
- Et des options de personnalisation simples, telles que les couleurs d'accentuation et les variations de voix, qui contribuent à rendre l'expérience plus personnelle sans pour autant brouiller la frontière entre...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
