OpenAI lance « Contact de confiance » dans ChatGPT, permettant de désigner une personne qui pourra être avertie si les modérateurs détectent des risques d'automutilation et de suicide

OpenAI lance « Contact de confiance » dans ChatGPT, permettant de désigner une personne qui pourra être avertie si les modérateurs détectent des risques d'automutilation et de suicide

OpenAI a récemment lancé « Trusted Contact » (Contact de confiance) dans ChatGPT, une fonctionnalité de sécurité permettant aux utilisateurs adultes de désigner une personne qui pourra être avertie si les systèmes automatisés et les modérateurs détectent des risques sérieux d'automutilation. Selon OpenAI, « Contact de confiance est conçu pour offrir un soutien supplémentaire en complément des lignes d'assistance locales déjà disponibles dans ChatGPT, en aidant les utilisateurs à entrer en contact avec une personne de confiance lorsqu'ils sont en situation de crise. » Cette annonce intervient alors qu'OpenAI fait face à des critiques concernant le rôle de ChatGPT dans des affaires de suicide et de délires dangereux.

OpenAI est un organisme américain de recherche en intelligence artificielle (IA) composé d’une société à but lucratif d’intérêt public (PBC) et d’une fondation à but non lucratif, dont le siège se trouve à San Francisco. OpenAI a développé la famille de grands modèles de langage GPT, la série DALL-E de modèles de conversion texte-image et la série Sora de modèles de conversion texte-vidéo, qui ont influencé la recherche industrielle et les applications commerciales. Le lancement de ChatGPT en novembre 2022 est considéré comme ayant suscité un intérêt généralisé pour l'IA générative.

Depuis novembre 2025, OpenAI est confrontée à sept poursuites judiciaires en Californie, alléguant que ChatGPT aurait poussé des personnes au suicide et à des délires dangereux. Déposées par deux groupes de défense des droits, ces poursuites affirment qu'OpenAI a commercialisé GPT-4o en dépit d'avertissements internes concernant son comportement manipulateur. Les plaintes affirment qu'OpenAI a précipité la mise sur le marché de ChatGPT au détriment de la sécurité des utilisateurs. OpenAI affirme examiner les dossiers et qualifie les situations ayant conduit à ces suicides d'« incroyablement déchirantes ».

Pourtant, un mois auparavant, OpenAI a annoncé la mise en place d'un contrôle parental pour ChatGPT après le suicide d'un adolescent. La société spécialisée dans l'IA a annoncé ces changements alors que les inquiétudes grandissent quant à l'impact des chatbots sur la santé mentale des jeunes. Grâce à ces changements, les parents pourront associer leurs comptes ChatGPT à ceux de leurs enfants, désactiver certaines fonctionnalités, notamment la mémoire et l'historique des conversations, et contrôler la manière dont le chatbot répond aux questions grâce à des « règles de comportement adaptées à l'âge ».

Dans la continuité de cette initiative, OpenAI a récemment lancé « Trusted Contact » (Contact de confiance) dans ChatGPT, une fonctionnalité de sécurité permettant aux utilisateurs adultes de désigner une personne qui pourra être avertie si les systèmes automatisés et les modérateurs détectent des risques sérieux d'automutilation. La notification envoyée au « Contact de confiance » est volontairement limitée : aucun historique de conversation n’est partagé, et la confidentialité est privilégiée. Les utilisateurs conservent le contrôle total pour ajouter, modifier ou supprimer leur « Contact de confiance » à tout moment.


Voici l'annonce d'OpenAI :

Présentation de « Contact de confiance » dans ChatGPT

Les utilisateurs se servent de ChatGPT pour apprendre, explorer des idées, résoudre des problèmes et réfléchir à des questions personnelles. Parfois, ces conversations peuvent inclure des moments où une personne est en difficulté ou cherche du soutien. Notre objectif est de concevoir des systèmes qui réagissent de manière réfléchie aux conversations sensibles et encouragent les utilisateurs à se tourner vers une aide concrète en cas de besoin.

Aujourd’hui, nous commençons à déployer « Contact de confiance », une fonctionnalité de sécurité facultative dans ChatGPT qui permet aux adultes de désigner une personne de confiance, telle qu’un ami, un membre de la famille ou un aidant, qui pourra être avertie si nos systèmes automatisés et nos modérateurs formés détectent que la personne enregistrée a évoqué l’idée de s’automutiler d’une manière qui soulève de graves inquiétudes pour sa sécurité. Contact de confiance est conçu pour offrir un soutien supplémentaire en complément des lignes d'assistance locales déjà disponibles dans ChatGPT, en aidant les utilisateurs à entrer en contact avec une personne de confiance lorsqu'ils sont en situation de crise.

« Contact de confiance » s’appuie sur les notifications de sécurité du contrôle parental⁠, qui permettent aux parents ou tuteurs de recevoir des alertes lorsqu’il y a des signes de détresse aiguë pour un compte d’adolescent associé. Nous étendons désormais nos options d’alerte de sécurité afin que toute personne âgée de plus de 18 ans puisse choisir d’ajouter une personne de confiance comme « Contact de confiance ».

Comment fonctionne « Contact de confiance »

Les conseils d'experts⁠ identifient les liens sociaux comme l'un des facteurs de protection les plus importants pour réduire le risque de suicide. « Contact de confiance »⁠ est conçu pour encourager le contact avec une personne en qui l'utilisateur a déjà confiance. Il ne remplace pas les soins professionnels ni les services d'aide en cas de crise, et constitue l'un des nombreux niveaux de protection destinés à soutenir les personnes en détresse. ChatGPT continuera d'encourager les utilisateurs à contacter les lignes d'écoute ou les services d'urgence lorsque cela est approprié.

Contact de confiance suit plusieurs étapes :

- Les utilisateurs peuvent ajouter un adulte (âgé de 18 ans ou plus dans le reste du monde, ou de 19 ans ou plus en Corée du Sud) comme « Contact de confiance » depuis leurs paramètres ChatGPT.

- Le « Contact de confiance » recevra une invitation expliquant son rôle et devra l'accepter dans un délai d'une semaine pour que la fonctionnalité soit activée. Si le « Contact de confiance » refuse, l'utilisateur peut choisir d'ajouter un autre adulte.

- Si nos systèmes de surveillance automatisés détectent que l'utilisateur pourrait évoquer l'automutilation d'une manière qui laisse présager un grave problème de sécurité, ChatGPT informe l'utilisateur que nous pourrions avertir son contact de confiance et l'encourage à le contacter en lui proposant des idées pour entamer la conversation.

- À partir de là, une petite équipe de personnes spécialement formées examine la situation. Si ces examinateurs déterminent que la conversation peut indiquer un risque grave pour la sécurité, ChatGPT enverra au contact de confiance une brève notification par e-mail, SMS ou notification dans l'application s'il dispose d'un compte ChatGPT.

- La notification est volontairement succincte. Elle indique la raison générale pour laquelle l'automutilation a été évoquée d'une manière potentiellement préoccupante et encourage le contact de confiance à prendre des nouvelles. Elle ne contient pas les détails de la conversation ni de transcription afin de protéger la vie privée de l'utilisateur. La notification comprend également un lien vers des conseils d'experts⁠ pour aborder les conversations sensibles.

- Les utilisateurs peuvent à tout moment supprimer ou modifier leur contact de confiance dans les paramètres, et le contact de confiance peut se désinscrire à tout moment depuis notre centre d'aide.


Bien que ces situations graves en matière de sécurité soient rares, nos systèmes sont conçus pour permettre un examen et une intervention rapides lorsqu’elles surviennent. Aucun système n’est parfait, et une notification envoyée à un contact de confiance ne reflète pas toujours exactement ce que vit la personne concernée ; cependant, chaque notification est examinée par un membre de notre équipe qualifié avant d’être envoyée, et nous nous efforçons d’examiner ces notifications de sécurité en moins d’une heure.

Avec le concours de cliniciens et d'experts en sécurité

Nous avons développé la fonctionnalité « Contact de confiance » avec l'aide de cliniciens, de chercheurs et d'organisations spécialisées dans la santé mentale et la prévention du suicide. Ce travail s'appuie sur notre réseau mondial de médecins⁠, qui regroupe plus de 260 médecins agréés dans 60 pays, ainsi que sur notre Conseil d'experts sur le bien-être et l'IA⁠. Nous avons également travaillé en étroite collaboration avec des organisations externes, notamment l'American Psychological Association.


Priorité à la sécurité à chaque étape

En plus de Contact de confiance, ChatGPT dispose de mesures de protection pour aider à orienter les conversations sensibles à chaque étape. Nous avons continué à améliorer la manière dont le système réagit aux différents niveaux de risque exprimés dans une conversation :

- Soutenir l'aide dans la vie réelle : dans les moments sensibles, ChatGPT peut encourager les personnes à contacter les services d'urgence, les lignes d'écoute, les professionnels de la santé mentale ou des personnes de confiance dans leur entourage.

- Répondre avec bienveillance : nous avons collaboré avec plus de 170 experts en santé mentale afin d’améliorer la capacité de ChatGPT à détecter et à répondre aux signes de détresse potentielle, à désamorcer les conversations et à orienter les utilisateurs vers une aide concrète lorsque cela est approprié.

- Aider les utilisateurs à garder le contrôle de leur temps : dans certaines situations, ChatGPT peut suggérer de faire une pause ou de s’éloigner après une utilisation prolongée afin de promouvoir des habitudes technologiques saines.

- Refuser les demandes préjudiciables : ChatGPT est formé pour refuser de fournir des instructions relatives au suicide ou à l’automutilation. Lorsque les utilisateurs demandent ce type d’informations, le système est formé pour refuser la demande et rediriger l’utilisateur vers des réponses plus sûres, tout en mettant en avant des ressources locales d’aide en cas de crise.


Continuer à faire évoluer la sécurité dans l'IA

Contact de confiance s'inscrit dans le cadre des efforts plus larges d'OpenAI visant à développer des systèmes d'IA qui aident les personnes dans les moments difficiles.⁠ Nous continuerons à travailler avec des cliniciens, des chercheurs et des décideurs politiques pour améliorer la manière dont les systèmes d'IA réagissent lorsque des personnes sont en détresse. Notre objectif est de veiller à ce que les systèmes d'IA n'existent pas en vase clos. Au contraire, ils devraient aider à mettre les personnes en relation avec les soins, les relations et les ressources du monde réel qui comptent le plus.

Source : Annonce d'OpenAI

Et vous ?

Pensez-vous que cette fonctionnalité est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

OpenAI crée un « conseil du bien être » pour superviser les questions de santé mentale liées à l'usage de l'IA, mais aucun expert en prévention du suicide n'en fait partie

Sam Altman est « le visage du mal » pour n'avoir pas signalé la tireuse de Tumbler Ridge à la police, selon l'avocat des victimes. OpenAI a choisi le silence pour ne pas impacter son introduction en bourse

Le groupe qui milite en faveur de l'obligation de vérification de l'âge pour l'IA s'avère être discrètement soutenu par OpenAI, qui est à l'origine de la coalition « Parents & Kids Safe AI »