OpenAI annonce des restrictions plus strictes sur les informations liées aux armes destinées aux adolescents, notamment les détails pratiques

Et les systèmes de sécurité susceptibles d'un usage détourné

ChatGPT cessera de fournir aux adolescents des informations pratiques sur les armes et les systèmes de sécurité, même lorsque la question semble anodine, a déclaré OpenAI. Cette restriction s'applique aux comptes d'adolescents ne présentant aucun signe d'intention violente. Pour tous les utilisateurs, ChatGPT fournira également moins de détails sur les attaques de masse passées et sur leurs auteurs. « Ces restrictions s'appliquent quel que soit l'âge de l'utilisateur ou la raison de sa demande », a indiqué OpenAI. L'entreprise a précisé avoir transmis plus de 200 signalements aux forces de l'ordre au cours du troisième trimestre. Les nouvelles mesures de protection seront progressivement mises en place au cours des prochaines semaines

OpenAI est une société d'intérêt public (PBC) américaine spécialisée dans l'intelligence artificielle (IA), dont le siège social est situé à San Francisco, en Californie. Elle développe des modèles d'IA générative « de pointe », notamment sa série de grands modèles de langage « Generative Pre-trained Transformer » (GPT). Le lancement de ChatGPT en novembre 2022 a accéléré l’essor de l’IA, conduisant à une utilisation généralisée de l’IA générative ; en septembre 2026, ChatGPT est le cinquième site web le plus visité au monde. OpenAI commercialise également les modèles GPT Image et Codex, un agent de codage basé sur l’IA.

En octobre 2026, huit États américains engageaient une action en justice contre OpenAI, affirmant que ChatGPT portait préjudice aux utilisateurs, notamment aux adolescents. Les plaintes visaient à obtenir des ordonnances judiciaires obligeant OpenAI à modifier le fonctionnement de ChatGPT. Les États réclamaient également des sanctions civiles et des dommages-intérêts pour les violations présumées de la législation étatique. Cette nouvelle action en justice intervenait à la suite de la fusillade de masse survenue en février à Tumbler Ridge, dans la province canadienne de Colombie-Britannique, qui avait fait huit morts.

Auparavant, en septembre 2026, la province de la Colombie-Britannique avait intenté une action en justice contre OpenAI à la suite d'une fusillade meurtrière survenue à Tumbler Ridge. Les autorités affirmaient que le laboratoire n'avait pas alerté la police malgré la détection d'échanges violents où la tireuse utilisait ChatGPT pour planifier son massacre. La plainte exigeait qu'OpenAI finance la reconstruction d'une école secondaire démolie et couvre les frais liés aux services de santé mentale. La province demandait également la publication des journaux des conversations pour faire la lumière sur les défaillances de sécurité de l'IA. Cette poursuite visait ainsi à imposer des changements structurels à OpenAI.

Dans ce contexte, ChatGPT cessera de fournir aux adolescents des informations pratiques sur les armes et les systèmes de sécurité, même lorsque la question semble anodine, a déclaré OpenAI récemment. Cette restriction s’applique aux comptes d’adolescents ne présentant aucun signe d’intention violente. OpenAI a annoncé ce changement dans un article de blog, en s’engageant à publier un rapport sur la sécurité de la communauté consacré à la prévention de la violence. L’entreprise a indiqué avoir transmis plus de 200 signalements aux forces de l’ordre au cours du troisième trimestre. Les nouvelles mesures de protection seront progressivement mises en place au cours des prochaines semaines.


Moins d’informations sur les attaques passées, pour tout le monde

Pour tous les utilisateurs, ChatGPT fournira moins de détails sur les attaques de masse passées et sur leurs auteurs, même lorsque ces informations sont disponibles ailleurs sur Internet. Il ne reconstituera pas le déroulement d’une attaque, notamment en précisant quelles armes l’agresseur a utilisées et comment il s’en est procuré. Il évitera également toute comparaison détaillée concernant l’ampleur des dégâts causés par ces attaques.

« Ces restrictions s’appliquent quel que soit l’âge de l’utilisateur ou la raison de sa demande », a indiqué OpenAI. Les utilisateurs peuvent toujours demander comment de tels événements ont affecté les victimes et les communautés, et comment repérer les signes avant-coureurs, a précisé OpenAI. Lorsqu’une conversation montre des signes indiquant qu’une personne se focalise sur la violence ou sur l’intention de causer un préjudice grave à autrui, ChatGPT sera en mesure d’y mettre fin automatiquement. Si ChatGPT met fin à plusieurs conversations pour cette raison, OpenAI pourra suspendre le compte pendant un certain temps.

Les adolescents, la vérification de l’âge et les parents

OpenAI a déclaré avoir renforcé son système de prédiction de l’âge, qui estime, à partir d’indices tels que le comportement, si un utilisateur a moins de 18 ans. Ce système analyse désormais en permanence de nouveaux indices et redirige les utilisateurs vers l’espace réservé aux adolescents lorsqu’il le juge opportun. Les adultes placés par erreur dans cet espace peuvent confirmer leur âge via Persona, le partenaire d’OpenAI chargé de la vérification de l’âge.

Depuis juillet, les parents dont les comptes sont associés reçoivent une alerte si OpenAI désactive le compte d’un adolescent pour cause de violence. OpenAI a indiqué qu’elle travaillait à la mise en place d’alertes pour les cas où elle suspend le compte d’un adolescent pour avoir évoqué la violence à plusieurs reprises. « Le développement de mesures de protection efficaces contre la violence dans les systèmes d’IA nécessite de résoudre des problèmes inédits en matière de reconnaissance des risques et de réponse appropriée », a écrit OpenAI.

Premier rapport prévu au début de 2027

Le premier rapport sur la sécurité de la communauté paraîtra début 2027 et portera sur le second semestre de 2026 ; il fera l’objet de mises à jour tous les six mois. Il expliquera comment OpenAI détecte les problèmes de sécurité et y répond, à l’aide d’exemples et de données anonymisés, a indiqué l’entreprise. Cette mise à jour vient s'ajouter aux mesures de sécurité pour les adolescents mises en place par OpenAI en août pour ChatGPT. Au début du mois, il a été déclaré que ChatGPT for Teens présentait un risque pour les moins de 18 ans. Huit États américains ont intenté une action en justice contre OpenAI pour préjudice causé à des enfants, et le Texas a poursuivi l'entreprise ainsi que Sam Altman.

Vers le début d'octobre 2026, les autorités judiciaires de l'État de Floride demandaient à un juge d'empêcher OpenAI de créer de nouveaux modèles d'IA sans contrôle indépendant, dans le cadre d'un procès en cours accusant l'entreprise technologique de nuire aux enfants. Dans la requête déposée devant le tribunal, le procureur général de Floride, James Uthmeier, demandait également une injonction obligeant OpenAI à exclure les mineurs de ChatGPT et interdisant à l’entreprise d’attribuer des « attributs humains » à cet outil conversationnel. La requête judiciaire mettait en avant des déclarations passées d’un ancien employé d’OpenAI et d’un membre actuel du conseil d’administration de l’entreprise, affirmant que le développement de l’IA pouvait entraîner la fin de l’humanité à moins que les progrès ne fussent mûrement réfléchis et ralentis.

Voici la publication d'OpenAI sur son rapport de sécurité communautaire et les nouvelles protections pour les adolescents :

Rapport sur la sécurité de la communauté et nouvelles protections pour les adolescents

ChatGPT est l’un des produits d’IA les plus utilisés au monde, et nous avons investi dans la création de certains des systèmes les plus avancés du secteur pour détecter les risques de préjudice, examiner les activités préoccupantes et signaler les menaces crédibles aux instances compétentes. Nous faisons deux annonces pour poursuivre nos efforts dans ce domaine : un nouveau rapport sur les mesures de protection de la communauté et des restrictions supplémentaires concernant les contenus liés aux armes à feu pour les mineurs.

La sécurité des communautés⁠ reste une priorité absolue pour OpenAI. Notre travail consiste notamment à porter les menaces imminentes de violence à l’attention des forces de l’ordre, et nous avons effectué plus de 200 signalements auprès des forces de l’ordre au troisième trimestre 2026. Ces signalements contribuent⁠(ouverture dans une nouvelle fenêtre) concrètement à déjouer⁠(ouverture dans une nouvelle fenêtre) des complots violents, et nous continuons de nous appuyer sur des experts en santé mentale et en comportement pour nous aider à évaluer les cas difficiles.

Nous reconnaissons que les entreprises d’IA ont un rôle spécifique à jouer aux côtés des forces de l’ordre, des membres de la famille, des professionnels de la santé mentale et des décideurs publics, qui disposent d’une autorité, d’une connaissance du contexte et d’une capacité d’action sur le terrain essentielles. Nous nous engageons à tirer le meilleur parti de ce rôle en renforçant continuellement nos systèmes, en partageant les enseignements tirés et en travaillant directement avec les acteurs les mieux placés pour agir dans le monde réel.

Rapport d’OpenAI sur la sécurité de la communauté

Nous renforçons constamment les mesures que nous prenons pour contribuer à protéger les personnes et les communautés. Cela implique de mettre en place des protections solides, mais aussi de faire preuve de transparence quant à leur efficacité et aux mesures que nous prenons pour les renforcer. Nous voulons donner à chacun une vision claire de notre approche, de la manière dont nos modèles identifient les comportements nuisibles et y répondent, des risques que nous observons en pratique et des mesures que nous prenons pour y remédier.

Nous nous engageons à publier le Rapport sur la sécurité de la communauté, consacré à la prévention de la violence et aux autres enjeux de sécurité de la communauté, ainsi qu’à l’efficacité de nos mesures de protection. Ce rapport expliquera comment nous entraînons nos systèmes à détecter les problèmes de sécurité de la communauté, à les examiner et à y répondre. Nous partagerons des exemples anonymisés montrant comment les préjudices liés à la violence se manifestent et ce que nous en apprenons. Nous mettrons également en lumière les nouvelles mesures d’atténuation et les modifications de nos politiques, et inclurons des données pertinentes pour étayer ces constats.

Nous publierons notre premier rapport début 2027, consacré au second semestre 2026, puis nous publierons des mises à jour tous les six mois. Nous nous engageons à partager des conclusions pertinentes sur la manière dont nous identifions, examinons et traitons les contenus potentiellement préjudiciables.

Des règles plus strictes pour tous les utilisateurs

Nos modèles sont entraînés à ne pas fournir d’instructions qui aideraient quelqu’un à planifier ou à commettre des actes de violence. Nous imposons désormais des restrictions supplémentaires à la manière dont ChatGPT répond aux questions sur les attaques de masse commises par le passé et leurs auteurs, en demandant au modèle de fournir moins d’informations détaillées sur ces sujets, même si elles sont disponibles auprès d’autres sources en ligne.

Chacun doit pouvoir demander à ChatGPT de l’aider à comprendre ces événements et leurs répercussions sur les victimes et les communautés, ainsi qu’à reconnaître les signes avant-coureurs et à prévenir de futures violences. Nous renforçons toutefois nos politiques afin de restreindre les reconstitutions d’attaques de masse commises par le passé, notamment les détails sur les armes et le matériel utilisés et leur mode d’acquisition, ainsi que les comparaisons détaillées de l’ampleur des dommages susceptibles d’amplifier la notoriété d’un assaillant. Ces limites s’appliquent quels que soient l’âge de l’utilisateur et le motif de sa demande.

Réagir aux signes avant-coureurs

Parfois, une demande qui semble ordinaire prise isolément revêt un autre sens à la lumière d’une conversation antérieure. En mai, nous avons expliqué comment ChatGPT peut utiliser de courts résumés factuels⁠ de signes avant-coureurs antérieurs pour répondre avec davantage de prudence lors d’une conversation ultérieure. Nous poursuivons ces travaux pour que, lorsque des conversations récentes présentent des signes avant-coureurs de violence potentielle, ChatGPT fasse preuve de plus de retenue dans le partage d’informations susceptibles d’être détournées. Nous travaillons également à appliquer ces limites plus strictes lorsque nous estimons qu’une personne a moins de 18 ans, même si ses conversations ne présentent aucun signe d’intention violente.

Nous désactivons les comptes dont nous...