OpenAI étend le mode « Lockdown » à davantage d'utilisateurs de ChatGPT afin de lutter contre les attaques par injection de prompt

Le mode « Lockdown » limite l'accès au Web et aux services externes

OpenAI a commencé à déployer le mode « Lockdown » (verrouillé) sur les comptes ChatGPT personnels, ce qui concerne les utilisateurs des formules Free, Go, Plus et Pro, ainsi que les comptes ChatGPT Business en libre-service. Cette mesure étend à une base d'utilisateurs plus large une fonctionnalité de sécurité précédemment lancée pour les plans d'entreprise en février 2026. Conçu pour les particuliers et les organisations qui traitent des informations sensibles, le mode Lockdown offre une protection plus stricte en limitant l'accès au Web et aux services externes. Lorsque le mode « Lockdown » est activé, des fonctionnalités clés telles que la navigation Web en direct, la prise en charge des images, la recherche approfondie, le mode agent, la mise en réseau via le canevas et les téléchargements de fichiers sont désactivées.

L’idée que le monde pourrait manquer de temps pour se préparer aux risques de l’intelligence artificielle (IA) n’est plus une hypothèse marginale réservée aux cercles académiques. Elle s’impose désormais au cœur du débat public, portée par des chercheurs de premier plan qui estiment que la trajectoire actuelle du développement de l’IA dépasse notre capacité collective à en maîtriser les conséquences. Dans une analyse de David Dalrymple, directeur de programme et expert en sécurité de l'IA à l'agence britannique ARIA, l’alerte est sans détour : si le rythme actuel se maintient, les sociétés humaines pourraient être confrontées à des systèmes plus puissants que prévu, avant même d’avoir mis en place les garde-fous nécessaires.

Dans ce contexte, OpenAI a récemment annoncé étendre son mode « Lockdown » à davantage d'utilisateurs de ChatGPT pour lutter contre les attaques par injection de prompt. OpenAI est un organisme américain de recherche en intelligence artificielle (IA) dont le siège social est situé à San Francisco. OpenAI a développé la famille de grands modèles de langage Generative Pre-trained Transformer (GPT), la série DALL-E de modèles de synthèse d'images à partir de texte et la série Sora de modèles de synthèse de vidéos à partir de texte, qui ont influencé la recherche industrielle et les applications commerciales. Le lancement de ChatGPT en novembre 2022 est considéré comme ayant catalysé le boom de l'IA et suscité un intérêt généralisé pour l'IA générative.

L'injection de prompts est une faille de cybersécurité et un vecteur d'attaque dans lequel des entrées d'apparence inoffensive (c'est-à-dire des prompts ou instructions génératives) sont conçues pour provoquer un comportement indésirable dans les modèles d'apprentissage automatique, en particulier les grands modèles de langage (LLM). L'attaque exploite l'incapacité du modèle à distinguer les instructions définies par les développeurs des instructions génératives des utilisateurs pour contourner les mesures de sécurité et influencer le comportement du modèle. Bien que les LLM soient conçus pour suivre des instructions fiables, ils peuvent être manipulés pour produire des réponses imprévues à l'aide d'entrées soigneusement élaborées.

OpenAI a commencé à déployer le mode « Lockdown » (verrouillé) sur les comptes ChatGPT personnels, ce qui concerne les utilisateurs des formules Free, Go, Plus et Pro, ainsi que les comptes ChatGPT Business en libre-service. Cette mesure étend à une base d'utilisateurs plus large une fonctionnalité de sécurité précédemment lancée pour les plans d'entreprise en février 2026. Conçu pour les particuliers et les organisations qui traitent des informations sensibles, le mode Lockdown offre une protection plus stricte en limitant l'accès au Web et aux services externes. Ce paramètre optionnel est destiné aux personnes préoccupées par le risque d'exfiltration de données résultant d'attaques par injection de prompt, plutôt qu'aux utilisateurs généraux.

Lorsque le mode « Lockdown » est activé, des fonctionnalités clés telles que la navigation Web en direct, la prise en charge des images, la recherche approfondie, le mode agent, la mise en réseau via le canevas et les téléchargements de fichiers sont désactivées. Toutefois, les fonctionnalités de mémoire, les téléchargements de fichiers, le partage de conversations et l’utilisation potentielle des chats pour améliorer les modèles ne sont pas affectés.

Ces restrictions s'inscrivent dans un ensemble plus large de protections couvrant les couches du modèle, du produit et du système. Des mesures telles que le sandboxing, les contrôles d'exfiltration basés sur les URL, ainsi que des outils de gestion d'entreprise comme l'accès basé sur les rôles, la surveillance et les journaux d'audit viennent renforcer ce mode. Bien que le mode verrouillé réduise le risque que des données sensibles quittent ChatGPT via des requêtes réseau, il n'empêche pas tout le contenu issu d'injections de prompt d'atteindre les utilisateurs.

En juillet 2025, des chercheurs ont commencé à évaluer leurs pairs avec l'aide de l'IA. Mais cela menace l'intégrité de la recherche scientifique. Les chercheurs ont recours à une nouvelle stratégie pour influencer l'évaluation par les pairs de leurs articles de recherche : ajouter des prompts (instructions génératives) cachés destinés à inciter les outils d'IA à fournir des commentaires positifs. En examinant les articles préliminaires en anglais disponibles sur le site Web arXiv, une étude a trouvé 17 articles qui comprennent une forme ou une autre de message caché destiné à l'IA. L'étude confirme la menace que représente les attaques par injections de prompt.


Voici la présentation du mode « Lockdown » :

Présentation du mode verrouillé et des mentions « Risque élevé » cohérentes dans ChatGPT

À mesure que les systèmes d'IA prennent en charge des tâches plus complexes, en particulier celles qui impliquent le web et les applications connectées, les enjeux en matière de sécurité évoluent.

Un risque émergent est devenu particulièrement préoccupant : l'attaque par injection de prompt⁠. Lors de ces attaques, un tiers tente de tromper un système d'IA conversationnel afin qu'il suive des instructions malveillantes ou révèle des informations sensibles.

Aujourd'hui, nous présentons deux nouvelles protections conçues pour aider les utilisateurs et les entreprises à se prémunir contre les attaques par injection de prompt, avec une visibilité accrue sur les risques et des contrôles renforcés :

- Mode verrouillé dans ChatGPT, un paramètre de sécurité avancé et optionnel pour les utilisateurs à haut risque

- Mentions « Risque élevé » pour certaines capacités pouvant introduire un risque supplémentaire dans ChatGPT, ChatGPT Atlas et Codex

Ces nouveautés viennent compléter les mesures de protection existantes au niveau des modèles, des produits et des systèmes. Cela inclut le sandboxing, les protections contre l'exfiltration de données par URL⁠, la surveillance et les mesures coercitives, ainsi que des contrôles d'entreprise⁠ tels que l'accès basé sur les rôles et les journaux d'audit.

Assistance aux organisations pour la protection des employés les plus exposés aux cyberattaques

Le mode verrouillé est un paramètre de sécurité avancé facultatif conçu pour un petit groupe d'utilisateurs très soucieux de la sécurité, tels que les cadres supérieurs ou les équipes de sécurité d'organisations de premier plan, qui ont besoin d'une protection renforcée contre les menaces avancées. Il n'est pas nécessaire pour la plupart des utilisateurs. Ce mode limite strictement la capacité de ChatGPT à interagir avec des systèmes externes afin de réduire le risque d'exfiltration de données par injection de prompt.

Le mode verrouillé désactive délibérément certains outils et fonctionnalités de ChatGPT qu'un pirate pourrait tenter d'exploiter pour extraire des données sensibles des conversations des utilisateurs ou des applications connectées via des attaques telles que les injections de prompt.

Par exemple, la navigation sur le Web en mode verrouillé est limitée au contenu mis en cache, de sorte qu'aucune requête réseau en direct ne quitte le réseau contrôlé d'OpenAI. Cette restriction est conçue pour empêcher l'exfiltration de données sensibles par un pirate informatique lors de la navigation. Certaines fonctionnalités sont entièrement désactivées lorsque nous ne pouvons pas fournir de garanties strictes et certaines quant à la sécurité des données.


Les forfaits Business de ChatGPT fournissent déjà une sécurité des données de qualité professionnelle⁠. Le mode verrouillé s'appuie sur ces protections et est disponible pour ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare et ChatGPT for Teachers. Les administrateurs peuvent l'activer dans les paramètres de l'espace de travail⁠(ouverture dans une nouvelle fenêtre) en créant un nouveau rôle⁠(ouverture dans une nouvelle fenêtre). Lorsqu'il est activé, ce mode impose des restrictions supplémentaires aux...