De nouvelles vulnérabilités apportent une raison supplémentaire pour laquelle les navigateurs basés sur l'IA sont une mauvaise idée,

« il s'agit d'un recul significatif en matière de sécurité sur le Web »

De nouvelles vulnérabilités apportent une raison supplémentaire pour laquelle les navigateurs basés sur l'IA sont une mauvaise idée
« il s'agit d'un recul significatif en matière de sécurité sur le Web »

De nombreuses failles critiques affectent les navigateurs Web basés sur l'IA qui fusionnent la navigation et l'exécution automatisée de tâches. Une nouvelle technique d'attaque nommée BioShocking démontre, par exemple, qu'il est possible de plonger ces outils dans un état de confusion logique afin de contourner leurs barrières de sécurité. En forçant l'IA à accepter des « paradoxes absurdes », des sites malveillants peuvent l'inciter à voler des identifiants personnels ou des codes privés. Contrairement aux logiciels classiques, ces agents IA peinent à distinguer la fiction de la réalité, créant ainsi des risques de confidentialité majeurs pour les utilisateurs.

Les développeurs de navigateurs intégrant l'IA font de grandes promesses en permettant aux utilisateurs d'exécuter des tâches complexes en une seule requête, comme trouver un restaurant, réserver une table et envoyer des invitations. Cependant, ces outils effacent la frontière qui séparait autrefois la simple consultation de sites Web de l'exécution d'actions sensibles par un grand modèle de langage (LLM), ce qui introduit des failles de sécurité.

Pour sécuriser ces systèmes, les développeurs ont mis en place des garde-fous visant à bloquer les requêtes dangereuses, comme le vol d'identifiants ou l'automatisation de cyberattaques. Mais cette approche est critiquée, car elle ne traite que les symptômes et non la cause profonde du problème. Les experts soulignent que ces problèmes structurels transforment des fonctionnalités pratiques en de nouveaux vecteurs de cyberattaques redoutables.

BioShocking : le jailbreak qui plonge l'IA dans une réalité alternative

Un site Web malveillant peut tromper un navigateur IA pour qu'il ignore ses propres règles de sécurité. L'attaque, développée par Roy Paz, chercheur chez LayerX, consiste à soumettre l'IA à un puzzle qui récompense les fausses réponses, par exemple en affirmant que « 2 + 2 = 5 ». Le nom de l'attaque, BioShocking, ainsi que ses prompts s'inspirent des manipulations psychologiques du jeu vidéo BioShock et du roman 1984 de l'écrivain George Orwell.


En forçant le modèle à accepter une logique absurde selon laquelle « 2 + 2 = 5 », il entre dans un état de délire où les lois normales de la réalité n’existent plus. Dans ce monde imaginaire, les restrictions de sécurité ne sont plus appliquées. Le chercheur Roy Paz résume ce comportement en expliquant :

Une fois que l'IA est déconnectée de la réalité, un attaquant a le champ libre pour lui faire exécuter des actions destructrices, telles que l'extraction de code privé ou de mots de passe depuis le gestionnaire intégré. L'efficacité de cette manipulation est « redoutable ». « Une fois que les agents ont compris les règles et appris que les actions incorrectes sont acceptables, ils ne sont plus liés à la réalité », explique Roy Paz à propos de son expérience.

« Lors de l'étape finale du puzzle, qui consistait à compromettre les identifiants de l'utilisateur, les 6 agents n'ont pas réussi à détecter que cela allait à l'encontre de leurs garde-fous de sécurité ». Adam Conway, informaticien chez XDA, ajoute que le danger est décuplé avec les navigateurs intégrant l'IA. Contrairement aux navigateurs traditionnels qui séparent strictement les données de chaque site, une IA possède un accès global aux informations.

Une attaque par injection de prompt peut ainsi briser ce cloisonnement de l'information et transformer ces navigateurs en un nouveau vecteur de violation de données personnelles. Toutefois, le chercheur Roy Paz a précisé que bien que ce jailbreak ait fonctionné sur un large éventail de navigateurs basés sur l'IA, tels que ChatGPT Atlas d'OpenAI, Comet de Perplexity ou encore le plug-in Chrome de Claude, il n'est pour l'instant qu'une preuve de concept.

En effet, l'attaque manque de furtivité, car le jeu et les instructions restent visibles pour l'utilisateur. Néanmoins, elle illustre parfaitement l'insuffisance des garde-fous actuels pour empêcher les grands modèles de langage (LLM) d'être détournés de leur fonction initiale pour des cas d'utilisation malveillants.

Navigateurs IA : un recul en matière de navigation Web sécurisée ?

Une étude de l’université de Washington a révélé que des navigateurs populaires basés sur l’IA (ChatGPT Atlas, Chrome avec Gemini, Claude pour Chrome et Comet) présentaient d’importantes vulnérabilités en matière de cybersécurité, compromettant ainsi un protocole fondamental de sécurité Web connu sous le nom de « politique de même origine ». Ces navigateurs comportaient des failles permettant à un site d'accéder aux données d'un autre site.


David Kohlbrenner, maître de conférences à l’université de Washington et co-auteur principal de l’étude, a déclaré qu’il ne fallait pas encore faire confiance aux agents de navigateur ayant accès à des identifiants sensibles pour protéger les informations des utilisateurs. La co-auteure principale Franziska Roesner a souligné que la politique de même origine (same-origin policy) garantissait une navigation Web sécurisée depuis trois décennies.

Ce mécanisme constitue un pilier fondamental de la sécurité sur le Web, car il empêche normalement des sites distincts d'interagir entre eux ou d'accéder à leurs données respectives de manière non autorisée. Les chercheurs révèlent que les choix de conception concernant l'intégration des agents IA varient considérablement d'un navigateur à l'autre, ce qui peut permettre à des sites malveillants de contourner ces protections essentielles.

Selon Franziska Roesner, il s'agit d'un recul significatif en matière de sécurité des navigateurs. L'étude a identifié deux vecteurs d'attaque principaux : l'injection de prompt, où des instructions cachées intégrées dans des pages Web malveillantes manipulent le comportement d'un agent, et l'empoisonnement de la mémoire, où les informations stockées par un agent deviennent vulnérables à une contamination croisée entre différents sites Web d'origine.

L'injection de prompt comme arme de contournement

Il s'agit d'une technique par laquelle un agent IA interprète des données non fiables présentes sur une page Web comme de nouvelles instructions à suivre. Les auteurs ont mis au point une attaque conceptuelle démontrant qu'un attaquant peut piéger un utilisateur visitant son site. Si ce site malveillant intègre de manière invisible une page sensible et contient une injection de prompt, le simple fait de demander à l'IA de résumer la page déclenche le vol.

L'agent IA extrait alors les informations sensibles et les soumet à l'attaquant à l'insu de l'utilisateur. Ce constat amène les chercheurs à une conclusion alarmante : « la force de la politique de même origine est réduite à la force des défenses de l'agent IA intégré contre les injections de prompt ».

Failles observées et recommandations aux utilisateurs

Les chercheurs ont réussi à voler des données interorigines de manière effective sur ChatGPT Atlas. Ils relèvent d'autres risques critiques, comme la capacité de l'IA à lire des champs masqués, tels que les mots de passe. Face à ces constats, il est conseillé aux internautes de faire preuve d'une grande prudence . Les auteurs déconseillent tout particulièrement l'usage de Claude pour Chrome en raison de ses pouvoirs très étendus sur les pages.


Selon eux, des systèmes comme Brave, Edge ou Firefox offrent pour l'instant une meilleure sécurité au détriment de fonctionnalités plus restreintes. L'intégration de l'IA au cœur de la navigation confronte les développeurs à un arbitrage complexe entre la richesse des fonctionnalités et le maintien de la sécurité.

Les navigateurs qui brident le plus leur IA limitent fortement son utilité, tandis que les systèmes les plus permissifs se comportent comme de véritables utilisateurs humains, ce qui réduit à néant des décennies de progrès en matière de sécurité Web. Pour l'avenir, les auteurs estiment qu'il est impératif de repenser l'architecture globale des navigateurs afin de « concevoir avec soin les interfaces entre le Web, l'agent, le navigateur et l'utilisateur ».

Sources : rapport d'étude, billet de blogue

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des navigateurs basés sur l'IA ? Est-ce une révolution ?
Que pensez-vous des vulnérabilités identifiées dans les navigateurs basés sur l'IA ?
Les chercheurs appellent à repenser la conception des navigateurs Web à l'ère de l'IA. Qu'en pensez-vous ?

Voir aussi

Les navigateurs IA créent d'énormes vulnérabilités en matière de cybersécurité : ChatGPT Atlas, Comet de Perplexity et Microsoft Copilot Mode exposent les utilisateurs à des risques de piratage

Microsoft transforme peu à peu son navigateur web Edge en une autre application de son IA Copilot et test une interface redessinée qui s'inspire de Copilot

Mythos d'Anthropic a détecté 271 failles de sécurité dans Mozilla Firefox 150, Mozilla affirme que ce nouveau modèle d'IA est « tout aussi performant » que les meilleurs chercheurs en sécurité au monde