IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

L'automatisation de la navigation qu'apporte l'extension Chrome d'Anthropic suscite des inquiétudes : les sites web malveillants peuvent intégrer des commandes invisibles que les agents IA suivront aveuglément

Le , par Stéphane le calme

305PARTAGES

6  0 
Anthropic a annoncé le lancement de Claude pour Chrome, un agent IA basé sur un navigateur web capable d'effectuer des actions pour le compte des utilisateurs. Le lancement a déclenché une vague d’enthousiasme, mais aussi de vives inquiétudes dans la communauté informatique. Cette expérimentation, limitée à un millier d’utilisateurs triés sur le volet, qui coûte entre 100 et 200 dollars par mois avec une liste d'attente pour les autres utilisateurs, marque un pas important dans la démocratisation des agents autonomes intégrés au navigateur. L’idée : transformer Claude, déjà perçu comme un concurrent sérieux de ChatGPT, en véritable assistant numérique capable de naviguer, cliquer, remplir des formulaires et gérer des emails à la place de l’utilisateur.

Mais derrière le discours marketing sur la productivité, une question s’impose : dans quelle mesure confier son navigateur à une IA revient-il à tendre les clés d’un système entier à des acteurs malveillants ?


Le navigateur est en passe de devenir le prochain champ de bataille des laboratoires d'IA, qui cherchent à utiliser les intégrations de navigateur pour offrir des connexions plus fluides entre les systèmes d'IA et leurs utilisateurs. Perplexity a récemment lancé son propre navigateur, Comet, qui dispose d'un agent IA capable d'effectuer certaines tâches à la place des utilisateurs. OpenAI serait sur le point de lancer son propre navigateur alimenté par l'IA, qui aurait des fonctionnalités similaires à celles de Comet. Parallèlement, Google a lancé ces derniers mois des intégrations Gemini avec Chrome.

La course au développement de navigateurs alimentés par l'IA est particulièrement pressante compte tenu de l'affaire antitrust qui pèse sur Google, dont la décision finale est attendue d'un jour à l'autre. Le juge fédéral chargé de l'affaire a laissé entendre qu'il pourrait contraindre Google à vendre son navigateur Chrome. Perplexity a soumis une offre non sollicitée de 34,5 milliards de dollars pour Chrome, et le PDG d'OpenAI, Sam Altman, a laissé entendre que son entreprise serait également disposée à l'acheter.

L'extension Claude pour Chrome permet aux utilisateurs de discuter avec le modèle d'IA Claude dans une fenêtre latérale qui conserve le contexte de tout ce qui se passe dans leur navigateur. Les utilisateurs peuvent autoriser Claude à effectuer des tâches telles que la gestion des calendriers, la planification de réunions, la rédaction de réponses à des e-mails, le traitement des notes de frais et le test des fonctionnalités des sites web.

L'extension de navigateur s'appuie sur la fonctionnalité Computer Use d'Anthropic, lancée par la société en octobre 2024. Computer Use est une fonctionnalité expérimentale qui permet à Claude de prendre des captures d'écran et de contrôler le curseur de la souris d'un utilisateur pour effectuer des tâches, mais la nouvelle extension Chrome offre une intégration plus directe au navigateur.

Une innovation séduisante : Claude, copilote de la navigation web

Selon Anthropic, Claude for Chrome n’est pas une simple extension d’aide à la rédaction. Il s’agit d’un agent autonome intégré dans un panneau latéral, capable de :
  • cliquer automatiquement sur des boutons,
  • naviguer d’un site à un autre,
  • saisir des informations dans des formulaires,
  • effectuer des recherches et résumer du contenu,
  • gérer des tâches répétitives comme la réservation de vols ou la planification de rendez-vous.

En d’autres termes, c’est l’aboutissement d’un vieux rêve de l’informatique : un assistant universel qui exécute pour nous ce que nous ferions manuellement dans un navigateur. Anthropic va même plus loin en parlant de « libérer du temps cognitif », avec l’idée que l’utilisateur n’aurait plus à s’occuper des tâches fastidieuses de navigation.

Dans une logique purement fonctionnelle, difficile de nier l’intérêt. Les développeurs y voient un outil d’automatisation, les entreprises un levier de productivité, et les utilisateurs lambda un moyen de réduire les frictions numériques.

Citation Envoyé par Anthropic
Au cours des derniers mois, nous avons connecté Claude à votre calendrier, à vos documents et à de nombreux autres logiciels. La prochaine étape logique consiste à permettre à Claude de fonctionner directement dans votre navigateur.

Nous considérons que l'utilisation de l'IA dans les navigateurs est inévitable : tant de tâches sont effectuées dans les navigateurs que le fait de donner à Claude la possibilité de voir ce que vous regardez, de cliquer sur des boutons et de remplir des formulaires le rendra beaucoup plus utile.

Mais l'utilisation de l'IA dans les navigateurs pose des défis en matière de sûreté et de sécurité qui nécessitent des mesures de protection plus strictes. Les commentaires concrets de partenaires de confiance sur les utilisations, les lacunes et les questions de sécurité nous permettent de créer des classificateurs robustes et d'apprendre aux futurs modèles à éviter les comportements indésirables. Ainsi, à mesure que les capacités progressent, la sécurité des navigateurs suit le rythme.

Des agents utilisant des navigateurs et alimentés par des modèles de pointe font déjà leur apparition, ce qui rend ce travail particulièrement urgent. En résolvant les défis liés à la sécurité, nous pouvons mieux protéger les utilisateurs de Claude et partager ce que nous apprenons avec tous ceux qui créent un agent utilisant un navigateur sur notre API.

Nous commençons par des tests contrôlés : une extension Claude pour Chrome où les utilisateurs de confiance peuvent demander à Claude d'effectuer des actions en leur nom dans le navigateur. Nous menons actuellement un projet pilote avec 1 000 utilisateurs du plan Max (inscrivez-vous sur la liste d'attente) afin d'en apprendre autant que possible. Nous élargirons progressivement l'accès à mesure que nous développerons des mesures de sécurité plus strictes et renforcerons la confiance grâce à cet aperçu limité.

[CENTER][...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.

Une erreur dans cette actualité ? Signalez-nous-la !