Perplexity ne se contente pas d'être un simple moteur de recherche. La société vient de lancer Personal Computer, un nouvel outil d'agent capable de transformer un Mac mini en un système d'IA fonctionnant en local. La plateforme peut se connecter à des outils tiers comme Gmail, Outlook, GitHub, Slack, Notion, Snowflake, Databricks ou Salesforce afin d'interagir avec les données qui y sont stockées. C'est une version locale de la plateforme cloud « Computer » lancé par Perplexity le mois dernier. Personal Computer est présenté comme « votre représentant numérique ». Mais il intervient dans un contexte où les incidents liés aux agents IA se multiplient.Perplexity est une startup qui exploite un moteur de recherche basé sur l'IA. Le mois dernier, Perplexity a lancé « Computer », un outil d’agent basé sur le cloud destiné à accomplir des tâches à l’aide d’un ensemble exploitant plusieurs modèles d’IA différents. Cette semaine, la société transpose ce type de fonctionnalités sur ordinateur de bureau avec « Personal Computer », désormais disponible en accès anticipé, mais uniquement sur invitation.
Personal Computer n'est pas un ordinateur au sens strict du terme. Il s'agit d'une interface Web basée sur le cloud qui sert de couche d'orchestration pour exécuter des tâches en arrière-plan à l'aide de modèles d'IA et de déclencheurs conditionnels, effectuer des recherches sur le Web, déléguer des tâches à des sous-agents, se connecter aux applications cloud d'autres fournisseurs (Gmail, Outlook, Slack, etc.) et automatiser l'utilisation des outils.
Si l'idée de laisser « un avatar numérique persistant » accéder à vos fichiers privés locaux vous inquiète, vous n'êtes pas le seul. Perplexity promet que Personal Computer fonctionne dans un environnement sécurisé doté de mesures de protection claires, que toutes les actions sensibles nécessitent l’approbation de l’utilisateur, et bien d'autres. Mais ces garde-fous suffisent-ils ? Des incidents ont démontré que l'IA peut très vite devenir incontrôlable.
Comment fonctionne la nouvelle plateforme Personal Computer
Personal Computer fonctionne sur un Mac mini dédié, connecté aux applications locales de l'utilisateur et aux serveurs de Perplexity, agissant comme un mandataire numérique capable de gérer outils, tâches et fichiers depuis n'importe quel appareil. Perplexity présente Personal Computer comme « votre représentant numérique ». La société a également déclaré que le système pourra être contrôlé depuis n’importe où et sur n’importe quel appareil.
Tout comme la version en ligne, Personal Computer demande aux utilisateurs de décrire des objectifs généraux plutôt que des tâches informatiques spécifiques : une vidéo de démo montre les questions de Personal Computer dans une barre latérale, qui demande par exemple de « créer un guide pédagogique interactif ». Avec l'accès local à vos fichiers et applications, il peut les ouvrir et les manipuler directement pour tenter d’accomplir ces tâches.
Personal Computer devrait sembler familier aux utilisateurs de l'application open source OpenClaw (anciennement Moltbot), qui permet également aux utilisateurs de laisser des agents IA agir librement sur leurs ordinateurs personnels. L'expérience OpenClaw s'est soldée par des pertes de fichiers pour certains.
Perplexity affirme que Personal Computer est plus sécurisé que d’autres systèmes d’agents comme OpenClaw. Il offrirait aux utilisateurs une « piste d’audit complète » et la possibilité d’annuler des actions ou d’approuver des actions sensibles avant qu’elles ne soient exécutées par l'IA. Il existe également un kill switch, qui serait probablement utile si le système devenait incontrôlable et commençait à supprimer tous vos documents à toute vitesse.
Perplexity a également lancé une version pour les entreprises
Perplexity est prêt à proposer son service d'IA aux entreprises, même si celles-ci peuvent encore se montrer réticentes à l'idée de déléguer des tâches à des agents logiciels. S'appuyant sur une étude interne portant sur plus de 16 000 requêtes, il a rapporté que « Computer for Enterprise » a permis aux équipes internes d'économiser 1,6 million de dollars en coûts de main-d'œuvre et l'équivalent de 3,2 années de travail en seulement quatre semaines.
Cela dit, en l'absence d'informations et de détails sur la méthodologie, il est difficile d'évaluer cette affirmation. Le plus simple est peut-être de se demander ce que l'on pourrait demander à Computer for Enterprise. Perplexity a répondu à cette attente en proposant une bibliothèque de suggestions de requêtes.
Exemple : « trier les tickets d'assistance du week-end par niveau de gravité, rédiger des réponses provisoires aux clients, rédiger des notes de remontée et regrouper le tout dans un document pour la réunion de lundi ». Un exemple de requête est : « automatiser la vérification préalable en recoupant les affirmations des présentations commerciales avec des données en temps réel, en signalant les incohérences et en générant des rapports annotés ».
Dans un message publié sur X (ex-Twitter), le PDG Aravind Srinivas avance avec ambition que ce produit pourrait aider une seule personne à créer une entreprise valant un milliard de dollars en surmontant le « plus grand inconvénient » dont souffrent les gens : le sommeil. « Il ne dort jamais. C’est un outil personnel et plus puissant que n’importe quel système d’IA jamais lancé », a-t-il écrit. Mais les utilisateurs soulignent les inconvénients potentiels.
Les utilisateurs craignent des incidents liés aux agents d'IA
Un développeur a partagé son expérience : il a confié à Claude Code la gestion d'une migration d'infrastructure Terraform sur AWS. En quelques minutes, l'IA a détruit l'intégralité de son environnement de production (base de données, snapshots compris) faisant disparaître 2,5 ans d'historique de cours. L'incident soulève la question suivante : jusqu'où peut-on déléguer à une IA des opérations irréversibles sur des environnements de production ?
Le PDG de Replit, Amjad Masad, fait partie de ceux qui pensent que les générateurs de code permettront de démocratiser le développement de logiciels, ce qui rendra à l'avenir le recours aux codeurs professionnels moins indispensables. Mais des incidents démontrent que la vigilance humaine reste importante dans la filière. L'année dernière, le PDG de Replit s'est excusé après l’effacement par son agent d'IA de la base de code d’une entreprise.
Un investisseur en capital-risque voulait voir jusqu'où l'IA pouvait l'amener dans la création d'une application. Elle l'a mené assez loin pour détruire une base de données de production en direct. L'incident est survenu au cours d'une expérience de vibe coding de 12 jours menée par Jason Lemkin, investisseur dans des startups spécialisées dans les logiciels. Comme cela a été rapporté, au neuvième jour du défi de vibe coding, les choses ont mal tourné.
Malgré l'instruction de geler toutes les modifications de code, l'agent d'IA de Replit a agi de manière incontrôlée. « Il a supprimé notre base de données de production sans autorisation », a écrit Jason Lemkin dans un billet sur X (ew-Twitter). « Pire encore, il l'a caché et a menti à ce sujet », a-t-il ajouté.
L'outil Gemini CLI de Google a également été impliqué dans un incident similaire. L'incident Gemini CLI s'est produit lorsqu'un chef de produit qui testait l'outil en ligne de commande de Google a vu le modèle d'IA exécuter des opérations sur des fichiers qui ont détruit des données alors qu'il tentait de réorganiser des dossiers. La destruction s'est produite à la suite d'une série de commandes de déplacement ciblant un répertoire qui n'a jamais existé.
Installer les assistants IA dans des environnements isolés contrôlés
Les outils et les environnements des développeurs font désormais l'objet d'une attention particulière, car ils offrent un accès illimité et évoluent très rapidement. Des acteurs tels qu'Anthropic, Cursor, Replit, Cognition et Lovable offrent des outils d'IA avancés d'aide au développement de logiciel. Mais selon les experts en cybersécurité, pour des raisons de sécurité, vous n'êtes pas censé installer ces outils d'IA de codage sur votre ordinateur personnel.
Les craintes liées à la sécurité d'OpenClaw ont notamment poussé Meta et d'autres entreprises d'IA à en restreindre l'utilisation. Chez Meta, un exécutif anonyme a récemment dit à son équipe de garder OpenClaw hors de leurs ordinateurs portables de travail habituels, sous peine de risquer leur emploi. Il estime que le logiciel est imprévisible et pourrait conduire à une violation de la vie privée même dans des environnements autrement sécurisés.
Envoyé par Commentaire d'un utilisateur d'OpenClaw
OpenClaw est en fait une personne réelle que vous avez embauchée, dont les capacités sont vastes et rapides, à la fois dans le bon sens et dans le mauvais sens. Mais vous l'avez embauchée sans CV ni vérification de ses antécédents comportementaux. Par conséquent, vous refusez et limitez l'accès à vos appareils, à vos identifiants de compte et même à ses propres autorisations de compte complètes, dès le départ, dans la même mesure que vous refuseriez cet accès à un nouvel employé.
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
