Perplexity lance « Personal Computer », un système capable de transformer votre Mac mini en agent IA qui exécute des tâches en arrière-plan,

Mais il présente des risques pour la sécurité à l'instar d'OpenClaw

Perplexity lance « Personal Computer », un système capable de transformer votre Mac mini en agent IA qui exécute des tâches en arrière-plan
mais il présente des risques pour la sécurité à l'instar d'OpenClaw

Perplexity ne se contente pas d'être un simple moteur de recherche. La société vient de lancer Personal Computer, un nouvel outil d'agent capable de transformer un Mac mini en un système d'IA fonctionnant en local. La plateforme peut se connecter à des outils tiers comme Gmail, Outlook, GitHub, Slack, Notion, Snowflake, Databricks ou Salesforce afin d'interagir avec les données qui y sont stockées. C'est une version locale de la plateforme cloud « Computer » lancé par Perplexity le mois dernier. Personal Computer est présenté comme « votre représentant numérique ». Mais il intervient dans un contexte où les incidents liés aux agents IA se multiplient.

Perplexity est une startup qui exploite un moteur de recherche basé sur l'IA. Le mois dernier, Perplexity a lancé « Computer », un outil d’agent basé sur le cloud destiné à accomplir des tâches à l’aide d’un ensemble exploitant plusieurs modèles d’IA différents. Cette semaine, la société transpose ce type de fonctionnalités sur ordinateur de bureau avec « Personal Computer », désormais disponible en accès anticipé, mais uniquement sur invitation.

Personal Computer n'est pas un ordinateur au sens strict du terme. Il s'agit d'une interface Web basée sur le cloud qui sert de couche d'orchestration pour exécuter des tâches en arrière-plan à l'aide de modèles d'IA et de déclencheurs conditionnels, effectuer des recherches sur le Web, déléguer des tâches à des sous-agents, se connecter aux applications cloud d'autres fournisseurs (Gmail, Outlook, Slack, etc.) et automatiser l'utilisation des outils.

Si l'idée de laisser « un avatar numérique persistant » accéder à vos fichiers privés locaux vous inquiète, vous n'êtes pas le seul. Perplexity promet que Personal Computer fonctionne dans un environnement sécurisé doté de mesures de protection claires, que toutes les actions sensibles nécessitent l’approbation de l’utilisateur, et bien d'autres. Mais ces garde-fous suffisent-ils ? Des incidents ont démontré que l'IA peut très vite devenir incontrôlable.

Comment fonctionne la nouvelle plateforme Personal Computer

Personal Computer fonctionne sur un Mac mini dédié, connecté aux applications locales de l'utilisateur et aux serveurs de Perplexity, agissant comme un mandataire numérique capable de gérer outils, tâches et fichiers depuis n'importe quel appareil. Perplexity présente Personal Computer comme « votre représentant numérique ». La société a également déclaré que le système pourra être contrôlé depuis n’importe où et sur n’importe quel appareil.


Tout comme la version en ligne, Personal Computer demande aux utilisateurs de décrire des objectifs généraux plutôt que des tâches informatiques spécifiques : une vidéo de démo montre les questions de Personal Computer dans une barre latérale, qui demande par exemple de « créer un guide pédagogique interactif ». Avec l'accès local à vos fichiers et applications, il peut les ouvrir et les manipuler directement pour tenter d’accomplir ces tâches.

Personal Computer devrait sembler familier aux utilisateurs de l'application open source OpenClaw (anciennement Moltbot), qui permet également aux utilisateurs de laisser des agents IA agir librement sur leurs ordinateurs personnels. L'expérience OpenClaw s'est soldée par des pertes de fichiers pour certains.

Perplexity affirme que Personal Computer est plus sécurisé que d’autres systèmes d’agents comme OpenClaw. Il offrirait aux utilisateurs une « piste d’audit complète » et la possibilité d’annuler des actions ou d’approuver des actions sensibles avant qu’elles ne soient exécutées par l'IA. Il existe également un kill switch, qui serait probablement utile si le système devenait incontrôlable et commençait à supprimer tous vos documents à toute vitesse.

Perplexity a également lancé une version pour les entreprises

Perplexity est prêt à proposer son service d'IA aux entreprises, même si celles-ci peuvent encore se montrer réticentes à l'idée de déléguer des tâches à des agents logiciels. S'appuyant sur une étude interne portant sur plus de 16 000 requêtes, il a rapporté que « Computer for Enterprise » a permis aux équipes internes d'économiser 1,6 million de dollars en coûts de main-d'œuvre et l'équivalent de 3,2 années de travail en seulement quatre semaines.

Cela dit, en l'absence d'informations et de détails sur la méthodologie, il est difficile d'évaluer cette affirmation. Le plus simple est peut-être de se demander ce que l'on pourrait demander à Computer for Enterprise. Perplexity a répondu à cette attente en proposant une bibliothèque de suggestions de requêtes.

Exemple : « trier les tickets d'assistance du week-end par niveau de gravité, rédiger des réponses provisoires aux clients, rédiger des notes de remontée et regrouper le tout dans un document pour la réunion de lundi ». Un exemple de requête est : « automatiser la vérification préalable en recoupant les affirmations des présentations commerciales avec des données en temps réel, en signalant les incohérences et en générant des rapports annotés ».

Dans un message publié sur X (ex-Twitter), le PDG Aravind Srinivas avance avec ambition que ce produit pourrait aider une seule personne à créer une entreprise valant un milliard de dollars en surmontant le « plus grand inconvénient » dont souffrent les gens : le sommeil. « Il ne dort jamais. C’est un outil personnel et plus puissant que n’importe quel système d’IA jamais lancé », a-t-il écrit. Mais les utilisateurs soulignent les inconvénients potentiels.

Les utilisateurs craignent des incidents liés aux agents d'IA

Un développeur a partagé son expérience : il a confié à Claude Code la gestion d'une migration d'infrastructure Terraform sur AWS. En quelques minutes, l'IA a détruit l'intégralité de son environnement de production (base de données, snapshots compris) faisant disparaître 2,5 ans d'historique de cours. L'incident soulève la question suivante : jusqu'où peut-on déléguer à une IA des opérations irréversibles sur des environnements de production ?

Le PDG de Replit, Amjad Masad, fait partie de ceux qui pensent que les générateurs de code permettront de démocratiser le développement de logiciels, ce qui rendra à l'avenir le recours aux codeurs professionnels moins indispensables. Mais des incidents démontrent que la vigilance humaine reste importante dans la filière. L'année dernière, le PDG de Replit s'est excusé après l’effacement par son agent d'IA de la base de code d’une entreprise.

Un investisseur en capital-risque voulait voir jusqu'où l'IA pouvait l'amener dans la création d'une application. Elle l'a mené assez loin pour détruire une base de données de production en direct. L'incident est survenu au cours d'une expérience de vibe coding de 12 jours menée par Jason Lemkin, investisseur dans des startups spécialisées dans les logiciels. Comme cela a été rapporté, au neuvième jour du défi de vibe coding, les choses ont mal tourné.

Malgré l'instruction de geler toutes les modifications de code, l'agent d'IA de Replit a agi de manière incontrôlée. « Il a supprimé notre base de données de production sans autorisation », a écrit Jason Lemkin dans un billet sur X (ew-Twitter). « Pire encore, il l'a caché et a menti à ce sujet », a-t-il ajouté.

L'outil Gemini CLI de Google a également été impliqué dans un incident similaire. L'incident Gemini CLI s'est produit lorsqu'un chef de produit qui testait l'outil en ligne de commande de Google a vu le modèle d'IA exécuter des opérations sur des fichiers qui ont détruit des données alors qu'il tentait de réorganiser des dossiers. La destruction s'est produite à la suite d'une série de commandes de déplacement ciblant un répertoire qui n'a jamais existé.

Installer les assistants IA dans des environnements isolés contrôlés

Les outils et les environnements des développeurs font désormais l'objet d'une attention particulière, car ils offrent un accès illimité et évoluent très rapidement. Des acteurs tels qu'Anthropic, Cursor, Replit, Cognition et Lovable offrent des outils d'IA avancés d'aide au développement de logiciel. Mais selon les experts en cybersécurité, pour des raisons de sécurité, vous n'êtes pas censé installer ces outils d'IA de codage sur votre ordinateur personnel.

Les craintes liées à la sécurité d'OpenClaw ont notamment poussé Meta et d'autres entreprises d'IA à en restreindre l'utilisation. Chez Meta, un exécutif anonyme a récemment dit à son équipe de garder OpenClaw hors de leurs ordinateurs portables de travail habituels, sous peine de risquer leur emploi. Il estime que le logiciel est imprévisible et pourrait conduire à une violation de la vie privée même dans des environnements autrement sécurisés.

Summer Yue, responsable de la sécurité et de l'alignement de l'IA chez Meta, a récemment rencontré une mauvaise expérience avec l'assistant d'IA OpenClaw. Dans un billet, elle a partagé que l'outil a complètement déraillé, devenant presque incontrôlable, et prenant des mesures non souhaitées sans que l'utilisateur le lui demande. Elle a déclaré avoir essayé d'arrêter le processus depuis son téléphone en envoyant un message à son agent IA.

Elle n'y est pas parvenue et a dû se précipiter vers son Mac mini pour mettre fin manuellement aux processus de l'agent. Après avoir supprimé plus de 200 emails, le chatbot d'IA est redevenu contrôlable. Il a alors réalisé son erreur et s'est excusé auprès de Summer Yue. Il a reconnu avoir enfreint les instructions.

Disponibilité des nouveaux produits de Perplexity

Personal Computer n'est pas encore disponible ; Perplexity indique que les utilisateurs potentiels devront s'inscrire sur une liste d'attente pour bénéficier d'un accès anticipé, sans toutefois préciser la date de lancement du service. Tout comme Perplexity Computer, Personal Computer est principalement destiné à un usage professionnel, s'inscrivant dans la stratégie globale de l'entreprise visant à se positionner comme un outil spécialisé.


Dans une vidéo de démonstration, Perplexity montre un utilisateur utilisant Personal Computer comme un assistant virtuel : il tape et dicte des instructions pour lui faire rédiger des courriels à l'intention d'investisseurs, transformer des rapports en présentations PowerPoint et classer des candidats à un poste.

Computer for Enterprise est déjà disponible pour les organisations, sans liste d'attente ni restriction particulière. Les plateformes Search, Agent, Embeddings et Sandbox de la société sont désormais également accessibles via une API, et non plus uniquement via l'interface standard de Perplexity.

Conclusion

Perplexity lance Personal Computer pour les professionnels et Computer for Enterprise pour les entreprises. Avec ces deux nouveaux outils, Perplexity n'opère plus uniquement sur le marché des moteurs de recherche propulsés par l'IA, mais cherche à concurrencer directement des acteurs établis tels que Claude Desktop et OpenClaw. Ces produits ressemblent également à NanoBot, NanoClaw, PicoClaw, NullClaw ou d’autres projets de logiciels agents.

Les risques liés à la sécurité des outils d'IA de développement continuent d'être une source de préoccupation. Les chercheurs de l'équipe de veille stratégique Unit 42 de Palo Alto Networks ont averti qu'avec l'accélération de la prolifération et de l'adoption de ces outils, les risques peuvent être négligés. « Les assistants de codage basés sur le LLM font désormais partie intégrante des workflows de développement modernes », ont écrit les chercheurs.

Ces outils exploitent le traitement du langage naturel pour comprendre l'intention du développeur, générer des extraits de code et fournir des suggestions en temps réel, ce qui peut réduire le temps et les efforts consacrés au codage manuel. Certains de ces outils ont attiré l'attention en raison de leur intégration profonde dans les bases de code existantes et de leur capacité à aider les développeurs de logiciels à naviguer dans des projets complexes.

Cependant, ces outils de codage sont également sujets à des problèmes de sécurité potentiels qui pourraient avoir un impact sur les processus de développement. Les faiblesses identifiées sont susceptibles d'être présentes dans divers EDI et différents produits qui utilisent des LLM comme assistants de codage.

Source : Perplexity

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des nouveaux produits Personal Computer et Computer for Enterprise de Perplexity ?
Quid des risques de sécurité liés aux outils d'IA de développement ? Sont-ils suffisamment matures pour être déployés en production ?

Voir aussi

Un bogue critique dans la fonctionnalité Cowork de Claude Desktop crée un bundle VM de 10 Go sur macOS sans avertissement préalable, ce qui entraîne une dégradation importante des performances de l'ordinateur

La startup d'IA Perplexity a proposé d'acheter le navigateur Chrome pour 34,5 milliards de dollars, alors qu'elle s'efforce de contester la domination de Google dans le domaine de la recherche en ligne

Claude Code détruit 2,5 ans de données en production en un instant : le post-mortem qui devrait faire réfléchir tous les développeurs utilisant des agents IA