Perplexity et Nvidia lancent « Portable Computer », une plateforme d'IA conçue pour fonctionner entièrement en local sur le matériel de l'utilisateur. Elle permet d'exécuter des tâches complexes et de traiter des documents sensibles sans dépendre du cloud, garantissant ainsi une confidentialité totale et une absence de frais liés à l'utilisation de token. Le système privilégie les ressources matérielles sur site, comme les processeurs graphiques RTX de Nvidia, tout en offrant la possibilité de solliciter des modèles distants plus puissants si nécessaire. Cette plateforme d'IA marque un tournant stratégique, bien que des limites matérielles et logicielles subsistent.Jusque-là, l'accès aux modèles d'IA de pointe tels que ChatGPT et Claude se faisait depuis le cloud. Toutefois, cela posait de nombreux défis liés à la confidentialité et à la vie privée : les données sensibles (code source, informations personnelles...) devaient transiter par des serveurs distants, hors du contrôle direct de l'utilisateur. Ce qui l'exposait à des risques de fuite de données ou à la réutilisation des contenus pour entraîner des modèles.
Pour faire face à ce problème, Perplexity a lancé « Portable Computer », une version de son produit Perplexity Computer qui fonctionne entièrement sur l'ordinateur de l'utilisateur. Ce produit a été développé en collaboration avec le fabricant de puces Nvidia. Cette annonce intervient alors que des informations indiquent que Nvidia souhaiterait prendre une participation dans Perplexity pour une valorisation supérieure à 30 milliards de dollars.
Computer est un agent capable d’effectuer des tâches à votre place. Cet assistant polyvalent utilise les mêmes interfaces et applications que vous. Vous décrivez une tâche en langage naturel, puis Computer lance des sous-agents selon les besoins pour effectuer des recherches et connecter des outils.
Portable Computer : une IA locale sans frais de token
Portable Computer est un projet qui vise à déplacer les charges de travail complexes des agents IA du cloud vers les appareils locaux, permettant aux fichiers, aux modèles et au travail de rester confinés sur la machine de l'utilisateur. Cette approche garantit l'absence de frais de facturation, l'appareil démarrant chaque tâche par défaut et sollicitant l'autorisation de l'utilisateur avant d'envoyer toute étape vers un modèle cloud plus puissant.
Nate Kupp, vice-président de l'ingénierie pour l'infrastructure et l'entreprise chez Perplexity, affirme que la société a essentiellement transposé la même interface utilisateur sur une application entièrement locale, intégrant ainsi l'ensemble de la structure d'agent IA, de l'inférence et de tout ce qui est nécessaire pour travailler localement. Pour le géant Nvidia, cette annonce démontre que l'intelligence artificielle locale a franchi un cap décisif.
Nader Khalil, directeur de la technologie pour les développeurs chez Nvidia, a déclaré à ce sujet que « l'IA locale a atteint un point d'inflexion », passant du statut de curiosité pour amateurs à celui d'outil pratique grâce à l'émergence de nouveaux modèles d'IA open source très utiles et performants.
Portable Computer est conçu pour exécuter autant de tâches que possible en local, sur votre propre matériel. Vous pouvez résumer des documents, extraire des informations et effectuer des analyses, envoyer des fichiers vers des applications, etc. Mais si Portable Computer rencontre une tâche trop complexe pour le modèle local, il s’arrêtera et vous demandera si vous souhaitez plutôt la déléguer à une IA plus puissante, basée sur le cloud.
Une plateforme d'IA locale unifiée et prête à l'emploi
Portable Computer rassemble au sein d'un système unique des modèles locaux, un moteur d'inférence, des connecteurs d'applications, des outils et un bac à sable de sécurité. Cette intégration clé en main résout le principal problème des installations locales classiques, qui imposent habituellement aux utilisateurs de configurer et d'assembler ces éléments séparément. (Des critiques mettent en garde contre l'envoi de données de télémétrie.)
Dès son lancement, il pourra exécuter Qwen 3.8 27B ou Qwen PPLX 27B. Lors d'une démo, il a ainsi simulé l'analyse confidentielle de documents fiscaux et d'investissement par un investisseur individuel. En faisant tourner localement Qwen 3.8 27B sur un DGX Spark à pleine utilisation de son GPU, cet assistant IA a pu inspecter chaque document et identifier les frais inutiles, tandis que « le compteur de crédits cloud est resté égal à zéro ».
Un autre essai a démontré la capacité de Portable Computer à fonctionner de manière hybride en analysant localement des données de tunnel d'achat avant de publier le rapport final sur Slack. Portable Computer propose des connexions avec des plateformes tierces telles que Google Drive, Gmail et GitHub. En plus de Qwen 3.8 27B ou Qwen PPLX 27B, la prise en charge des modèles Nemotron 3.5 Lightning de Nvidia sera bientôt disponible.
L'accès est réservé aux abonnés Pro, Max, Enterprise Pro et Enterprise Max sous Linux, l'environnement Windows devant suivre en septembre. macOS est pour l'instant absent de la feuille de route de Portable Computer. Le matériel requis exige au minimum une carte graphique RTX avec 24 Go de mémoire vidéo.
Co-conception entre modèle et structure d'agent IA
En marge de ce lancement de l'outil Portable Computer, Perplexity a publié un document de recherche démontrant qu'un agent IA local efficace repose sur la conception conjointe du modèle et de sa structure d'orchestration. Les architectures généralistes actuelles supposent que les modèles peuvent absorber d'immenses contextes et gérer de nombreux outils, une exigence sous laquelle les petits modèles locaux ont tendance à s'effondrer.
Parmi les améliorations apportées par Portable Computer, les connecteurs comme Gmail et GitHub ont été convertis en outils légers en ligne de commande, et un mécanisme d'autovérification surveille la bonne exécution des tâches. La sécurité est également renforcée par un bac à sable au niveau du système d'exploitation qui désactive l'infrastructure en cas d'indisponibilité, ce qui empêche l'exécution non protégée de prompt par le modèle.
Les tests menés par Perplexity révèlent que Portable Computer fonctionnant avec Qwen 3.8 27B obtient un score de 82,6 % sur Local Knowledge Work Bench, un benchmark composé de 53 tâches complexes d'analyse financière, de recherche approfondie et de rédaction documentaire. Ce résultat surpasse nettement les systèmes open source concurrents exécutant exactement le même modèle de base, comme Pi (77,6 %) ou Hermes (74,0 %).
La version personnalisée PPLX 27B parvient à hisser ce score à 85,4 %. Les écarts de performance s'accentuent de manière spectaculaire sur des benchmarks plus spécialisés. Sur le benchmark de recherche Web BrowseComp, l'application de Perplexity atteint une exactitude de 66,7 % (contre 50,2 % pour Pi et 43,9 % pour Hermes), tout en se payant le luxe de consommer 51 % de temps de calcul en moins et 70 % de jetons en moins que Pi.
Rentabilité économique et protection des données
La viabilité économique de cette initiative repose sur la consommation intense de tokens par les agents IA autonomes. Contrairement aux systèmes de messagerie instantanée classiques où les échanges sont ponctuels, les agents IA ont besoin de fonctionner en continu et de consommer un grand nombre de tokens pour accomplir leurs missions. Nader Khalil a expliqué que c'est « la demande insatiable de tokens qui rend l'IA locale si formidable ».
Un agent s'exécutant pendant des heures pour analyser des dossiers générerait des factures de cloud exorbitantes, alors que le coût marginal des tokens sur un équipement possédé localement devient nul. Pour les entreprises, cette approche résout simultanément la dérive des coûts et les enjeux de confidentialité.
Les données sensibles ne quittent jamais l'appareil de l'utilisateur. Comme souligné plus haut, en ce qui concerne les situations nécessitant une puissance accrue, un système d'escalade hybride permet au modèle local d'interroger un modèle cloud de pointe agissant comme « conseiller ». Ce mécanisme permet de récupérer environ trois cinquièmes de la performance d'un modèle de pointe « pour seulement deux tiers de son coût traditionnel ».
Avant chaque envoi d'informations vers le cloud, un classificateur de données personnelles examine le contexte et montre à l'utilisateur ce qui s'apprête à quitter la machine, le modèle distant ne renvoyant que des instructions textuelles sans jamais accéder directement aux fichiers locaux.
Limites matérielles, logicielles et critiques techniques
Malgré ces chiffres flatteurs, Portable Computer souffre de barrières à l'entrée très élevées et de limites de conception notables. Sur le plan matériel, l'application requiert au minimum une GPU RTX dotée de 24 Go de mémoire vidéo. Ce seuil exclut de fait l'immense majorité des ordinateurs personnels grand public. Sur le plan logiciel, Portable Computer est restreint à Linux pour son lancement, la...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.