Nvidia lance un modèle d'IA open source léger pouvant fonctionner sur un seul GPU : Nemotron 3.5 Lightning, comptant 30 milliards de paramètres

Peut être téléchargé, utilisé et modifié gratuitement

Nvidia a lancé Nemotron 3.5 Lightning, un modèle d’IA open source léger qui, selon l’entreprise, peut fonctionner sur un seul processeur graphique d’un PC. Nvidia a précisé que ce modèle est libre de téléchargement, d’utilisation et de modification par les entreprises, sans autorisation ni paiement, et qu’il est conçu pour des « agents », c’est-à-dire des programmes d’IA capables de fonctionner de manière autonome en arrière-plan. Des représentants de Nvidia ont expliqué que la société avait eu recours à la distillation pour doter Nemotron 3.5 Lightning de capacités similaires à celles de ses modèles Nemotron plus puissants.

Nvidia est une multinationale américaine spécialisée dans les technologies, dont le siège social est situé à Santa Clara, en Californie. La société développe des processeurs graphiques (GPU), des systèmes sur puce (SoC) et des interfaces de programmation d'applications (API) destinés à la science des données, au calcul haute performance, à l'intelligence artificielle (IA), ainsi qu'aux applications mobiles et automobiles. Fondée en 1993 par Jensen Huang, Chris Malachowsky et Curtis Priem, Nvidia est souvent qualifiée de « Big Tech ».

Récemment, Nvidia a lancé Nemotron 3.5 Lightning, un modèle d’IA open source léger qui, selon l’entreprise, peut fonctionner sur un seul processeur graphique d’un PC. Nvidia a précisé que ce modèle est libre de téléchargement, d’utilisation et de modification par les entreprises, sans autorisation ni paiement, et qu’il est conçu pour des « agents », c’est-à-dire des programmes d’IA capables de fonctionner de manière autonome en arrière-plan.

Le fabricant de puces a également présenté le logiciel NeMo Switchyard, destiné à aider à déterminer le modèle d’IA le moins coûteux et le plus adapté à une tâche donnée. Des représentants de Nvidia ont expliqué que la société avait eu recours à la distillation pour doter Nemotron 3.5 Lightning de capacités similaires à celles de ses modèles Nemotron plus puissants. Cette annonce fait suite à la récente initiative du PDG Jensen Huang en faveur des modèles ouverts et à sa déclaration selon laquelle l’IA open source devrait être bénéfique pour le matériel et les puces.

Cette annonce intervient alors que Nvidia a lancé l'Open Secure AI Alliance, un consortium de 44 entreprises fondatrices dédié à la sécurité de l'intelligence artificielle (IA) axée sur les modèles ouverts, mais qui exclut délibérément OpenAI, Google et Anthropic. Cette initiative fait suite à une cyberattaque contre Hugging Face perpétrée par des modèles d'IA rebelles ayant échappé à l'environnement de test d'OpenAI.

Incapable de mobiliser les modèles fermés américains pour se défendre — leurs garde-fous ne permettant pas de distinguer l'attaquant du défenseur —, Hugging Face a dû recourir à GLM 5.2, un modèle chinois à poids ouverts auto-hébergé. Microsoft, SpaceX et Palantir ont rejoint l'initiative, alors que Washington envisage de sanctionner la Chine pour vol de propriété intellectuelle. À travers cette alliance, Nvidia positionne les modèles à poids ouverts comme une nécessité opérationnelle pour la cyber-résilience.


Voici l'annonce de Nvidia :

NVIDIA Nemotron 3.5 Lightning et NeMo Switchyard offrent une IA agentique plus rapide, plus intelligente et plus efficace

Alors que l’IA passe des chatbots aux agents autonomes, les modèles ouverts répondent aux exigences du marché qui souhaitent un contrôle total sur l’emplacement d’exécution de l’IA, ainsi que sur son déploiement et son évolution.

Aujourd’hui, NVIDIA élargit sa gamme de modèles Nemotron 3 avec Nemotron 3.5 Lightning, le modèle le plus performant de sa catégorie pour les charges de travail d’IA agentique de longue durée. Cette version fait suite à Nemotron 3 Nano et reflète l’engagement de NVIDIA à améliorer en permanence ses modèles ouverts pour une précision et une vitesse accrues.

Conçu pour des tâches spécialisées au sein de grands systèmes multi-agents, Nemotron 3.5 Lightning, un modèle « mixture-of-experts » de 30 milliards de paramètres, permet de créer des applications agentiques plus intelligentes et plus efficaces.

Par ailleurs, NVIDIA lance NeMo Switchyard, une bibliothèque open source dédiée au routage intelligent au sein des outils d’agents les plus courants. Les entreprises peuvent l’utiliser pour créer un routeur adapté à leurs besoins spécifiques. Une fois déployé, NeMo Switchyard peut diriger intelligemment chaque requête vers le modèle le plus performant et le mieux adapté à la tâche, parmi la combinaison de modèles ouverts, propriétaires et NVIDIA choisie par les développeurs, sans que ceux-ci aient à réécrire leurs applications.

Ensemble, Nemotron 3.5 Lightning et NeMo Switchyard offrent un meilleur contrôle sur la manière dont l’IA est déployée, l’endroit où elle s’exécute et son efficacité opérationnelle — que ce soit sur des PC, des stations de travail, dans des centres de données ou dans le cloud.


Les agents « toujours actifs » ont besoin d’un système de modèles

Les systèmes agentiques modernes — les agents « toujours actifs » — fonctionnent de plus en plus comme des systèmes de modèles, ou des ensembles de modèles, avec différents modèles spécialisés pour différentes tâches.

Les modèles ouverts NVIDIA Nemotron sont conçus pour cette architecture. Un modèle de raisonnement de pointe tel que Nemotron 3 Ultra ou GPT-5.6 peut planifier et orchestrer un flux de travail, tandis que des modèles spécialisés plus petits comme Nemotron 3.5 Lightning peuvent effectuer des tâches ciblées telles que la révision de code, l’utilisation d’outils, la surveillance des alertes de sécurité et la réponse aux questions de facturation.

Prise en charge de tâches spécialisées à haut volume avec Nemotron 3.5 Lightning

NVIDIA Nemotron 3.5 Lightning est un modèle ouvert entièrement personnalisable, conçu pour les tâches à haut volume et destiné à alimenter des agents fonctionnant en continu. Il a été développé avec la contribution de la Nemotron Coalition, dont les membres ont fourni des méthodologies d’évaluation, des logiciels d’inférence et des jeux de données pour faire progresser le modèle.

Le modèle offre une vitesse de sortie jusqu’à 4 fois plus rapide, ce qui se traduit par une exécution des tâches des agents 30 % plus rapide par rapport aux autres modèles de sa catégorie. Et comme il est ouvert et personnalisable, Nemotron 3.5 Lightning peut être facilement réentraîné avec NVIDIA NeMo à partir des données, des outils et des workflows propres à une organisation, afin d’améliorer la précision pour des tâches spécialisées.


Des leaders de l’IA issus de divers secteurs personnalisent Nemotron 3.5 Lightning pour leurs charges de travail, notamment CrowdStrike pour la cybersécurité, Harvey en collaboration avec Trajectory pour les services juridiques et CodeRabbit en collaboration avec Baseten pour la révision de code, contribuant ainsi à améliorer la précision des tâches agentiques spécifiques à leur domaine. De plus, Lila Sciences contribue à améliorer les capacités de raisonnement pour les tâches « agentiques » dans les domaines des sciences physiques et de la vie, tandis que Fastino Labs a personnalisé le modèle et obtient des niveaux de précision de pointe pour les charges de travail liées au développement logiciel, à la finance et à la santé.


Nemotron 3.5 Lightning offre également aux organisations un contrôle sur la confidentialité et le déploiement. Il peut fonctionner sur des systèmes d’IA locaux — notamment les PC NVIDIA RTX, NVIDIA DGX Spark, NVIDIA DGX Station et NVIDIA Jetson — afin d’aider les utilisateurs à tirer le meilleur parti de leurs investissements existants en infrastructure, ou à évoluer sur des appareils d’IA en périphérie, des stations de travail NVIDIA RTX PRO, des centres de données et des environnements cloud pour des cas d’utilisation en entreprise. De plus, Nemotron 3.5 Lightning peut fonctionner localement ou sur site pour des tâches spécialisées à haut volume nécessitant des réponses rapides.

De plus, comme à chaque lancement de Nemotron, NVIDIA publie autant de données et de techniques d’entraînement que le permettent les licences, ce qui permet la traçabilité, l’audit et l’entraînement d’autres modèles. Parallèlement à Lightning, NVIDIA lance Nemotron-RL-Agentic-Terminal-Pivot, un ensemble de données d’apprentissage par renforcement agentique utilisé pour le post-entraînement afin de développer des capacités d’agents de codage.

Des applications d’IA plus efficaces grâce au routage des modèles

Certains modèles sont plus adaptés au codage, d’autres au raisonnement, d’autres encore à des tâches légères, tandis que certains sont optimisés pour s’exécuter localement afin de garantir une confidentialité et une efficacité accrues. Si les clients s’appuient sur un seul modèle par défaut, ils risquent soit de dépenser trop, soit de perdre en qualité ; s’ils gèrent le routage manuellement, cela se transforme en un travail d’intégration susceptible de ralentir le déploiement.

NVIDIA NeMo Switchyard est une bibliothèque open source de routage de modèles destinée aux agents IA. Cette technologie achemine automatiquement les requêtes vers le modèle le plus performant et le plus efficace à chaque étape du flux de travail d’un agent, en fonction des besoins spécifiques. Les développeurs d’applications d’agents peuvent ajuster ou modifier le routeur à l’aide de différents algorithmes de routage afin de l’adapter à leurs priorités, telles que les...