NVIDIA Nemotron 3.5 Super & Lightning : des MoE hybrides Mamba-Transformer open weights taillés pour l'IA agentique
🔎 L'architecture redevient l'arme fatale
Pendant des années, la course aux LLM s'est résumée à empiler des couches d'attention et à gonfler les fenêtres de contexte. Ça fonctionnait. Mais l'IA agentique a changé le profil de charge : un agent qui travaille des heures sur un dépôt de code ou un dossier juridique enchaîne des centaines d'appels d'outils, avec un contexte qui grossit à chaque tour de boucle. Et à chaque token généré, un Transformer classique doit relire l'intégralité de son cache KV. La facture mémoire et latence explose.
NVIDIA répond avec deux modèles open weights : Nemotron 3.5 Super (environ 120 milliards de paramètres totaux, ~12B actifs) et Nemotron 3.5 Lightning (~50B totaux, ~5B actifs). Deux mélanges d'experts (MoE) à architecture hybride Mamba-Transformer, décrits dans un technical report publié sur arXiv et téléchargeables sur la page Hugging Face de NVIDIA.
Ce lancement s'inscrit dans une stratégie déjà visible : après l'Nemotron 3 Ultra 550B présenté au Computex, NVIDIA complète désormais le milieu et le bas du spectre, là où tournent réellement les agents en production.
Mon avis en une phrase : c'est le lancement open weights le plus intéressant de NVIDIA depuis le début de la gamme Nemotron, parce qu'il ne cherche pas le plus gros modèle — il cherche le meilleur coût par token d'agent. Et sur ce terrain précis, l'architecture compte plus que la force brute.
L'essentiel
- Deux modèles open weights MoE hybrides : Super (~120B totaux, ~12B actifs) pour la qualité, Lightning (~50B, ~5B actifs) pour la vitesse et le coût.
- Architecture Mamba-Transformer : l'essentiel du réseau repose sur des blocs SSM à état constant, avec quelques couches d'attention pour préserver la récupération précise d'informations.
- Mémoire d'inférence quasi constante : le cache KV, goulot d'étranglement n°1 des agents sur longs contextes, est réduit d'environ 90 % à 128K tokens selon le paper.
- Contexte de 256K tokens maintenu sans effondrement des scores de rappel en bout de fenêtre (chiffres auto-déclarés).
- Licence permissive : poids téléchargeables librement, usage commercial autorisé sous NVIDIA Open Model License.
- Cible assumée : les agents — tool-calling, sessions longues, maîtrise du coût d'inférence.
Outils recommandés
| Outil | Usage principal | Prix (juin 2025) | Idéal pour |
|---|---|---|---|
| Hugging Face – orga nvidia | Télécharger les poids (FP8, NVFP4) | Gratuit | Récupérer les checkpoints officiels |
| build.nvidia.com | Tester via API sans GPU | Crédits d'essai puis facturation (vérifiez sur build.nvidia.com) | Évaluer avant d'acheter du GPU |
| vLLM | Servir en production | Open source | Débit et batching à grande échelle |
| Ollama | Lancer en local | Gratuit | Prototypage sur workstation |
| LM Studio | Interface graphique locale | Gratuit (usage personnel) | Débutants, tests rapides |
| Hostinger | VPS pour l'orchestration | À partir de ~5 €/mois (vérifiez sur hostinger.com) | Héberger n8n, APIs et bases vectorielles autour de l'API Nemotron |
Nemotron 3.5 Super et Lightning, c'est quoi exactement ?
Réponse directe : deux LLM open weights à architecture mixte, où des blocs Mamba (un modèle à espace d'états, ou SSM) sont entrecoupés de blocs d'attention classique, le tout organisé en MoE avec seulement une fraction des paramètres activés à chaque token.
Le design est simple à résumer : Super vise le meilleur compromis qualité/VRAM pour des agents sérieux, Lightning vise la latence minimale et le mono-GPU. Les deux partagent la même recette architecturale, le même contexte de 256K tokens et des poids publiés en FP8 et NVFP4.
| Nemotron 3.5 Lightning | Nemotron 3.5 Super | |
|---|---|---|
| Paramètres totaux | ~50B | ~120B |
| Paramètres actifs / token | ~5B | ~12B |
| Architecture | Hybride Mamba-Transformer MoE | Hybride Mamba-Transformer MoE |
| Contexte | 256K tokens | 256K tokens |
| Formats de poids | FP8, NVFP4 | FP8, NVFP4 |
| VRAM indicative (FP4) | ~28 Go | ~65 Go |
| Licence | NVIDIA Open Model License | NVIDIA Open Model License |
Selon le technical report, l'entraînement porte sur plus de 20 000 milliards de tokens, avec un ratio d'environ une couche d'attention pour huit blocs Mamba. Les deux modèles embarquent aussi un interrupteur de raisonnement activable à la volée — pratique pour doser latence et qualité selon les étapes d'un pipeline agentique.
Une famille calibrée pour les agents
Lightning et Super s'insèrent dans une gamme déjà dense. L'Nemotron 3 Ultra 550B occupe le sommet du classement open américain, tandis que la variante vision-langage Nemotron 3.5 Super VL, calibrée sur la même base de 120B avec 12B actifs, couvre les agents multimodaux.
Autrement dit : NVIDIA ne publie pas des modèles isolés, il construit une plateforme cohérente où chaque brique parle la même langue d'outils (NeMo, NIM, TensorRT-LLM). C'est exactement ce que veulent les équipes qui industrialisent des agents.
Licence : open weights, pas open source au sens strict
Précision honnête : la NVIDIA Open Model License autorise l'usage commercial et la redistribution des outputs, sans seuil d'utilisateurs à la Llama. Mais ce n'est pas une licence OSI au sens strict — des restrictions d'usage subsistent. Lisez-la avant un déploiement sensible.
Pourquoi le Mamba change la donne pour les agents
Réponse directe : parce que le goulot d'étranglement d'un agent n'est presque jamais la puissance de calcul, mais la mémoire et la latence sur un contexte qui grossit à chaque itération.
Un Transformer classique stocke, pour chaque token passé, ses vecteurs clé et valeur dans le cache KV. Cette mémoire croît linéairement avec le contexte, et chaque nouveau token généré impose de relire tout ce cache. À 128K tokens sur un MoE de 120B, le cache KV seul peut peser plusieurs dizaines de Go — avant même de compter les poids.
Les blocs Mamba fonctionnent autrement : ils maintiennent un état récurrent de taille fixe, indépendant de la longueur de la séquence. Mémoire O(1) au lieu de O(n). Conséquence directe : à contexte long, l'essentiel de la mémoire d'inférence devient… les poids eux-mêmes, pas le cache.
Le paper revendique une réduction du cache KV de l'ordre de 90 % à 128K tokens par rapport à un Transformer dense équivalent, et un débit multiplié par deux à trois en génération longue. Restez prudent : ce sont des chiffres constructeur, mesurés sur leurs propres configurations.
Pourquoi garder des couches d'attention alors ? Parce que les SSM purs copient mal l'information exacte — le fameux problème de récupération « aiguille dans une botte de foin ». L'hybride règle ce défaut : quelques couches d'attention rétablissent la précision de rappel, le Mamba absorbe le volume. C'est le meilleur des deux mondes, au prix d'une complexité d'ingénierie non négligeable.
Dernière nuance, pour être complet : sur du chat court ou du résumé simple, un Transformer moderne reste très bien. L'hybride paie vraiment sur les sessions d'agent qui durent, les corpus massifs et les pipelines multi-étapes. Si votre cas d'usage tient dans 8K tokens, cet article ne changera pas votre vie.
Benchmarks : où ils se placent (et comment lire ces chiffres)
Réponse directe : selon les chiffres auto-déclarés de NVIDIA, Super se hisse dans le tiers supérieur des modèles agentiques — modèles fermés inclus — et Lightning joue dans la cour des open weights efficients.
Voici le positionnement dans notre comparatif agentique mensuel, avec les scores Nemotron auto-déclarés marqués d'un astérisque :
| Modèle | Score agentique* | Poids | Verdict rapide |
|---|---|---|---|
| GPT-5.5 (OpenAI) | 98,2 | Fermé | La référence absolue, facturée au token |
| Gemini 3 Pro Deep Think (Google) | 95,4 | Fermé | Excellent en raisonnement long |
| Claude Opus 4.7 Adaptive (Anthropic) | 94,3 | Fermé | Le plus fiable en tool-calling |
| Kimi K2.6 (Moonshot AI) | 88,1 | Open (self-host) | Favori des builders open |
| Nemotron 3.5 Super (NVIDIA) | 85,1* | Open | Auto-déclaré — à vérifier |
| GLM-5 Reasoning (Z.AI) | 82,0 | Open (self-host) | Solide sur le raisonnement |
| Claude Sonnet 4.6 (Anthropic) | 81,4 | Fermé | Meilleur rapport qualité/prix fermé |
| Nemotron 3.5 Lightning (NVIDIA) | 79,3* | Open | Vitesse brute, budget serré |
| Grok 4.1 (xAI) | 79,0 | Fermé | Profil atypique |
*Les scores des modèles Nemotron proviennent du paper et des annonces NVIDIA, pas de tests indépendants.
Trois warnings avant de crier au scandale ou à la révolution. Un : les chiffres auto-déclarés ne se comparent jamais directement aux leaderboard indépendants — protocoles, températures et grilles d'évaluation diffèrent. Deux : les benchmarks agentiques mélangent des tâches hétérogènes ; un bon score moyen peut masquer une faiblesse sur votre cas précis. Trois : ce qui est réellement vérifiable, ce sont les poids — téléchargez-les et testez sur vos propres traces d'agents.
Pour situer la concurrence open : Z.AI pousse la logique inverse avec GLM-5.2, un monstre de 753B MoE à 1M de contexte sous licence MIT — plus puissant sur le papier, mais nettement plus gourmand à héberger. NVIDIA, lui, parie sur l'efficience plutôt que sur la taille.
Mon positionnement, sans détour : si les chiffres tiennent ne serait-ce qu'à 80 % en test indépendant, Super devient un candidat sérieux pour remplacer des API fermées dans les pipelines agentiques sensibles au coût. Pour une sélection actualisée au fil des mois, notre comparatif des meilleurs LLM et notre guide dédié aux LLM pour agents suivent l'évolution mois par mois.
La stratégie open de NVIDIA face à Llama et Qwen
Réponse directe : NVIDIA ne cherche pas à gagner la guerre des téléchargements — celle que dominent Qwen et les labos chinois — mais la guerre du coût par token d'agent, celle où son hardware décide.
Regardez d'abord le paysage. Llama a essoufflé : les dernières itérations ont déçu, Meta semble hésiter sur le niveau d'ouverture de ses prochains gros modèles, et le créneau du « open weights crédible made in USA » s'est retrouvé vacant. En face, Qwen écrase les compteurs de téléchargements grâce à un écosystème de fine-tunes, de quantizations et de support multilingue difficile à déloger.
NVIDIA attaque par un angle que personne d'autre ne peut tenir : la co-conception matériel/logiciel. Un modèle hybride Mamba-Transformer optimisé pour NVFP4, servi par vLLM ou les conteneurs NIM, exploite leurs GPU de façon optimale. Chaque point de débit gagné par token est un argument de vente de silicium.
Soyons lucides sur les motivations : l'open chez NVIDIA n'est pas de la philanthropie. Un agent qui tourne en local sur des poids ouverts consomme quand même des GPU — de préférence les leurs. C'est un modèle économique cohérent, et franchement, il est bien joué.
Reste un atout moins visible : la crédibilité entreprise. Pour un DSI, publier des poids sous une licence permissive, avec un support professionnel derrière, rassure bien plus qu'un model card signé par un labo récent. Sur le segment des agents en on-premise — banque, santé, secteur public — c'est un différenciateur réel face aux open weights asiatiques, dont l'écosystème reste plus difficile à qualifier dans certains environnements réglementés.
Les faire tourner en local : VRAM, quantization, matériel
Réponse directe : Lightning vise une seule carte haut de gamme grand public en NVFP4, Super exige du multi-GPU ou une carte datacenter. Dans les deux cas, le cache KV quasi constant rend le contexte long abordable.
| Modèle | FP8 | NVFP4 | Configuration minimale réaliste |
|---|---|---|---|
| Lightning (~50B totaux) | ~50 Go | ~28 Go | 1× RTX 5090 (32 Go), ça passe juste |
| Super (~120B totaux) | ~120 Go | ~65 Go | 1× H200 (FP8) ou 2× RTX 5090 / 1× RTX PRO 6000 (FP4) |
Ajoutez quelques Go pour l'état Mamba et les activations. Le point remarquable : à 256K de contexte, l'overhead supplémentaire reste faible — c'est précisément là que l'architecture hybride se justifie, là où un Transformer équivalent demanderait des dizaines de Go de cache KV.
Pour les erreurs classiques de dimensionnement, voir plus bas — le piège MoE y est traité en détail. Pour monter votre stack pas à pas, suivez notre guide d'installation d'un LLM local et notre sélection des meilleurs LLM à exécuter en local.
# Commande indicative — vérifiez le nom exact du checkpoint sur le Hugging Face de NVIDIA
vllm serve nvidia/Nemotron-3.5-Lightning-Instruct-FP4 --max-model-len 262144
Un avertissement d'ordre pratique : les architectures hybrides exigent des kernels spécifiques (scan SSM, support FlashInfer). NVIDIA annonce un support vLLM dès le jour un ; les builds Ollama et LM Studio suivront selon le rythme communautaire. Ne planifiez pas une migration de production sur un stack qui n'a jamais servi de modèle Mamba. Nos retours d'expérience sur les agents IA open source avec Ollama détaillent ces limites d'écosystème.
Enfin, une option pragmatique : si votre agent tourne autour d'une API — orchestration, RAG, tâches planifiées — un simple VPS Hostinger suffit largement pour héberger la couche d'orchestration, le modèle restant chez votre fournisseur ou sur votre propre rack GPU.
Super ou Lightning : quel modèle pour quel agent ?
Réponse directe : Lightning pour tout ce qui doit être rapide, peu coûteux et mono-GPU ; Super pour les tâches longues et exigeantes où la qualité de décision vaut plus que la latence.
| Votre cas d'usage | Choix | Pourquoi |
|---|---|---|
| Agents de code, analyse approfondie | Super | Meilleur raisonnement multi-étapes |
| Support client, tri, tool-calling simple | Lightning | Latence minimale, coût par token faible |
| RAG sur corpus massifs | Super | Rappel plus précis à contexte long |
| Edge ou on-prem contraint | Lightning | Tient sur un seul GPU consumer |
| Fine-tuning métier | Lightning | Coût d'entraînement et d'inférence réduit |
La stratégie que je recommande aux équipes sérieuses : combiner les deux. Un modèle léger type Lightning gère la boucle d'agent — appels d'outils, routage, synthèses intermédiaires — et escalade vers Super uniquement sur les étapes de raisonnement lourd. Ce pattern « routeur » réduit la facture globale sans sacrifier la qualité finale.
Pour les agents spécifiquement orientés code, notre comparatif des meilleurs LLM pour coder reste la meilleure base de décision, tant le rapport qualité/latence dépend de votre stack d'exécution.
❌ Erreurs courantes
Erreur 1 : calculer la VRAM sur les paramètres actifs
« 12B actifs, donc 12 Go de VRAM » — non. Dans un MoE, tous les experts résident en mémoire, seuls les calculs sont parcimonieux. Comptez toujours sur les paramètres totaux, dans le format de poids choisi. Solution : dimensionnez sur ~120 Go en FP8 ou ~65 Go en FP4 pour Super, et gardez 10-15 % de marge.
Erreur 2 : supposer que tout l'écosystème supporte l'hybride
Les serveurs d'inférence « Transformer-only » ne feront rien de ces modèles sans kernels SSM dédiés. Solution : démarrez avec le support officiel vLLM ou les conteneurs NIM de NVIDIA, et vérifiez le support communautaire avant de bâtir un pipeline autour d'un runtime tiers.
Erreur 3 : avaler les benchmarks auto-déclarés
Les scores du paper mesurent les configurations de NVIDIA, pas les vôtres. Solution : construisez un jeu de tests sur vos vraies traces d'agents — vos outils, vos documents, vos pièges habituels — et comparez Super, Lightning et votre solution actuelle sur ce terrain uniquement.
Erreur 4 : utiliser un canon pour tuer une mouche
Lancer Super sur un chatbot à 4K de contexte, c'est payer pour une architecture dont vous n'exploitez pas les avantages. Solution : réservez l'hybride aux contextes longs et aux sessions persistantes ; ailleurs, Lightning — ou un modèle plus petit — fait le travail pour moins cher.
❓ Questions fréquentes
Nemotron 3.5 Super et Lightning sont-ils vraiment open source ?
Open weights, oui ; open source au sens OSI, non. Les poids se téléchargent librement sur Hugging Face et l'usage commercial est autorisé sous NVIDIA Open Model License, mais le code d'entraînement complet et les données ne sont pas publiés. C'est le standard du marché, il faut simplement le nommer correctement.
Quelle VRAM pour faire tourner Lightning en local ?
Comptez ~28 Go en NVFP4 pour les ~50B de paramètres totaux, ce qui tient sur une RTX 5090 de 32 Go — juste, mais viable. En FP8, il faut ~50 Go, donc une carte datacenter ou du multi-GPU. L'avantage hybride : à 256K de contexte, la mémoire additionnelle reste marginale.
Super bat-il réellement Llama et Qwen ?
Sur les benchmarks agentiques auto-déclarés, Super se place au niveau des meilleurs open weights. Mais Qwen conserve un écosystème de fine-tunes et un support multilingue plus matures, et les comparaisons directes restent rares. Testez sur vos cas d'usage : c'est le seul verdict qui compte.
Peut-on les utiliser commercialement ?
Oui, sous NVIDIA Open Model License : usage commercial, dérivation et déploiement internes sont autorisés, sans clause de nombre d'utilisateurs. Certaines restrictions d'usage subsistent — vérifiez la licence sur le dépôt Hugging Face avant tout produit destiné à des clients finaux.
Où suivre l'évolution de ces modèles face à la concurrence ?
La gamme Nemotron bouge vite, la concurrence aussi. Notre comparatif mensuel des meilleurs LLM actualise les classements agentiques chaque mois, avec les scores vérifiés et les changements de licence. C'est le meilleur point de suivi pour décider du moment de migrer.
✅ Conclusion
Avec Super et Lightning, NVIDIA ne vend pas seulement des poids ouverts : il impose une thèse d'architecture — pour les agents, l'efficience mémoire bat la taille brute. Testez Lightning sur vos boucles d'agent dès cette semaine, et suivez le mouvement dans notre guide des LLM pour agents IA.