Nemotron 3.5 Bolt E4B : budgéter le déploiement, pas un tarif au token
Mis à jour October 27, 2026 · première publication October 23, 2026
NVIDIA a lancé Nemotron 3.5 Bolt E4B 4GB le 23 octobre 2026. Ce modèle à poids ouverts vise les assistants locaux vocaux ou embarqués. NVIDIA ne publie pas de tarif par token pour ce checkpoint quantifié. Il faut comparer le coût d’une infrastructure propre ou hébergée à la qualité et à la latence requises.
La fiche indique 8 milliards de paramètres au total, 4 milliards effectifs, une précision Q4_K_M et jusqu’à 64K tokens en entrée et en sortie. « 4GB » désigne une variante quantifiée, pas la mémoire totale nécessaire en production : runtime, cache KV, concurrence et modèle auxiliaire peuvent en demander davantage. La licence est OpenMDW 1.1 ; vérifiez également les conditions du modèle Gemma sous-jacent.
Pas de tarif token à multiplier
La page NVIDIA Build propose un endpoint de prototype gratuit, mais pas de tarif token de production. Ce n’est ni une promesse de gratuité générale ni une garantie de capacité. Vérifiez tarifs, limites et conditions du fournisseur. En auto-hébergement, budgétez les ressources et l’exploitation au lieu de fixer le coût des tokens à zéro.
Le TCO mensuel inclut capacité accélérateur ou edge, énergie et refroidissement, stockage et réseau, runtime, ingénierie et astreinte. Divisez ce total par les tâches terminées et acceptées. Ajoutez les échecs, reprises et périodes d’inactivité. À titre purement illustratif, 730 heures à 1,20 $/heure donnent 876 $ avant main-d’œuvre ; cela représente 0,0146 $ pour 60 000 tâches acceptées, contre 0,0584 $ pour 15 000. Ce sont des hypothèses, pas des tarifs ni des benchmarks NVIDIA.
Mesurez avant de choisir
Remplacez les hypothèses par des devis et des tests de charge représentatifs : longueur de contexte, concurrence, latence, mémoire, erreurs et coût par résultat accepté. Les 64K sont une limite maximale, pas un réglage économique par défaut. Comparez le serveur local à la facture réelle d’une API pour les mêmes tâches réussies.
La fiche du modèle documente llama.cpp, vLLM, SGLang et un brouillon DFlash facultatif. Mesurez son impact mémoire et opérationnel avant de l’ajouter au budget. Les poids ouverts déplacent le coût du compteur de tokens vers l’infrastructure et l’exploitation ; ils ne le suppriment pas. Notez version, quantification, runtime, matériel, charge et coût par tâche acceptée. Cet article traite distinctement la sortie du 23 octobre.
Sources
À lire aussi
Vous souhaitez appliquer cela à votre plateforme ? Transmettez vos factures fournisseurs, journaux de passerelle et principaux workflows ; nous cartographierons les coûts et les économies possibles. Demander un audit gratuit →