Nemotron 3.5 Bolt E4B: calcola la distribuzione, non il prezzo per token
Aggiornato October 27, 2026 · pubblicato inizialmente October 23, 2026
NVIDIA ha lanciato Nemotron 3.5 Bolt E4B 4GB il 23 ottobre 2026. È un modello compatto a pesi aperti per assistenti vocali locali, dispositivi e applicazioni edge. NVIDIA non pubblica una tariffa per token per questo checkpoint quantizzato. Occorre confrontare il costo di gestione su hardware proprio o ospitato con qualità e latenza richieste.
La scheda indica 8 miliardi di parametri totali, 4 miliardi effettivi, precisione Q4_K_M e fino a 64K token in input e output. «4GB» identifica una variante quantizzata, non garantisce che un servizio di produzione richieda solo 4 GB totali. Runtime, cache KV, concorrenza ed eventuale modello ausiliario richiedono memoria aggiuntiva. La licenza è OpenMDW 1.1; verifica anche i termini del modello Gemma di base.
Nessuna tariffa token da moltiplicare
La pagina NVIDIA Build mostra un endpoint prototipo gratuito ma non un prezzo token per la produzione. Non è una promessa di servizio gratuito universale né una garanzia di capacità. Verifica tariffe, limiti e condizioni attuali. Per l’hosting autonomo, calcola risorse riservate e gestione invece di assegnare costo zero ai token.
Il TCO mensile include capacità accelerator o edge, energia e raffreddamento, storage e rete, runtime, ingegneria e reperibilità. Dividi il totale per le attività completate e accettate. Includi errori, tentativi ripetuti e capacità inattiva. Esempio puramente illustrativo: 730 ore a 1,20 USD/ora costano 876 USD prima del lavoro del team; sono 0,0146 USD per 60.000 attività accettate oppure 0,0584 USD per 15.000. Non sono prezzi né benchmark NVIDIA.
Misura prima di scegliere
Sostituisci le ipotesi con preventivi e test di carico realistici. Misura contesto, concorrenza, latenza, memoria, errori e costo per risultato accettato. 64K è un limite massimo, non un’impostazione economica predefinita. Confronta il server locale con la fattura API reale per le stesse attività riuscite.
La scheda modello documenta llama.cpp, vLLM, SGLang e un draft DFlash opzionale. Misura memoria e operatività aggiuntive prima di inserirlo nella previsione. I pesi aperti spostano il costo dal contatore token a infrastruttura e gestione, non lo eliminano. Registra versione, quantizzazione, runtime, hardware, carico e costo per attività accettata. Questo articolo tratta separatamente il lancio del 23 ottobre.
Fonti
Correlati
Vuoi applicarlo al tuo stack? Porta le fatture dei provider, i log del gateway e i flussi di lavoro principali: mapperemo i costi e i possibili risparmi. Prenota un audit gratuito →