Nemotron 3.5 Bolt E4B: begroot de deployment, niet een tokenprijs
Bijgewerkt October 27, 2026 · eerst gepubliceerd October 23, 2026
NVIDIA bracht Nemotron 3.5 Bolt E4B 4GB uit op 23 oktober 2026. Het open-weightsmodel is bedoeld voor lokale spraakassistenten, apparaten en edge-toepassingen. NVIDIA publiceert geen tokenprijs voor dit gekwantiseerde checkpoint. Vergelijk daarom de kosten van eigen of gehoste infrastructuur met de vereiste kwaliteit en latency.
De modelkaart noemt 8 miljard parameters totaal, 4 miljard effectief, Q4_K_M en maximaal 64K input- en outputtokens. „4GB” duidt een gekwantiseerde variant aan en garandeert niet dat een productieservice in totaal slechts 4 GB geheugen nodig heeft. Runtime, KV-cache, gelijktijdige sessies en een optioneel draftmodel vragen extra capaciteit. De licentie is OpenMDW 1.1; controleer ook de voorwaarden van het onderliggende Gemma-model.
Geen tokenprijs om te vermenigvuldigen
De NVIDIA Build-pagina vermeldt een gratis prototype-endpoint, maar geen productietarief per token. Dat is geen algemene belofte van gratis gebruik of productiecapaciteit. Controleer actuele tarieven, limieten en voorwaarden. Begroot bij zelfhosting gereserveerde middelen en beheer in plaats van tokenkosten op nul te zetten.
Een maandelijkse TCO omvat accelerator- of edgecapaciteit, stroom en koeling, opslag en netwerk, runtime, engineering en storingsdienst. Deel het totaal door afgeronde taken die aan de kwaliteitseis voldoen. Neem mislukkingen, nieuwe pogingen en ongebruikte capaciteit mee. Illustratief voorbeeld: 730 uur à $1,20 per uur kost $876 vóór personeelskosten; dat is $0,0146 voor 60.000 geaccepteerde taken of $0,0584 voor 15.000. Dit zijn aannames, geen NVIDIA-prijzen of benchmarks.
Meet voordat je kiest
Vervang aannames door offertes en representatieve belastingtests. Meet contextlengte, gelijktijdigheid, latency, geheugen, fouten en kosten per geaccepteerd resultaat. 64K is een bovengrens, geen goedkope standaardinstelling. Vergelijk de lokale server met de echte API-factuur voor dezelfde geslaagde taken.
De modelkaart beschrijft onder meer llama.cpp, vLLM, SGLang en een optionele DFlash-drafter. Meet extra geheugen en beheer voordat je die in de basisraming opneemt. Open weights verplaatsen de kosten van een tokenmeter naar infrastructuur en beheer; ze laten de kosten niet verdwijnen. Leg versie, quantisatie, runtime, hardware, workload en kosten per geaccepteerde taak vast. Dit artikel behandelt de release van 23 oktober afzonderlijk.
Bronnen
Gerelateerd
Wilt u dit toepassen op uw stack? Neem leveranciersfacturen, gatewaylogs en de belangrijkste workflows mee; we brengen kostenfactoren en besparingskansen in kaart. Plan een gratis audit →