Nemotron 3.5 Bolt E4B: calcule a implantação, não um preço por token
Atualizado October 27, 2026 · publicado originalmente October 23, 2026
A NVIDIA lançou o Nemotron 3.5 Bolt E4B 4GB em 23 de outubro de 2026. O modelo de pesos abertos destina-se a assistentes locais de voz, dispositivos e aplicações integradas. A NVIDIA não publica preço por token para este checkpoint quantizado. Compare o custo de operar em hardware próprio ou alojado com a qualidade e latência exigidas.
A ficha indica 8 mil milhões de parâmetros totais, 4 mil milhões efetivos, precisão Q4_K_M e até 64K tokens de entrada e saída. «4GB» identifica uma variante quantizada; não garante que um serviço de produção precise apenas de 4 GB de memória total. Runtime, cache KV, concorrência e um modelo auxiliar podem exigir mais. A licença é OpenMDW 1.1; verifique também os termos do modelo Gemma subjacente.
Não há preço por token para multiplicar
A página Build da NVIDIA mostra um endpoint de protótipo gratuito, mas não um preço por token de produção. Isso não é uma promessa de serviço gratuito universal nem garantia de capacidade. Confirme tarifas, limites e termos atuais. No alojamento próprio, estime recursos reservados e operação em vez de atribuir custo zero aos tokens.
O TCO mensal inclui capacidade de acelerador ou edge, energia e refrigeração, armazenamento e rede, runtime, engenharia e prevenção. Divida pelo número de tarefas concluídas e aceites. Inclua falhas, novas tentativas e capacidade ociosa. Exemplo apenas ilustrativo: 730 horas a 1,20 USD/hora custam 876 USD antes do trabalho da equipa; são 0,0146 USD por tarefa para 60.000 tarefas aceites, ou 0,0584 USD para 15.000. Não são preços nem benchmarks da NVIDIA.
Meça antes de escolher
Substitua os pressupostos por propostas e testes de carga realistas. Meça contexto, concorrência, latência, memória, erros e custo por resultado aceite. 64K é um limite máximo, não uma configuração barata por defeito. Compare o servidor local à fatura real da API para as mesmas tarefas bem-sucedidas.
A ficha do modelo documenta llama.cpp, vLLM, SGLang e um modelo auxiliar DFlash opcional. Meça memória e operação antes de o incluir na base. Pesos abertos transferem o gasto do contador de tokens para infraestrutura e operação; não o eliminam. Registe versão, quantização, runtime, hardware, carga e custo por tarefa aceite. Este artigo trata o lançamento de 23 de outubro separadamente.
Fontes
Artigos relacionados
Quer aplicar isto à sua plataforma? Traga as faturas dos fornecedores, os registos do gateway e os principais fluxos de trabalho; mapearemos os custos e as oportunidades de poupança. Marcar auditoria gratuita →