Nemotron 3.5 Bolt E4B: calcula el despliegue, no un precio por token
Actualizado October 27, 2026 · publicado originalmente October 23, 2026
NVIDIA lanzó Nemotron 3.5 Bolt E4B 4GB el 23 de octubre de 2026. Es un modelo compacto de pesos abiertos para asistentes locales de voz y dispositivos, y aplicaciones integradas. NVIDIA no publica una tarifa por token para este checkpoint cuantizado. La cuestión es si ejecutarlo en hardware propio o con un proveedor medido cuesta menos y cumple los requisitos de calidad y latencia.
La ficha indica 8.000 millones de parámetros totales, 4.000 millones efectivos, precisión Q4_K_M y hasta 64K tokens de entrada y salida. «4GB» identifica una variante cuantizada; no garantiza que un servicio de producción solo necesite 4 GB de memoria total. La ejecución, la caché KV, la concurrencia y un modelo auxiliar requieren capacidad adicional. La licencia es OpenMDW 1.1; revisa también las condiciones del modelo Gemma subyacente.
No hay una tarifa por token que multiplicar
La página Build de NVIDIA muestra un endpoint de prototipo gratuito, pero no un precio por token de producción. No es una promesa de servicio gratuito universal ni de capacidad de producción. Verifica tarifas, límites y condiciones actuales antes de presupuestar alojamiento. En autohospedaje, calcula los recursos reservados y la operación; no asignes un coste cero a los tokens.
Un modelo mensual de TCO incluye capacidad de acelerador o edge, electricidad y refrigeración, almacenamiento y red, plataforma y tiempo de ingeniería y guardia. Divide el total por tareas completadas y aceptadas por calidad. Incluye fallos, reintentos y capacidad ociosa: una llamada barata puede encarecer cada resultado aceptado.
Escenario ilustrativo de capacidad
Son supuestos de planificación, no precios de NVIDIA ni resultados de benchmark. Si reservas un servidor 730 horas al mes a un coste supuesto de 1,20 USD/hora, son 876 USD antes de personal y plataforma. Con 60.000 tareas aceptadas, infraestructura cuesta 0,0146 USD por tarea; con 15.000, 0,0584 USD. La diferencia de cuatro veces procede de la utilización.
Sustituye los supuestos por ofertas y pruebas de carga. Cuenta la electricidad solo si no está incluida en el precio de nube. Prueba concurrencia, longitud de contexto, latencia y errores con solicitudes representativas. Un único dato de tokens por segundo no basta para presupuestar.
Qué medir antes de elegir el modelo local
- Reproduce tareas reales con el contexto y la concurrencia previstos.
- Evalúa resultados con el mismo criterio de calidad que tu proveedor actual.
- Prueba contexto máximo y sesiones simultáneas; 64K es un límite, no un valor predeterminado barato.
- Compara el TCO local con la factura real de API para las mismas tareas aceptadas.
La ficha del modelo documenta llama.cpp, vLLM, SGLang y un borrador DFlash opcional. Mide la memoria y operación extra antes de incorporarlo al caso base.
Nemotron Bolt E4B es candidato cuando importan el control local, el despliegue edge o la capacidad reservada, y supera tu umbral de calidad. Los pesos abiertos trasladan el gasto del contador de tokens a infraestructura y operación; no lo eliminan. Registra versión, cuantización, runtime, hardware, carga y coste por tarea aceptada. Este artículo trata por separado el lanzamiento del 23 de octubre y el artículo de GPT-6.1 Terra.
Fuentes
Relacionado
¿Quieres aplicar esto a tu plataforma? Comparte las facturas, los registros de la pasarela y los flujos principales; identificaremos los costes y las oportunidades de ahorro. Solicitar auditoría gratuita →