Nemotron 3.5 Bolt E4B: считайте стоимость внедрения, а не цену токена
Обновлено October 27, 2026 · впервые опубликовано October 23, 2026
NVIDIA выпустила модель с открытыми весами Nemotron 3.5 Bolt E4B 4GB 23 октября 2026 года. Она рассчитана на локальных голосовых и встроенных помощников. NVIDIA не публикует цену за токен для этого квантованного чекпойнта. Сравнивайте стоимость собственной или арендованной инфраструктуры с требуемыми качеством и задержкой.
В карточке указаны 8 млрд параметров всего, 4 млрд эффективных, точность Q4_K_M и до 64K входных и выходных токенов. «4GB» обозначает квантованный вариант, а не общий объем памяти для продакшена. Память также нужна рантайму, KV-кэшу, параллельным сессиям и дополнительной модели. Лицензия — OpenMDW 1.1; проверьте также условия базовой модели Gemma.
Нет цены токена для простого расчета
Страница NVIDIA Build предлагает бесплатный прототипный эндпоинт, но не публикует производственную цену токена. Это не обещание всеобщего бесплатного использования или гарантированной мощности. Перед бюджетированием хостинга проверьте текущие тарифы, ограничения и условия. Для собственного хостинга считайте ресурсы и эксплуатацию, а не обнуляйте цену токенов.
В месячный TCO включите резерв мощности ускорителя или edge, электричество и охлаждение, хранение и сеть, рантайм, инженерную поддержку и дежурства. Разделите сумму на завершенные задачи, прошедшие проверку качества. Учитывайте сбои, повторные попытки и простой. Только иллюстрация: 730 часов по условным $1,20 в час — $876 без учета труда; при 60 000 принятых задач это $0,0146 за задачу, при 15 000 — $0,0584. Это допущения, а не цены или результаты тестов NVIDIA.
Что измерить до выбора
Замените допущения коммерческими предложениями и тестами нагрузки. Измеряйте контекст, параллельность, задержку, память, ошибки и стоимость принятой задачи. 64K — максимум, а не дешевое значение по умолчанию. Сравните локальный сервис с реальным счетом API для тех же успешных задач.
В карточке модели описаны llama.cpp, vLLM, SGLang и дополнительный DFlash-драфтер. Измерьте дополнительную память и нагрузку на эксплуатацию до включения в базовый бюджет. Открытые веса переносят расходы с токенового счетчика на инфраструктуру и поддержку, но не устраняют их. Записывайте версию, квантование, рантайм, оборудование, нагрузку и стоимость принятой задачи. Релиз 23 октября рассматривается отдельно от статьи о GPT-6.1 Terra.
Источники
По теме
Хотите применить это к своему стеку? Принесите счета провайдеров, логи шлюза и ключевые рабочие процессы — мы определим драйверы затрат и пути экономии. Заказать бесплатный аудит →