Nemotron 3.5 Bolt E4B：トークン単価ではなく導入コストを算出する
更新日 October 27, 2026 · 初回公開 October 23, 2026
NVIDIAは2026年10月23日、オープンウェイトモデルNemotron 3.5 Bolt E4B 4GBを公開しました。ローカルの音声・端末アシスタントや組み込み用途を想定しています。この量子化チェックポイントのトークン単価は公開されていません。自社ハードウェアまたはホスティングでの運用コストを、必要な品質とレイテンシで比較します。
モデルカードでは総パラメータ80億、実効40億、Q4_K_M、入力・出力それぞれ最大64Kトークンとされています。「4GB」は量子化版の呼称で、実運用に必要な総メモリが4GBだけという意味ではありません。ランタイム、KVキャッシュ、同時実行数、補助ドラフトモデルにも容量が必要です。ライセンスはOpenMDW 1.1で、基盤のGemmaモデルの条件も確認してください。
掛け算できるトークン単価はない
NVIDIA Buildページには無料のプロトタイプ用エンドポイントがありますが、本番トークン価格は掲載されていません。これは常時無料や本番容量の保証ではありません。ホスト型を予算化する前に最新の料金、制限、条件を確認してください。セルフホストでは、トークン費をゼロにせず予約リソースと運用費を計上します。
月次TCOにはアクセラレータまたはエッジ容量、電力・冷却、ストレージ・ネットワーク、ランタイム、エンジニアリング、オンコールを含めます。品質基準を満たして完了したタスク数で割ります。失敗、再試行、アイドル容量も含めます。例示の仮定として、月730時間を1時間1.20ドルで予約すると、人件費前で876ドル。受理タスクが6万件なら1件0.0146ドル、1万5千件なら0.0584ドルです。NVIDIAの価格やベンチマークではありません。
選定前に測る項目
仮定を見積もりと実負荷テストに置き換え、コンテキスト長、同時実行、レイテンシ、メモリ、エラー、受理タスク単価を測ります。64Kは上限であり、低コストの既定値ではありません。同じ成功タスクについてローカルサーバーと実際のAPI請求を比較します。
モデルカードにはllama.cpp、vLLM、SGLangなどの導入方法と任意のDFlashドラフターが記載されています。追加メモリと運用負荷を測ってから基準予算に加えましょう。オープンウェイトは費用をトークンメーターからインフラと運用へ移すだけで、なくすわけではありません。バージョン、量子化、ランタイム、ハードウェア、負荷、受理タスク単価を記録します。10月23日の公開をGPT-6.1 Terraとは別の記事として扱います。
出典
関連記事
この方法を自社の環境にも適用しますか？ プロバイダーの請求書、ゲートウェイログ、主要なワークフローをお持ちください。コスト要因と削減策を整理します。 無料監査を予約 →