Nemotron 3.5 Bolt E4B: token fiyatını değil dağıtım TCO'sunu hesaplayın
Güncellendi October 27, 2026 · ilk yayın October 23, 2026
NVIDIA, açık ağırlıklı Nemotron 3.5 Bolt E4B 4GB modelini 23 Ekim 2026'da yayımladı. Yerel ses ve cihaz asistanları ile gömülü uygulamaları hedefliyor. NVIDIA bu kuantize kontrol noktası için token başına liste fiyatı yayımlamıyor. Kendi donanımınızda veya barındırılan bir hizmette çalıştırma maliyetini gereken kalite ve gecikmeyle karşılaştırın.
Model kartında toplam 8 milyar, etkin 4 milyar parametre, Q4_K_M ve en fazla 64K giriş ve çıkış tokenı belirtiliyor. “4GB” kuantize bir varyantı ifade eder; üretim servisinin toplamda yalnızca 4 GB belleğe ihtiyaç duyacağını garanti etmez. Runtime, KV önbelleği, eşzamanlılık ve isteğe bağlı taslak model ek kapasite gerektirir. Lisans OpenMDW 1.1'dir; temel Gemma modelinin koşullarını da inceleyin.
Çarpılacak token fiyatı yok
NVIDIA Build sayfası ücretsiz bir prototip uç noktası gösterir, ancak üretim token fiyatı yayımlamaz. Bu, genel ücretsiz hizmet taahhüdü veya üretim kapasitesi garantisi değildir. Barındırma bütçesinden önce güncel tarifeleri, limitleri ve koşulları doğrulayın. Kendi barındırmanızda token maliyetini sıfırlamak yerine ayrılmış kaynakları ve işletimi hesaplayın.
Aylık TCO'ya hızlandırıcı veya edge kapasitesi, elektrik ve soğutma, depolama ve ağ, runtime, mühendislik ve nöbet maliyetlerini ekleyin. Toplamı kalite kontrolünden geçmiş tamamlanmış iş sayısına bölün. Hataları, tekrarları ve boşta kapasiteyi sayın. Yalnızca örnek varsayım: ayda 730 saat × saatte 1,20 dolar = işçilik hariç 876 dolar; 60.000 kabul edilmiş işte iş başına 0,0146 dolar, 15.000 işte 0,0584 dolar. Bunlar NVIDIA fiyatı veya benchmarkı değildir.
Seçmeden önce ölçün
Varsayımları teklifler ve temsili yük testleriyle değiştirin. Bağlamı, eşzamanlılığı, gecikmeyi, belleği, hataları ve kabul edilen iş başına maliyeti ölçün. 64K bir üst sınırdır; düşük maliyetli varsayılan değildir. Aynı başarılı işler için yerel sunucuyu gerçek API faturasıyla karşılaştırın.
Model kartı llama.cpp, vLLM, SGLang ve isteğe bağlı DFlash taslak modelini belgeler. Temel bütçeye eklemeden önce ek bellek ve işletim yükünü ölçün. Açık ağırlıklar gideri token sayacından altyapı ve işletime taşır; ortadan kaldırmaz. Sürümü, kuantizasyonu, runtime'ı, donanımı, iş yükünü ve kabul edilmiş iş başına maliyeti kaydedin. 23 Ekim sürümü ayrı bir makalede ele alınır.
Kaynaklar
İlgili
Bunu kendi altyapınıza uygulamak mı istiyorsunuz? Sağlayıcı faturalarını, ağ geçidi kayıtlarını ve ana iş akışlarını getirin; maliyet etkenlerini ve tasarruf yolunu çıkaralım. Ücretsiz denetim planlayın →