İçeriğe geç

Codex girdi tokenlarının %98’i önbellekteydi. Önbellek olmasaydı fatura 12 kat yüksek olurdu

Güncellendi October 9, 2026 · ilk yayın October 9, 2026

Kısa yanıt: ChatGPT Pro $100 ile 12 gün boyunca yoğun Codex kullanımında 13.0 milyar girdi tokeni gönderdik ve 47 milyon çıktı tokeni geri aldık. Bu girdinin %97.6’sı önbellek isabetiydi. OpenAI API fiyatlarıyla...

ChatGPT Pro $100 ile 12 gün boyunca yoğun Codex kullanımında 13.0 milyar girdi tokeni gönderdik ve 47 milyon çıktı tokeni geri aldık. Bu girdinin %97.6’sı önbellek isabetiydi. OpenAI API fiyatlarıyla iş $1,211 tuttu. Aynı tokenları hiç önbellek isabeti olmadan fiyatlandırırsak $14,198 eder, yani 12 kat daha fazla.

Model bazında 12 günlük Codex’in API değeri: önbellekli ve önbelleksiz$0$2k$4k$6k$8k$10k$12k$14k$1,073$13,299Sol$95$655Luna$27$144GPT-5.5$16$99AstraTuruncu: önbellekle ödediğimiz tutar, API fiyatıylaMavi: aynı tokenlar, hiç önbellek isabeti olmadan
Model bazında 12 günlük Codex’in API değeri: önbellekli ve önbelleksiz

Kodlama ajanlarının neredeyse tamamı neden önbellekli girdi

Bir ajan döngüsü her adımda tüm konuşmayı yeniden gönderir: sistem promptu, araç tanımları, okunan dosyalar ve önceki her araç sonucu. Her adım biraz ekler ve her şeyi yeniden okur. Bu yüzden girdi, oturum uzunluğunun karesiyle büyürken çıktı küçük kalır. 12 günde bu bize 279:1 girdi/çıktı oranı verdi.

Bunu uygun fiyatlı tutan şey prompt önbelleğidir. OpenAI API’sinde önbellekli girdi, normal girdinin onda biri ya da daha az bir maliyettedir. İşimizin büyük kısmını yapan GPT-6 Sol, milyon girdi tokeni başına $2, milyon önbellekli token başına $0.10 ücret alıyor.

Para nereye gitti

ModelGirdi tokenıÖnbellekliÇıktı tokenıAPI değeriÖnbelleksiz
Sol6.56B98.1%17.5M$1,073$13,299
Luna6.41B97.2%29.0M$95$655
GPT-5.50.03B93.5%0.2M$27$144
Astra0.01B94.5%0.0M$16$99
Toplam13.01B97.6%47M$1,211$14,198
Maliyet bileşeniAPI değeriPay
Önbellekli girdi$72860%
Önbelleksiz girdi$28824%
Çıktı$19616%

%95 indirime rağmen önbellekli girdi, faturadaki en büyük tek kalemdir. Bu, bir ajan iş yükünün imzasıdır: en ucuz token türü, devasa hacimde. Model bazındaki toplamlar codex-pro-100-model-mix.csv dosyasında.

Önbelleği ne bozar

Önbellek isabeti için önek birebir aynı olmalıdır. Bağlamın başını değiştiren her şey, bundan sonraki her şeyin tam fiyatla yeniden okunmasına yol açar.

Bu neden Codex limitleriniz için önemli

Codex göstergesi önbellekli girdiyi API fiyatına yakın bir ağırlıkla sayıyorsa, önbellek isabet oranındaki 1 puanlık düşüş pahalıya gelir. Bizim hacmimizde Sol’un önbellek oranı %98.1’den %90’a düşseydi, yalnızca Sol girdisine yaklaşık $1,004 eklenirdi; yani kabaca 6 ek Pro $100 penceresi. Önbellek disiplini, kota disiplinidir. Bir pencerenin neleri kapsadığı için Pro $100 çarpanı ölçümümüze bakın; 12 günde sekiz pencereyi nasıl aldığımız için sıfırlama günlüğüne bakın.

Nasıl ölçtük

Codex, her oturumun JSONL günlüğünü ~/.codex/sessions/ altına yazar. Her istek; kümülatif girdiyi, önbellekli girdiyi ve çıktıyı, ayrıca haftalık göstergeyi (used_percent) ve resets_at zamanını kaydeder. Her isteğin token farkını, isteğin çalıştığı modelin API liste fiyatıyla fiyatlandırdık ve istekleri haftalık pencereye göre gruplandırdık. Dolar rakamları API eşdeğeri değerdir, gerçekten ödediğimiz para değil.

Kaynaklar

İlgili


Bunu kendi altyapınıza uygulamak mı istiyorsunuz? Sağlayıcı faturalarını, ağ geçidi kayıtlarını ve ana iş akışlarını getirin; maliyet etkenlerini ve tasarruf yolunu çıkaralım. Ücretsiz denetim planlayın →

finopsllm.com'a dön