JSON modu ve şemaların token maliyeti
Güncellendi September 1, 2026 · ilk yayın September 1, 2026
Modelden yapılandırılmış çıktı istemek bir biçimlendirme tercihi gibi görünür. Faturada ise bu bir hacim tercihidir ve aynı anda üç yerde kendini gösterir.
Şema, her istekte bir girdi maliyetidir
Yanıt biçimi veya araç tanımı isteğin içine serileştirilir. Mütevazı bir şema — bir düzine alan, her birinde açıklama, birkaç iç içe nesne — birkaç yüz tokendir. Bu, her çağrıda, her turda, özelliğin ömrü boyunca çarpılana kadar küçük görünür. Bir milyon çağrıda 400 tokenlik bir şema, hiç değişmeyen bir yapıyı tarif etmek için ödediğiniz 400 milyon girdi tokenidir.
Daha kötüsü, saf uygulamalarda şema genellikle prompt'un değişken kısmından sonra gelir; bu da önbelleğe alınmış öneki bozar. Şema her seferinde tam fiyat ödetir ve önündeki her şeydeki indirimi yok eder.
Söz dizimi, çıktı maliyetidir
Yanıttaki her parantez, tırnak, virgül ve alan adı, çıktı oranından faturalandırılan üretilmiş bir tokendir. Uzun alan adları tekrarlayan bir ücrettir: customer_shipping_address_line_one, addr1'den sonsuza dek daha pahalıya gelir. Derin iç içe nesneler kendi iskeletlerinin bedelini öder. Büyük bir zarfa sarılmış kısa yanıtlarda yapı, içeriği gerçekten geçebilir.
Yeniden denemeler pahalı kısımdır
Büyük sağlayıcılarda kısıtlı kod çözme şema ihlallerini nadir kılar, ama doğrulama hataları yine olur — modelin dürüstçe dolduramayacağı bir alan, doğru cevabı olmayan bir enum, bir okuyucu için belirsiz bir şema. Her hata tam bir yeniden deneme maliyetine yol açar: tüm girdi tokenleri yeniden, tüm çıktı tokenleri yeniden, artı gecikme. Yüksek hacimli bir uç noktada %2 geçersiz oran, karşılığında hiçbir şey olmadan %2 maliyet artışıdır.
Gerçekte ne yapmalı
Şemayı önbelleğe alınabilmesi için sabit öneke koyun ve çağrılar arasında aynı tutun. Yalnızca tükettiğiniz alanları isteyin; fazla alanlar iki kez ödenir: bir kez şemada, bir kez yanıtta. Kısa alan adlarını ve düz yapıları tercih edin. Çıktı tek bir değerse, onu hiçbir nesneye sarmayın. Ve doğrulama hata oranınızı ölçün: bu, tamamen israf olan tek kısımdır.
İlgili
İlgili
Bunu kendi altyapınıza uygulamak mı istiyorsunuz? Sağlayıcı faturalarını, ağ geçidi kayıtlarını ve ana iş akışlarını getirin; maliyet etkenlerini ve tasarruf yolunu çıkaralım. Ücretsiz denetim planlayın →