Coste en tokens del modo JSON y los esquemas
Updated September 1, 2026 · first published September 1, 2026
Pedir salida estructurada parece una decisión de formato. En la factura es una decisión de volumen, y cae en tres sitios a la vez.
El esquema es coste de entrada en cada petición
El esquema se serializa dentro de la petición. Uno modesto son unos cientos de tokens; multiplícalo por cada llamada y cada turno durante la vida de la función. 400 tokens por un millón de llamadas son 400 millones de tokens de entrada para describir una forma que nunca cambia.
Peor aún: si el esquema va después de la parte volátil del prompt, rompe el prefijo cacheado y destruye el descuento de todo lo anterior.
La sintaxis es coste de salida
Cada llave, comilla, coma y nombre de campo es un token generado que pagas a precio de salida. Nombres largos son un cargo recurrente para siempre.
Los reintentos son lo caro
Cada fallo de validación cuesta un reintento completo: toda la entrada otra vez y toda la salida otra vez. Un 2% de inválidos es un 2% más de coste sin nada a cambio.
Qué hacer
Pon el esquema en el prefijo estable para que cachee, pide solo los campos que consumes, usa nombres cortos y estructuras planas, y mide tu tasa de fallo de validación.
Related
Want this applied to your own LLM spend? FinOps LLM runs a free audit of your AI costs and shows where the savings are. Book free audit →