Custo em tokens do modo JSON e dos esquemas
Updated September 1, 2026 · first published September 1, 2026
Pedir saída estruturada parece uma decisão de formato. Na fatura é uma decisão de volume, e cai em três sítios ao mesmo tempo.
O esquema é custo de entrada em cada pedido
O esquema é serializado dentro do pedido. Um esquema modesto são umas centenas de tokens — multiplique por cada chamada, cada turno, durante toda a vida da funcionalidade. 400 tokens por um milhão de chamadas são 400 milhões de tokens de entrada para descrever uma forma que nunca muda.
Pior: colocado depois da parte volátil do prompt, o esquema parte o prefixo em cache e elimina o desconto de tudo o que vem antes.
A sintaxe é custo de saída
Cada chaveta, aspa, vírgula e nome de campo é um token gerado, faturado ao preço de saída. Nomes longos são um encargo recorrente permanente.
As repetições são a parte cara
Cada falha de validação custa uma repetição completa: toda a entrada e toda a saída outra vez. 2% de inválidos são 2% de custo a mais por nada.
O que fazer
Ponha o esquema no prefixo estável para ficar em cache, peça só os campos que consome, use nomes curtos e estruturas planas, e meça a taxa de falha de validação.
Related
Want this applied to your own LLM spend? FinOps LLM runs a free audit of your AI costs and shows where the savings are. Book free audit →