Como o estilo de prompt aparece na fatura
Updated September 1, 2026 · first published September 1, 2026
Os prompts crescem como ficheiros de configuração: alguém acrescenta uma instrução por causa de um erro, outro um exemplo, um terceiro um parágrafo a explicar. Nunca se retira nada. Seis meses depois o system prompt tem três mil tokens e ninguém sabe quais duzentos sustentam o edifício.
Porque acumula
Ao contrário da saída, o custo do prompt paga-se em cada pedido, igual, para sempre. Mil tokens desperdiçados numa funcionalidade com dez milhões de chamadas por mês são dez mil milhões de tokens mensais de pura formatação.
Em conversas de vários turnos é pior: o system prompt é reenviado em cada turno. Em ciclos de agente, uma única ação do utilizador fatura o mesmo preâmbulo uma dúzia de vezes.
O que desperdiça de facto
Não a cortesia. O peso está em instruções redundantes, boilerplate defensivo escrito para uma geração de modelos anterior, exemplos que se duplicam, e explicações dirigidas a humanos que leem o ficheiro.
Trate-o como código com orçamento
Meça o prompt fixo como fração do pedido médio. Ponha a parte estável primeiro para haver cache. Depois corte por ablação contra as suas avaliações: retire um bloco, meça, mantenha o corte se a qualidade aguentar.
Related
Want this applied to your own LLM spend? FinOps LLM runs a free audit of your AI costs and shows where the savings are. Book free audit →