Runbook de produção para um pico de custos LLM
Updated August 27, 2026 · first published August 27, 2026
Num pico, preserve as provas, confirme a faturação e separe volume, tarifa, mix e eficiência antes de mudar o modelo.
Os primeiros 15 minutos
Guarde fatura, tráfego, mix, tipos de token, retries e deployments. Compare a faturação com a telemetria do gateway.
Conter em segurança
Use o controlo mais estreito: pausar um fluxo, limitar um agente, encaminhar batch ou desligar uma função nova. Proteja tráfego crítico e defina responsável, validade e rollback.
Explicar e fechar
Verifique volume, mix, contexto, ferramentas, falhas e tarifas. Compare custo por tarefa bem-sucedida com a base e documente a ação permanente.
Related
Want this applied to your own LLM spend? FinOps LLM runs a free audit of your AI costs and shows where the savings are. Book free audit →