Runbook di produzione per picchi di costo LLM
Aggiornato August 27, 2026 · pubblicato inizialmente August 27, 2026
Quando la spesa per gli LLM subisce un picco improvviso, non iniziate modificando il modello. Conservate innanzitutto le prove, verificate i segnali di fatturazione e isolate se l'anomalia dipende da volume, tariffe, mix di modelli o efficienza.
Primi 15 minuti: confermare e preservare
Salvate fatture, telemetria del gateway, traffico corrente, mix di modelli e log dei recenti deployment prima di apportare modifiche.
Primi 30 minuti: contenimento sicuro
Applicate il controllo più circoscritto possibile: mettete in pausa un flusso anomalo, limitate un agente, instradate carichi su batch o disattivate una feature appena rilasciata. Assegnate a ogni misura un responsabile e una data di scadenza.
Identificare la causa radice
Verificate volumi, composizione dei token, lunghezza del contesto, chiamate a tool e tariffe dei provider confrontando il costo per task riuscito con la baseline.
Domande frequenti
Qual è il primo passo durante un picco di costi LLM?
Preservare fatture dei provider, telemetria del gateway, traffico, mix di modelli, tipi di token e log dei deployment prima di toccare la produzione.
Correlati
Vuoi applicarlo al tuo stack? Porta le fatture dei provider, i log del gateway e i flussi di lavoro principali: mapperemo i costi e i possibili risparmi. Prenota un audit gratuito →