Productie-runbook voor onverwachte LLM-kostenspikes
Updated August 27, 2026 · first published August 27, 2026
Wanneer de LLM-uitgaven plotseling exploderen, begin dan niet direct met het wisselen van modellen. Stel eerst bewijsmateriaal veilig, valideer het facturatiesignaal en bepaal of de stijging wordt veroorzaakt door volume, tarief, mix of efficiëntie. Een effectieve aanpak damt het incident in zonder de benodigde telemetrie te vernietigen.
Eerste 15 minuten: verifieer en bewaar
Exporteer de factuurgegevens van de provider, het actuele verkeer, de modelmix, retries en recente releases. Vergelijk providerfacturatie met de logs van de AI-gateway om te voorkomen dat een dashboard-bug leidt tot overhaaste productie-ingrepen.
Volgende 30 minuten: veilig indammen
Pas de meest gerichte controle toe die verdere schade stopt: pauzeer een ontspoorde workflow, begrens agent-concurrency, stuur achtergrondtaken naar batch-verwerking of schakel een recent uitgerolde feature uit. Houd inkomsten-kritiek verkeer beschermd.
Vind de oorzaak en sluit af
Controleer eerst het volume, daarna modelmix, tokentypes, retries, contextomvang en provider-tarieven. Vergelijk de p50- en p95-kosten per succesvolle taak met de nulmeting. Hef tijdelijke restricties pas op wanneer de run rate en de outputkwaliteit binnen de SLO's vallen.
Related
Want this applied to your own LLM spend? FinOps LLM runs a free audit of your AI costs and shows where the savings are. Book free audit →