De drie runtime-budgetten voor autonome AI-agents
Updated August 27, 2026 · first published August 27, 2026
Een autonome agent heeft meer nodig dan een maandelijkse budgetnotificatie. Er zijn drie geneste budgetten vereist binnen de executielus: een verzoekbudget voor één afzonderlijke modelaanroep, een workflowbudget voor de gehele taak, en een dagbudget voor het team of de tenant. Elk niveau voorkomt een andere foutmodus.
1. Verzoekbudget
Het verzoekbudget begrenst tokens, tool-fan-out, latentie of kosten per individuele poging. Het beschermt tegen buitenproportionele context, breedsprakige output of recursieve toolcalls. Dwing dit af vóór de provideraanroep en vóór tooluitvoering. Een zachte limiet kan downgraden naar een lichter model; een harde limiet weigert de poging met een expliciete reden.
2. Workflowbudget
Het workflowbudget bewaakt de intentie van de gebruiker over interactierondes, retries, fallbacks en subagents heen. Het vereist een correlatie-ID en een centraal logboek, geen proces-lokale teller. Stop zodra het totaalplafond wordt overschreden, zelfs als elke individuele aanroep binnen de perken bleef. Dit vangt oneindige lussen en te diepe delegatieboomstructuren op.
3. Dagbudget
Het dagbudget beperkt de geaggregeerde uitgaven voor een team, tenant of service-account. Het fungeert als blast-radius-controle en waarborgt eerlijke verdeling. Wanneer het limiet nadert, kan niet-urgent werk worden omgeleid naar batch-API's of goedkopere modellen, terwijl capaciteit voor vitale flows behouden blijft.
Maak budgetweigeringen bruikbaar
Een weigering moet specificeren welk budget is overschreden, hoeveel is verbruikt en welk herstelpad mogelijk is. Retourneer een hervatbare status in plaats van een lege reactie. Registreer onveranderlijke audit-events voor elke reservering, uitgave en weigering ten behoeve van financiële reconciliatie.
Related
Want this applied to your own LLM spend? FinOps LLM runs a free audit of your AI costs and shows where the savings are. Book free audit →