Trzy budżety wymuszane w pętli autonomicznego agenta
Zaktualizowano August 27, 2026 · pierwsza publikacja August 27, 2026
Autonomiczny agent potrzebuje czegoś więcej niż miesięcznego alertu o wydatkach. Potrzebuje trzech budżetów egzekwowanych wewnątrz swojej pętli: budżetu żądania na jedno wywołanie modelu, budżetu workflow na całe zadanie i budżetu dziennego dla właściciela lub tenanta. Każdy wychwytuje inny tryb awarii.
1. Budżet żądania
Budżet żądania ogranicza tokeny, liczbę wywołań narzędzi, opóźnienie lub dolary dla jednej próby. Chroni przed przerośniętym kontekstem, nieoczekiwanie długim wyjściem albo narzędziem wywołującym zagnieżdżone żądanie. Egzekwuj go przed żądaniem do dostawcy i przed każdym wywołaniem narzędzia. Miękki limit może obniżyć model; twardy limit odrzuca próbę z jawnym powodem.
2. Budżet workflow
Budżet workflow śledzi jedną intencję użytkownika przez tury, ponowienia, fallbacki i subagenty. Potrzebuje identyfikatora korelacji i bieżącego rejestru, a nie licznika lokalnego dla jednego procesu. Zatrzymaj pracę, gdy rejestr przekroczy limit, nawet jeśli każde pojedyncze żądanie mieściło się w swoim. To kontrola, która wychwytuje zbyt głęboką delegację i pętle, które nie zbiegają się do wyniku.
3. Budżet dzienny
Budżet dzienny ogranicza zagregowane wydatki zespołu, tenanta, funkcji lub konta serwisowego. To kontrola uczciwego podziału i promienia rażenia. Gdy jest prawie wyczerpany, kieruj uprawnioną pracę do batchy lub mniejszych modeli, a zarezerwowaną pojemność zachowaj dla workflow o wysokiej wartości. Resetuj go w zadeklarowanej strefie czasowej i zapisuj reset w rejestrze.
Niech odmowy będą użyteczne
Odmowa budżetu powinna wskazać, który budżet się wyczerpał, ile zużyto i jakie odzyskanie jest dozwolone. Zwracaj stan, który można wznowić, a nie ciche puste odpowiedzi. Emituj niezmienne zdarzenie dla każdej rezerwacji, wydatku, zwolnienia i odmowy, aby finanse mogły uzgodnić rejestr z fakturami dostawców.
Połącz budżety z jakością
Budżety nie dają zgody na pogorszenie każdej odpowiedzi. Śledź koszt zakończonych z sukcesem zadań, wskaźnik ukończeń, opóźnienie oraz jakość oceniany przez użytkownika lub ewaluatora, obok odmów. Polityka budżetowa jest zdrowa, gdy zatrzymuje niekontrolowaną pracę, a jednocześnie utrzymuje SLO jakości dla dozwolonych workflow.
Trzy budżety tworzą trzy granice: jedną próbę, jeden wynik i jeden okres. Razem zamieniają nieograniczonego agenta w system, który da się obsługiwać i audytować.
Powiązane
- Zabezpieczenia wydatków agentów
- Zarządzanie budżetem LLM
- Koszt na zakończone zadanie
Powiązane
Chcesz zastosować to w swoim stosie? Przynieś faktury dostawców, logi bramy i najważniejsze przepływy pracy; wskażemy czynniki kosztów i ścieżkę oszczędności. Umów bezpłatny audyt →