Три бюджета, которые нужны каждому автономному агенту
Обновлено August 27, 2026 · впервые опубликовано August 27, 2026
Автономному агенту нужно больше, чем оповещение о месячных расходах. Ему нужны три бюджета, которые соблюдаются внутри его цикла: бюджет запроса на один вызов модели, бюджет рабочего процесса на всю задачу и дневной бюджет для владельца или арендатора. Каждый ловит свой режим сбоя.
1. Бюджет запроса
Бюджет запроса ограничивает токены, количество вызовов инструментов, задержку или доллары на одну попытку. Он защищает от чрезмерно большого контекста, неожиданно длинного вывода или инструмента, который вызывает вложенный запрос. Применяйте его до запроса к провайдеру и перед каждым вызовом инструмента. Мягкий лимит может переключить модель на более лёгкую; жёсткий лимит отклоняет попытку с явной причиной.
2. Бюджет рабочего процесса
Бюджет рабочего процесса отслеживает одно намерение пользователя через ходы, повторы, запасные варианты и субагентов. Ему нужны идентификатор корреляции и накопительный реестр, а не счётчик внутри одного процесса. Останавливайтесь, когда реестр пересекает потолок, даже если каждый отдельный запрос уложился в свой лимит. Именно этот контроль ловит глубину делегирования и циклы, которые не сходятся.
3. Дневной бюджет
Дневной бюджет ограничивает совокупные расходы команды, арендатора, функции или сервисного аккаунта. Это контроль справедливости и радиуса поражения. Когда бюджет почти исчерпан, направляйте подходящую работу в пакетную обработку или на более мелкие модели и сохраняйте зарезервированную мощность для ценных рабочих процессов. Сбрасывайте его по объявленному часовому поясу и фиксируйте сброс в реестре.
Сделайте отказы полезными
Отказ по бюджету должен сообщать, какой бюджет сработал, сколько израсходовано и какое восстановление разрешено. Возвращайте возобновляемое состояние, а не молчаливый пустой ответ. Публикуйте неизменяемое событие для каждого резервирования, расхода, освобождения и отказа, чтобы финансовый отдел мог сверить реестр со счетами провайдеров.
Связывайте бюджеты с качеством
Бюджеты не дают права ухудшать каждый ответ. Отслеживайте стоимость успешной задачи, долю завершённых задач, задержку и оценку качества пользователем или оценщиком наряду с отказами. Политика бюджета здорова, когда она останавливает неконтролируемую работу и сохраняет SLO качества для рабочих процессов, которые она разрешает.
Три бюджета создают три границы: одна попытка, один результат и один период. Вместе они превращают неограниченного агента в систему, которой можно управлять и которую можно аудировать.
Связанное
- Ограничители расходов агентов
- Управление бюджетом LLM
- Стоимость успешной задачи
По теме
Хотите применить это к своему стеку? Принесите счета провайдеров, логи шлюза и ключевые рабочие процессы — мы определим драйверы затрат и пути экономии. Заказать бесплатный аудит →