遏制子智能体并发扇出吞噬Token预算
Updated September 19, 2026 · first published September 19, 2026
当自律编排智能体将一项宏观任务拆解为并行子任务，并允许下游工作智能体自主派生新的专用子智能体时，极易发生子智能体并发扇出级联（Fan-out Cascades）。在缺乏硬性并发上限与递归深度约束的环境中，单条语义含糊的用户Prompt即可引爆指数级膨胀：1个主调度器派生6个领域规划器，每个规划器启动4个研究智能体，后者又继续调用深层分析工作流。在生产架构中，不受控的递归委派常在5分钟内烧掉200万至800万Token，导致单笔业务交易突发产生15至80美元的异常账单毛刺。
多智能体舰队的四大生产护栏
- 最大递归深度硬顶（Depth Caps）：在调度层设定严格的层级上限。在95%的企业落地场景中，设置
max_depth: 2（主调度器 → 专用工作智能体）即可完全覆盖业务需求。除非有明确的权限豁免，坚决禁止工作智能体继续派生三级孙代智能体。 - 根会话共享Token预算池：禁止赋予子智能体独立的预算配额。在根执行线程上下文分配共享配额（例如总计250,000 Token），并通过链路追踪上下文头部向下透传。子智能体消费时统一扣减全局资金池，一旦归零，全部并行分支立即强制终止。
- 并发断路器（Circuit Breakers）：将单个任务活跃的并行子智能体限制在3至5个进程以内。若调度器试图派生超出队列容量的并发实例，强制排队顺序执行或直接驳回拆解请求。
- 分布式链路追踪与OTLP成本透传：在智能体消息总线间注入OpenTelemetry Trace ID与Baggage请求头。确保每个子智能体的Span均能聚合至父会话ID，实现对分支级成本异动的秒级洞察。
Related
Want this applied to your own LLM spend? FinOps LLM runs a free audit of your AI costs and shows where the savings are. Book free audit →