控制智能体MCP工具定义造成的Token冗余税
更新于 October 31, 2026 · 首次发布 September 19, 2026
只有宿主应用将MCP工具定义包含在模型请求中时,它们才增加输入令牌。宿主选择公开的工具;tools/list发现和tools/call执行与模型推理是不同操作。连接服务器不代表固定令牌数或成本比例,多个工具也可能共用一个模型轮次。
核算与示例
服务器托管、付费下游服务和模型推理应分别核算。工具结果传给模型时才计入输入,并可能在后续请求中重复。不要重复加上已计入输入总量的结果令牌,也不要重复计算托管套餐已包含的服务。
以下只是说明性假设,不是供应商报价或基准测试:六次请求各包含4,000个定义令牌,共24,000个输入令牌。假设未缓存输入每百万令牌$2,费用为$0.048。每块减少到1,000个令牌后费用为$0.012;其他工作和结果不变时节省$0.036。
测量与控制
选择相关工具或按需发现,同时计算路由器成本。在保留字段、单位和约束的前提下精简描述。按供应商规则衡量实际缓存读取和写入;相同文本不保证命中,也没有通用节省比例。
使用相同模型、设置和缓存状态重放可比任务。记录输入、输出、缓存、重试、延迟和质量;汇总所有尝试和外部服务费用,再除以成功任务数。限制结果、步骤、重试和支出,并为并行工作预留预算。仅按明确的时效策略复用安全读取,不重放写入或混合客户数据。
官方资料核实于2026年10月31日。数字均为明确假设,请替换为实际费率和用量。 MCP · OpenAI
常见问题
每轮都发送所有定义吗?
不一定。宿主应用负责决定哪些工具定义发送给模型;MCP协议并不要求在每次模型请求中包含所有已连接工具的模式。
缓存会消除模式成本吗?
不会。应按供应商的计费规则核实实际缓存读取和写入用量、适用费率,以及包含所有尝试的每个成功任务成本。
相关文章
想将这些方法用于您的技术栈吗? 请准备好供应商账单、网关日志和主要工作流;我们会梳理成本驱动因素与节省空间。 预约免费审查 →