如何在 AI 智能体中使用 Jev
更新于 September 21, 2026 · 首次发布 September 21, 2026
当智能体需要做选择、打分、分类或设闸门时使用 Jev,而不是需要写作的时候。最小的有用集成是一个答案空间固定的决策。把工作流中已有的状态交给 Jev,定义你的代码能够处理的选项,然后根据返回的答案和置信度进行分支。
Vercel 在 AI Gateway 中以 typesafe-ai/jev 的形式提供 Jev,并通过 AI SDK 的实验性 evaluate API 进行文档说明。它的模型页面使用一个布尔问题来判断是否已经发放退款。同样的请求形式也适用于路由、打分和防护。
1. 从一个有边界的问题开始
好的首批问题具有有限的答案空间和明显的下一步动作。“这张工单归哪个队列负责?”就是好问题:Billing、Technical、Sales 或 Review。“我们应该怎么做?”则太宽泛;它要求 Jev 做规划,而不是做决策。
2. 提供状态和有类型的问题
发送工单、相关的账户信息,以及决策所需的政策摘录。然后声明问题,例如:queue: Choice(Billing, Technical, Sales, Review) 和 urgent: Boolean。每个问题共享同一份状态,因此要避免无关的历史记录,并包含一位称职的人工审核者所需的事实。
3. 让置信度改变路径
为每种结果设置明确的路由。高置信度、低风险的路由结果可以立即继续。中等置信度的案例可以带着相同的证据交给更强的模型。高影响或低置信度的案例则应进入人工审核。不要使用一个全局阈值:误判的主题标签和误判的支付动作,后果截然不同。
4. 先多问问题,再多发调用
Jev 可以针对同一份状态评估多个有类型的问题。当三个问题都会改变下一步时,就在一次决策调用中同时询问队列、紧急程度以及证据是否充分。只有当问题会改变行为时才增加问题;输出免费并不是产生无用判断的理由。
5. 把权限留在代码里
Vercel 的智能体控制指南将权限、参数校验、重试策略和工具执行都保留在应用代码中。Jev 负责评估状态;你的应用决定它被允许做什么。请存储状态版本、问题版本、答案、概率、路由和最终结果,以便调整阈值并衡量每个已解决任务的成本。
在现有智能体中,当 Jev 替换掉一个笨拙的 LLM 决策时,最容易采用。先在这个决策上验证模式,然后再扩展到工作流中其他重复出现的分叉点。
相关文章
想将这些方法用于您的技术栈吗? 请准备好供应商账单、网关日志和主要工作流;我们会梳理成本驱动因素与节省空间。 预约免费审查 →