AI 에이전트에서 Jev 사용하기
업데이트 September 21, 2026 · 최초 게시 September 21, 2026
에이전트가 무언가를 작성해야 할 때가 아니라 선택, 점수 매기기, 분류, 또는 통과 여부를 결정해야 할 때 Jev를 사용하세요. 가장 작고 유용한 통합은 답의 범위가 고정된 하나의 판단입니다. 워크플로에 이미 있는 상태를 Jev에 전달하고, 코드가 처리할 수 있는 선택지를 정의한 다음, 반환된 답과 신뢰도에 따라 분기하세요.
Vercel은 AI Gateway에서 Jev를 typesafe-ai/jev로 제공하며, AI SDK의 실험적 evaluate API를 통해 문서화하고 있습니다. 모델 페이지에서는 환불이 발생했는지 판단하기 위해 불리언 질문을 사용합니다. 같은 요청 형태를 라우팅, 점수 매기기, 가드레일에도 그대로 쓸 수 있습니다.
1. 범위가 정해진 질문 하나로 시작하기
좋은 첫 질문은 답의 범위가 유한하고 다음 행동이 분명합니다. 「이 티켓은 어느 큐가 담당하는가?」가 좋은 예입니다. 답은 결제, 기술, 영업, 검토 중 하나입니다. 「무엇을 해야 할까?」는 너무 광범위합니다. Jev에게 결정이 아니라 계획을 요구하는 셈이기 때문입니다.
2. 상태와 타입이 지정된 질문 제공하기
티켓, 관련 계정 정보, 판단에 필요한 정책 발췌문을 보내세요. 그런 다음 질문을 선언합니다. 예를 들어 queue: Choice(Billing, Technical, Sales, Review)와 urgent: Boolean입니다. 모든 질문은 같은 상태를 공유하므로 관련 없는 이력은 피하고, 유능한 사람 검토자가 필요로 할 사실은 포함하세요.
3. 신뢰도가 경로를 바꾸게 하기
각 결과마다 명시적인 경로를 두세요. 신뢰도가 높고 위험이 낮은 라우팅 결과는 바로 진행할 수 있습니다. 신뢰도가 중간인 경우에는 같은 근거를 들려 더 강력한 모델로 넘길 수 있습니다. 영향이 크거나 신뢰도가 낮은 경우에는 검토로 보내세요. 하나의 전역 임계값을 쓰지 마세요. 잘못된 주제 태그와 잘못된 결제 조치는 결과가 전혀 다릅니다.
4. 호출을 늘리기 전에 질문을 늘리기
Jev는 같은 상태에 대해 여러 개의 타입 질문을 평가할 수 있습니다. 세 가지 모두 다음 단계를 바꾼다면, 큐, 긴급도, 증거가 충분한지를 하나의 판단 호출에서 함께 물어보세요. 질문은 행동을 바꿀 때만 추가하세요. 출력이 무료라고 해서 쓰이지 않을 판단을 만들 이유는 없습니다.
5. 권한은 코드에 두기
Vercel의 에이전트 제어 가이드는 권한, 인자 검증, 재시도 정책, 도구 실행을 애플리케이션 코드에 둡니다. Jev는 상태를 평가하고, 애플리케이션은 무엇을 해도 되는지 결정합니다. 상태 버전, 질문 버전, 답, 확률, 경로, 최종 결과를 저장하세요. 그래야 임계값을 조정하고, 해결된 작업 하나당 비용을 측정할 수 있습니다.
Jev는 기존 에이전트에서 다루기 까다로운 LLM 판단 하나를 대체하는 방식으로 도입하는 것이 가장 쉽습니다. 먼저 그 판단에서 패턴을 입증한 다음, 워크플로의 다른 반복되는 분기로 확장하세요.
관련 글
이 내용을 현재 스택에 적용하고 싶으신가요? 공급업체 청구서, 게이트웨이 로그, 주요 워크플로를 가져오시면 비용 요인과 절감 경로를 정리해드립니다. 무료 감사 예약 →