Cách dùng Jev trong một AI agent
Cập nhật September 21, 2026 · đăng lần đầu September 21, 2026
Dùng Jev khi agent cần chọn, chấm điểm, phân loại hoặc chặn một hành động, không phải khi agent cần viết. Tích hợp hữu ích nhỏ nhất là một quyết định với tập đáp án cố định. Đưa cho Jev trạng thái mà quy trình đã có sẵn, định nghĩa các lựa chọn mà code của bạn xử lý được, rồi rẽ nhánh dựa trên đáp án trả về và mức độ tin cậy.
Vercel cung cấp Jev dưới dạng typesafe-ai/jev trong AI Gateway và tài liệu hóa qua API thử nghiệm evaluate của AI SDK. Trang mô hình của họ dùng một câu hỏi Boolean để xác định một khoản hoàn tiền đã được thực hiện hay chưa. Cùng dạng yêu cầu đó cũng dùng được cho định tuyến, chấm điểm và rào chắn an toàn.
1. Bắt đầu bằng một câu hỏi có giới hạn
Câu hỏi đầu tiên tốt có tập đáp án hữu hạn và hành động tiếp theo rõ ràng. "Hàng đợi nào sở hữu ticket này?" là một ví dụ tốt: Billing, Technical, Sales hoặc Review. "Chúng ta nên làm gì?" quá rộng; nó yêu cầu Jev lập kế hoạch thay vì quyết định.
2. Cung cấp trạng thái và câu hỏi có kiểu
Gửi ticket, các thông tin tài khoản liên quan và đoạn chính sách mà quyết định cần. Sau đó khai báo các câu hỏi, ví dụ: queue: Choice(Billing, Technical, Sales, Review) và urgent: Boolean. Mọi câu hỏi đều dùng chung một trạng thái, vì vậy hãy tránh lịch sử không liên quan và đưa vào những dữ kiện mà một người review có năng lực cũng cần.
3. Để độ tin cậy quyết định đường đi
Gán một tuyến rõ ràng cho từng kết quả. Kết quả định tuyến có độ tin cậy cao và rủi ro thấp có thể tiếp tục ngay. Trường hợp độ tin cậy trung bình có thể chuyển sang một mô hình mạnh hơn với cùng bằng chứng. Trường hợp tác động lớn hoặc độ tin cậy thấp nên chuyển sang người review. Đừng dùng một ngưỡng chung cho mọi trường hợp: gắn nhầm thẻ chủ đề và thực hiện nhầm một hành động thanh toán có hậu quả khác nhau.
4. Hỏi thêm câu hỏi trước khi gọi thêm lần nữa
Jev có thể đánh giá nhiều câu hỏi có kiểu trên cùng một trạng thái. Hãy hỏi về hàng đợi, mức độ khẩn cấp và việc bằng chứng đã đủ hay chưa trong một lần gọi quyết định khi cả ba đều thay đổi bước tiếp theo. Chỉ thêm câu hỏi khi chúng làm thay đổi hành vi; đầu ra miễn phí không phải lý do để tạo ra những đánh giá không được dùng đến.
5. Giữ quyền quyết định trong code
Hướng dẫn kiểm soát agent của Vercel giữ quyền truy cập, kiểm tra tham số, chính sách thử lại và việc thực thi công cụ trong code ứng dụng. Jev đánh giá trạng thái; ứng dụng của bạn quyết định những gì nó được phép làm. Hãy lưu phiên bản trạng thái, phiên bản câu hỏi, đáp án, xác suất, tuyến và kết quả cuối cùng để bạn có thể điều chỉnh ngưỡng và đo chi phí cho mỗi tác vụ đã hoàn thành.
Jev dễ áp dụng nhất khi nó thay thế một quyết định LLM rườm rà trong agent hiện có. Hãy chứng minh mô hình này trên quyết định đó, rồi mở rộng sang các nhánh lặp lại khác trong quy trình.
Liên quan
- Jev nên đặt ở đâu trong quy trình agent
- Các bài kiểm thử Jev độc lập nói gì về chi phí
- Chi phí cho mỗi tác vụ thành công
Bạn muốn áp dụng điều này cho hệ thống của mình? Hãy mang theo hóa đơn nhà cung cấp, nhật ký gateway và các quy trình chính; chúng tôi sẽ xác định yếu tố chi phí và hướng tiết kiệm. Đặt lịch kiểm toán miễn phí →