Tìm kiếm web đang trở thành trung tâm chi phí của agent
Cập nhật September 10, 2026 · đăng lần đầu September 10, 2026
Agent đang chuyển từ kiến thức tĩnh sang nghiên cứu web trực tiếp, và điều đó thay đổi mô hình chi phí. Một yêu cầu của người dùng giờ có thể kích hoạt nhiều lần tìm kiếm, một lần gọi mô hình để diễn giải từng kết quả, các lần thử lại khi công cụ lỗi, và bước tổng hợp cuối cùng. Lớp tìm kiếm không còn là hạ tầng vô hình; nó là một phần được tính phí riêng trong tác vụ.
Ví dụ, Amazon Bedrock AgentCore ghi rõ Web Search là tính năng tính theo lượng dùng với giá $7 cho mỗi 1,000 truy vấn. Giá chính xác sẽ khác nhau tùy nhà cung cấp và sản phẩm, nhưng bài học FinOps là phổ quát: hãy tính mỗi lần gọi công cụ là một khối việc có phí, cùng với token đầu vào và đầu ra. Xem thông báo của AWS để có ví dụ hiện tại.
Một prompt có thể thành nhiều lần tìm kiếm
Sự khuếch đại tìm kiếm đến từ khâu lập kế hoạch. Một agent có thể viết lại câu hỏi, tìm trên nhiều nguồn, đi theo một kết quả, thử lại khi bị timeout, rồi tìm lại sau khi gặp bằng chứng mâu thuẫn. Nếu ứng dụng chỉ ghi nhận prompt gốc của người dùng, tài chính sẽ thấy một tính năng có lượng yêu cầu thấp, trong khi nhà cung cấp thấy một khối lượng công cụ rất lớn.
Hãy ghi lại ID tác vụ cha, nhà cung cấp tìm kiếm, số truy vấn, số lần lấy kết quả, số lần thử lại, và việc kết quả có làm thay đổi câu trả lời cuối hay không. Sau đó tính chi phí tìm kiếm trên mỗi tác vụ thành công. Một lần tìm kiếm không bao giờ góp phần vào câu trả lời hữu ích là ứng viên cho một thay đổi chính sách, chứ không chỉ là một dòng chi phí để chấp nhận.
Kiểm soát ngân sách tìm kiếm
- Đặt giới hạn số truy vấn tối đa cho mỗi tác vụ và cho mỗi cấp người dùng.
- Dùng một lượt đầu rẻ hơn để khám phá, rồi dành nghiên cứu sâu cho các tác vụ có giá trị cao.
- Cache các truy vấn ổn định và chuẩn hóa những khác biệt câu chữ vô hại.
- Dừng khi đã đạt ngưỡng bằng chứng thay vì để bộ lập kế hoạch tiếp tục khám phá.
- Dùng thử lại theo cấp số nhân và giới hạn riêng biệt với số lần thử lại của mô hình.
Đo độ tươi mới so với chi tiêu
Độ tươi mới chỉ có giá trị khi nó thay đổi quyết định. Hãy so sánh chất lượng câu trả lời và tỷ lệ thành công của tác vụ theo các độ sâu tìm kiếm: không tìm kiếm, một lần tìm kiếm, và nhiều lần tìm kiếm có giới hạn. Một số quy trình cần thông tin hiện tại; số khác đang trả tiền để truy xuất lặp lại những dữ kiện thay đổi chậm.
Báo cáo ba con số cùng lúc: chi phí mô hình, chi phí tìm kiếm, và chi phí trên mỗi tác vụ thành công. Cách này ngăn một mô hình rẻ hơn trông có vẻ hiệu quả trong khi đang bù đắp bằng số lượng lớn lần tìm kiếm có phí. Nó cũng cho đội sản phẩm một cơ sở vững chắc để quyết định khi nào việc dựa vào web trực tiếp đáng với mức giá cao hơn.
Liên quan
Liên quan
Bạn muốn áp dụng điều này cho hệ thống của mình? Hãy mang theo hóa đơn nhà cung cấp, nhật ký gateway và các quy trình chính; chúng tôi sẽ xác định yếu tố chi phí và hướng tiết kiệm. Đặt lịch kiểm toán miễn phí →