Khi nào chiết khấu dùng theo cam kết có ý nghĩa với chi tiêu LLM?

Khi bạn có thể định cỡ mức sàn từ khối lượng công việc ổn định — batch, eval, lưu lượng nội bộ — và giữ lựa chọn mô hình có thể hoán đổi trong thời hạn. Cam kết chi tiêu với một nhà cung cấp dùng được cho các mô hình của họ; cam kết vào một mô hình thì không.

Vì sao giá đầu vào đã cache quan trọng đến vậy ở quy mô doanh nghiệp?

Với khối lượng công việc agent nhiều cache, phần đọc cache có thể chiếm phần lớn chi phí đầu vào. Opus 5.5 tính $0.20 cho mỗi triệu token khi đọc cache, so với $4.00 cho đầu vào mới, nên giá cache chứ không phải giá tiêu đề quyết định hóa đơn. Hãy đàm phán riêng mức giá này.

Những dòng chi phí nào bị bỏ sót khi chỉ đàm phán giá tiêu đề?

Công cụ phía máy chủ được tính tiền tách biệt với token. Một agent xây trên tìm kiếm web hoặc thực thi mã phía máy chủ có thể tạo ra một dòng chi phí không phải token rất lớn mà không đàm phán bảng giá nào bao phủ.

Một thỏa thuận dài hạn nên xử lý việc cắt giá như thế nào?

Cấu trúc sao cho việc điều chỉnh giá của nhà cung cấp được chuyển qua, hoặc kích hoạt một khoảng thời gian rà soát. Khi hai phòng thí nghiệm cắt giá trong cùng một buổi chiều, một bảng giá đã khóa từ sáu tháng trước sẽ trở thành lựa chọn đắt đỏ.

Mua sắm AI cấp doanh nghiệp và chi tiêu cam kết

Cập nhật September 27, 2026 · đăng lần đầu September 27, 2026

Ngày 25 tháng Chín năm 2026, một báo cáo dựa trên các ước tính đã phân loại mật đặt chi tiêu thử nghiệm mô hình AI của một cơ quan Hoa Kỳ ở mức hàng tỷ đô la, và thu về 176 điểm cùng 106 bình luận trên Hacker News. Dù con số chính xác là bao nhiêu, hướng đi mới là điều đáng chú ý: chi tiêu cho mô hình AI đã chuyển từ một dòng ngân sách thành một hạng mục mua sắm, và các cơ chế chi phối một hóa đơn $50K mỗi tháng không còn chi phối một hóa đơn cỡ chín con số.

Điều gì thay đổi ở quy mô mua sắm

Bảng giá công bố trở thành thứ có thể thương lượng. Với lượng dùng thấp, bạn chấp nhận giá niêm yết. Với lượng dùng cao, nhà cung cấp có chi phí phục vụ và một mối quan hệ cần giữ.
Chiết khấu dùng theo cam kết thay thế giá giao ngay. Thỏa thuận chi tiêu cam kết đổi sự linh hoạt lấy mức giá thấp hơn. Chỉ hữu ích khi bạn biết mức sàn của mình.
Đảm bảo giới hạn tốc độ và thông lượng trở thành điều khoản hợp đồng. Ưu tiên theo nỗ lực tốt nhất trở thành một điều khoản. Điều này quan trọng hơn giá đối với khối lượng công việc của agent.
Gói hỗ trợ và đường leo thang được mua, không phải cứ có sẵn. Một sự cố Sev-1 có kỹ sư trực là một phụ thuộc vận hành, không phải một khoản chi phí.
Điều khoản dữ liệu do bộ phận pháp lý rà soát. Thời gian lưu giữ, quyền từ chối huấn luyện và danh sách nhà xử lý phụ đều được kiểm toán. Việc rà soát đó nằm trên đường găng.

Sự đánh đổi của chi tiêu cam kết

Thỏa thuận dùng theo cam kết là một canh bạc vào dự báo của chính bạn. Chiết khấu thường là 10–35% so với giá niêm yết cho mức sàn 12 tháng. Kiểu thất bại điển hình là một đội cam kết một mức sàn, rồi dùng quá nhiều một mô hình rẻ hơn trong thời hạn hợp đồng, và cuối cùng trả giá cam kết cho những token mà họ không cần. Ba biện pháp kiểm soát giúp canh bạc này an toàn:

Định cỡ mức sàn theo khối lượng công việc thực sự ổn định. Lưu lượng batch, eval và nội bộ dự báo chính xác hơn nhiều so với lưu lượng agent hướng tới khách hàng.
Lựa chọn mô hình vẫn có thể hoán đổi trong thời hạn hợp đồng. Cam kết chi tiêu $X với một nhà cung cấp có thể dùng cho các mô hình của nhà cung cấp đó. Cam kết vào một mô hình cụ thể thì không.
Rà soát ở tháng thứ 6, không phải tháng thứ 12. Nếu mức chạy thực tế thấp hơn xa mức sàn, hãy đàm phán lại trước khi điều chỉnh cuối kỳ.

Bảng giá và phí egress vẫn quyết định hóa đơn

Hai dòng chi phí thường gây bất ngờ cho các đội mua sắm đã đàm phán được một mức giá tiêu đề:

Đầu vào đã cache. Opus 5.5 tính $0.20 cho mỗi triệu token khi đọc cache, so với $4.00 cho đầu vào mới. Với khối lượng công việc agent nhiều cache, mức giá cache chứ không phải giá tiêu đề mới là phần lớn chi phí đầu vào. Hãy đàm phán mức giá cache một cách rõ ràng.
Công cụ phía máy chủ là một dòng hóa đơn riêng. Tìm kiếm web, thực thi mã và các công cụ phía máy chủ tương tự được tính tiền riêng với token. Một agent doanh nghiệp xây trên tìm kiếm web có thể có một dòng chi phí không phải token rất lớn mà không đợt đàm phán bảng giá nào chạm tới.

Lựa chọn mô hình là đòn bẩy bậc hai

Ở quy mô mua sắm, khoảng cách giữa một mô hình cao cấp và một mô hình tầm trung thường nhỏ hơn khoảng cách giữa giá đã đàm phán và giá niêm yết. Và khi một phòng thí nghiệm lớn cắt giá 40% trong một buổi chiều, một bảng giá đã khóa từ sáu tháng trước bỗng trở thành lựa chọn đắt đỏ. Hãy cấu trúc thỏa thuận sao cho việc điều chỉnh giá được chuyển qua hoặc kích hoạt một khoảng thời gian rà soát. Chỉ riêng điều khoản đó đã nhiều lần quan trọng hơn cả mô hình nằm trong hợp đồng.

Kết luận

Chi tiêu cam kết, giá cache, phí egress và điều khoản chuyển giao chi phí là những cơ chế quyết định một hóa đơn AI lớn. Lựa chọn mô hình quyết định chất lượng. Hãy tách hai cuộc trò chuyện đó ra, và ghi ngày gia hạn vào lịch trước khi thời hạn bắt đầu.

Liên quan

Bạn muốn áp dụng điều này cho hệ thống của mình? Hãy mang theo hóa đơn nhà cung cấp, nhật ký gateway và các quy trình chính; chúng tôi sẽ xác định yếu tố chi phí và hướng tiết kiệm. Đặt lịch kiểm toán miễn phí →

Quay lại finopsllm.com