Kinh tế đơn vị của API thời gian thực và âm thanh
Cập nhật September 1, 2026 · đăng lần đầu September 1, 2026
Mọi mô hình chi phí xây cho LLM văn bản đều hỏng khi áp dụng cho giọng nói. Văn bản được tính theo token, mà token tỷ lệ với thông tin. Âm thanh được tính theo thời lượng, mà thời lượng tỷ lệ với thời gian — kể cả toàn bộ khoảng thời gian không có gì hữu ích xảy ra.
Bạn thực sự đang trả tiền cho những gì
Một tương tác giọng nói thường xếp chồng ba hoặc bốn khoản phí. Chuyển giọng nói thành văn bản cho âm thanh đầu vào. Lần gọi mô hình chính, vốn trên các API giọng nói sang giọng nói thời gian thực được tính theo phút âm thanh vào và ra thay vì theo token. Chuyển văn bản thành giọng nói cho chiều trả về, nếu ngăn xếp không phải đầu cuối. Và thường có thêm một khoản phí riêng cho việc giữ phiên mở.
Khoản cuối là cái bẫy. Một phiên được giữ mở trong khi người dùng suy nghĩ, đọc thứ gì đó trên màn hình hoặc rời đi vẫn là một phiên. Trên đồng hồ tính theo phút, khoảng lặng là một sản phẩm tính theo giá đầy đủ.
Ước tính sai ở đâu
Các đội thường mô hình chi phí giọng nói là thời gian nói × đơn giá và kết quả thấp hơn thực tế rất nhiều. Bốn thứ bị thiếu. Độ trễ và khoảng dừng được tính phí nhưng không được mô hình hóa. Ngắt lời nghĩa là âm thanh đã được tạo và trả tiền nhưng người gọi chưa bao giờ nghe thấy. Thử lại và nhắc lại phát lại toàn bộ cuộc trao đổi, và một lần thử lại bằng giọng nói đắt hơn nhiều so với văn bản vì nó lặp lại âm thanh, không chỉ token. Còn cuộc gọi bị bỏ dở tốn toàn bộ thời lượng cho đến lúc cúp máy mà không tạo ra gì.
Chỉ số có tác dụng
Chi phí mỗi cuộc trò chuyện hoàn thành, không phải chi phí mỗi phút. Số phút là đồng hồ đo, không phải đơn vị giá trị kinh doanh — và một thay đổi làm rút ngắn cuộc gọi nhờ cải thiện mô hình có thể làm tăng đơn giá theo phút nhưng giảm chi phí để đưa người gọi đến câu trả lời.
Sau đó hãy đo những phần không ai nhìn thấy: thời lượng phiên trung vị và p95, tỷ lệ thời gian được tính phí so với thời gian nói, tỷ lệ bỏ dở, và chi phí của các phiên bị bỏ dở chiếm bao nhiêu phần trăm tổng. Đóng các phiên nhàn rỗi một cách quyết liệt; thời gian chờ nhàn rỗi thường là khoản tiết kiệm lớn nhất có sẵn trong ngăn xếp giọng nói. Và hãy coi hỗ trợ ngắt lời là một tính năng chi phí cũng như tính năng trải nghiệm, vì mỗi giây lời nói mà người dùng nói chồng lên là một giây bạn đã trả tiền để tạo ra.
Liên quan
Liên quan
Bạn muốn áp dụng điều này cho hệ thống của mình? Hãy mang theo hóa đơn nhà cung cấp, nhật ký gateway và các quy trình chính; chúng tôi sẽ xác định yếu tố chi phí và hướng tiết kiệm. Đặt lịch kiểm toán miễn phí →