Tiga anggaran yang dibutuhkan setiap agen otonom
Diperbarui August 27, 2026 · pertama terbit August 27, 2026
Agen otonom membutuhkan lebih dari sekadar peringatan pengeluaran bulanan. Ia membutuhkan tiga anggaran yang ditegakkan di dalam loop-nya: anggaran permintaan untuk satu panggilan model, anggaran alur kerja untuk seluruh tugas, dan anggaran harian untuk pemilik atau tenant. Masing-masing menangkap mode kegagalan yang berbeda.
1. Anggaran permintaan
Anggaran permintaan membatasi token, fan-out alat, latensi, atau dolar untuk satu percobaan. Anggaran ini melindungi dari konteks yang terlalu besar, output yang tidak terduga panjangnya, atau alat yang memicu panggilan bersarang. Terapkan sebelum permintaan ke penyedia dan sebelum setiap pengiriman alat. Batas lunak dapat menurunkan model; batas keras menolak percobaan dengan alasan yang eksplisit.
2. Anggaran alur kerja
Anggaran alur kerja mengikuti satu intensi pengguna melintasi giliran, percobaan ulang, fallback, dan subagen. Anggaran ini membutuhkan ID korelasi dan buku besar yang berjalan, bukan penghitung lokal di satu proses. Hentikan ketika buku besar melewati batasnya, meskipun setiap permintaan individual tetap di bawah limitnya. Inilah kontrol yang menangkap kedalaman delegasi dan loop yang tidak konvergen.
3. Anggaran harian
Anggaran harian membatasi total pengeluaran untuk tim, tenant, fitur, atau akun layanan. Ini adalah kontrol keadilan dan radius dampak. Ketika hampir habis, alihkan pekerjaan yang memenuhi syarat ke batch atau model yang lebih kecil, dan sisihkan kapasitas untuk alur kerja bernilai tinggi. Atur ulang sesuai zona waktu yang ditetapkan dan catat pengaturan ulang tersebut di buku besar.
Buat penolakan anggaran berguna
Penolakan anggaran harus menyebutkan anggaran mana yang terpicu, berapa yang sudah terpakai, dan pemulihan apa yang diizinkan. Kembalikan status yang bisa dilanjutkan, bukan jawaban kosong yang diam-diam. Keluarkan event yang tidak dapat diubah untuk setiap reservasi, pengeluaran, pelepasan, dan penolakan agar tim finance dapat mencocokkan buku besar dengan faktur penyedia.
Pasangkan anggaran dengan kualitas
Anggaran bukan izin untuk menurunkan kualitas setiap respons. Pantau biaya per tugas yang berhasil, tingkat penyelesaian, latensi, serta kualitas dari pengguna atau evaluator bersama data penolakan. Kebijakan anggaran dianggap sehat ketika ia menghentikan pekerjaan yang lepas kendali sambil tetap menjaga SLO kualitas untuk alur kerja yang diizinkan.
Tiga anggaran menciptakan tiga batas: satu percobaan, satu hasil, dan satu periode. Bersama-sama, ketiganya mengubah agen tanpa batas menjadi sistem yang bisa dioperasikan dan diaudit.
Terkait
- Pagar pembatas belanja agen
- Tata kelola anggaran LLM
- Biaya per tugas yang berhasil
Terkait
Ingin menerapkannya pada stack Anda? Bawa tagihan penyedia, log gateway, dan alur kerja utama; kami akan memetakan pendorong biaya dan jalur penghematan. Pesan audit gratis →