リクエスト単価より成功タスク単価を測る
Updated August 27, 2026 · first published August 27, 2026
リクエスト単価は便利ですが、失敗や再試行は完了した仕事ではありません。重要なのは成功タスク単価、つまり品質基準を満たしたタスク1件あたりの帰属コストです。
計算方法
成功タスク単価 = 帰属支出 / 成功タスク数。トークン、ツール、再試行、フォールバックを含めます。成功条件は先に定義します。
分母を計測する
モデルのスパンと結果イベントをリクエストIDで結び、成功、失敗理由、人手修正、遅延を記録します。プロバイダー請求とも照合します。
リクエストは安いのに成功タスクが高い場合、品質、再試行、停止ルールを見直します。
Related
Want this applied to your own LLM spend? FinOps LLM runs a free audit of your AI costs and shows where the savings are. Book free audit →