Quick answer: Kosten pro Anfrage sind nützlich, aber eine fehlgeschlagene Anfrage ist keine fertige Arbeit. Der bessere Wert sind Kosten pro erfolgreicher Aufgabe: alle zurechenbaren Kosten geteilt durch Aufgaben...

Kosten pro erfolgreicher Aufgabe schlagen Kosten pro Anfrage

Updated August 27, 2026 · first published August 27, 2026

Kosten pro Anfrage sind nützlich, aber eine fehlgeschlagene Anfrage ist keine fertige Arbeit. Der bessere Wert sind Kosten pro erfolgreicher Aufgabe: alle zurechenbaren Kosten geteilt durch Aufgaben über einer definierten Qualitätsschwelle.

Die Formel

Kosten je Aufgabe = zurechenbarer Aufwand / erfolgreiche Aufgaben. Zählen Sie Tokens, Tools, Retries und Fallbacks. Erfolg muss vorher definiert werden.

Den Nenner instrumentieren

Verknüpfen Sie jeden Modell-Span mit einem Ergebnisereignis. Erfassen Sie Erfolg, Fehlergrund, menschliche Reparatur und Latenz und gleichen Sie die Kosten mit der Provider-Rechnung ab.

Niedrige Anfragekosten bei hohen Kosten pro Erfolg bedeuten meist ein Qualitäts-, Retry- oder Stoppregelproblem.

Related


Want this applied to your own LLM spend? FinOps LLM runs a free audit of your AI costs and shows where the savings are. Book free audit →

Back to research