Le coût par tâche réussie vaut mieux que le coût par requête
Updated August 27, 2026 · first published August 27, 2026
Le coût par requête est utile, mais une requête échouée n’est pas une unité de travail terminée. Le meilleur indicateur est le coût par tâche réussie: toute la dépense attribuable divisée par les tâches qui atteignent un seuil de qualité.
La formule
coût par tâche = dépense attribuable / tâches réussies. Incluez tokens, outils, reprises et bascules. Définissez la réussite avant la mesure: acceptation utilisateur, seuil de confiance ou flux terminé sans réparation humaine.
Mesurer le dénominateur
Liez chaque trace modèle à un événement de résultat. Enregistrez succès, cause d’échec, réparation humaine et latence, puis rapprochez la dépense des factures.
Un coût par requête faible mais un coût par tâche réussi élevé signale un problème de qualité, de reprises ou de règle d’arrêt.
Related
Want this applied to your own LLM spend? FinOps LLM runs a free audit of your AI costs and shows where the savings are. Book free audit →