Attribution des coûts d'OpenAI
L'attribution des coûts d'OpenAI commence avant que la requête ne soit envoyée. La réponse de l'API peut vous indiquer l'utilisation des tokens, mais elle ne peut pas savoir quelle surface de produit, équipe, client ou workflow métier a causé l'appel à moins que votre application n'attache ce contexte.
L'attribution doit combiner trois sources : métadonnées de requête, enregistrements d'utilisation et données de facture. Les métadonnées de requête donnent la propriété. Les enregistrements d'utilisation donnent les comptes de tokens et le modèle. Les données de facture donnent le total financier faisant autorité.
Tags à capturer
- Nom de fonctionnalité ou endpoint.
- Propriétaire de l'équipe et environnement.
- Projet ou client quand autorisé.
- Classe de charge de travail, comme realtime, batch, eval, support ou étape d'agent.
- Version du prompt, politique de routage et statut de secours.
Lacunes courantes en attribution
Les équipes manquent souvent les nouvelles tentatives et les secours. Un utilisateur voit une réponse, mais le système peut avoir payé pour plusieurs appels en amont. Une autre lacune courante est le travail batch : les evals et les tâches d'enrichissement doivent être étiquetées séparément du trafic orienté vers l'utilisateur pour pouvoir passer à des voies asynchrones moins coûteuses.
Les meilleurs rapports d'attribution OpenAI ne s'arrêtent pas à « quel modèle a coûté le plus ». Ils montrent quelle décision produit a causé l'utilisation de ce modèle, et quel propriétaire peut la changer.
Connexes
- Attribution des coûts des LLM - principes généraux d'attribution.
- Attribution des coûts d'Anthropic - attribution pour les modèles Anthropic.
- Qu'est-ce que FinOps pour LLM? - la discipline opérationnelle complète.
Vous voulez que cela s'applique à vos propres dépenses en LLM? FinOps LLM réalise un audit gratuit de vos coûts d'IA et montre où se trouvent les économies. Réservez votre audit gratuit →