OpenAI費用配分
OpenAI費用配分はリクエストが送信される前に開始します。API応答はトークン使用量を教えることができますが、アプリケーションがそのコンテキストを添付しない限り、どの製品表面、チーム、顧客、またはビジネスワークフローが呼び出しを引き起こしたかは知りません。
配分は3つのソースを組み合わせる必要があります：リクエストメタデータ、使用ログ、および請求書データ。リクエストメタデータは所有権を提供します。使用ログはトークン数とモデルを提供します。請求書データは権威あるファイナンス合計を提供します。
キャプチャするラベル
- 機能名またはエンドポイント。
- チーム所有者および環境。
- 許可されている場合のプロジェクトまたは顧客。
- リアルタイム、バッチ、評価、サポート、またはエージェントステップなどのワークロードクラス。
- プロンプトバージョン、ルーティングポリシー、およびフォールバック状態。
配分の一般的なギャップ
チームは多くの場合、リトライとフォールバックを見逃します。ユーザーは応答を見ますが、システムは複数のアップストリーム呼び出しに対して支払っている可能性があります。もう1つの一般的なギャップはバッチ作業です：評価とエンリッチメント作業は、低コストの非同期レーンに移動できるように、ユーザー指向のトラフィックから個別にラベル付けする必要があります。
最高のOpenAI配分レポートは「どのモデルが最も費用がかかったか」で止まりません。そのモデルを使用させた製品決定、および変更できる所有者が表示されます。
関連
- LLM費用配分 - 一般的な配分原則。
- Anthropic費用配分 - Anthropicモデル向けの配分。
- LLM FinOpsとは？ - 完全な運用規律。
自分のLLM支出に適用したいですか？FinOps LLMはAI費用の無料監査を実施し、節約場所を示します。無料監査を予約 →