JSON モードとスキーマのトークンコスト
Updated September 1, 2026 · first published September 1, 2026
構造化出力はフォーマットの選択に見えますが、請求書の上では分量の選択であり、同時に 3 か所に現れます。
スキーマは毎リクエストの入力コスト
スキーマはリクエストに直列化されます。控えめなスキーマでも数百トークンあり、それを全呼び出し・全ターン・機能の寿命ぶん掛け合わせます。400 トークン × 100 万回 = 4 億入力トークンを、決して変わらない「形」の説明に払っていることになります。
さらに悪いのは、スキーマをプロンプトの可変部分の後ろに置いた場合です。キャッシュされたプレフィックスが壊れ、その前のすべての割引まで消えます。
構文は出力コスト
波括弧、引用符、カンマ、フィールド名はすべて生成トークンで、出力単価で課金されます。冗長なフィールド名は恒久的な継続課金です。
高いのはリトライ
検証失敗のたびに完全なリトライが発生し、入力も出力も丸ごと再課金されます。不正率 2% は、見返りのない 2% のコスト増です。
実際にやること
スキーマは安定プレフィックスに置いてキャッシュさせる。実際に使うフィールドだけ要求する。短いフィールド名と浅い構造にする。単一の値ならオブジェクトで包まない。そして検証失敗率を計測する — そこだけは純粋な無駄です。
Related
Want this applied to your own LLM spend? FinOps LLM runs a free audit of your AI costs and shows where the savings are. Book free audit →