Tokenkosten von JSON-Modus und Schemas
Updated September 1, 2026 · first published September 1, 2026
Strukturierte Ausgabe wirkt wie eine Formatentscheidung. Auf der Rechnung ist sie eine Mengenentscheidung, und zwar an drei Stellen gleichzeitig.
Das Schema kostet bei jeder Anfrage Eingabe-Tokens
Das Schema wird in die Anfrage serialisiert. Ein bescheidenes Schema sind ein paar hundert Tokens — multipliziert mit jedem Aufruf, jedem Turn, über die gesamte Lebensdauer der Funktion. 400 Tokens mal einer Million Aufrufe sind 400 Millionen Eingabe-Tokens für eine Form, die sich nie ändert.
Schlimmer: steht das Schema nach dem volatilen Teil des Prompts, zerstört es das gecachte Präfix und damit den Rabatt auf alles davor.
Syntax kostet Ausgabe-Tokens
Jede Klammer, jedes Anführungszeichen, jeder Feldname ist ein generiertes Token zum Ausgabepreis. Lange Feldnamen sind eine dauerhafte laufende Gebühr.
Wiederholungen sind der teure Teil
Jeder Validierungsfehler kostet einen vollen Retry: die gesamte Eingabe und die gesamte Ausgabe erneut. 2% ungültige Antworten sind 2% Mehrkosten ohne Gegenwert.
Was zu tun ist
Schema ins stabile Präfix, damit es gecacht wird; nur Felder anfordern, die Sie auch verwenden; kurze Namen und flache Strukturen; und die Fehlerquote der Validierung messen.
Related
Want this applied to your own LLM spend? FinOps LLM runs a free audit of your AI costs and shows where the savings are. Book free audit →