Zum Inhalt springen

Tokenkosten von JSON-Modus und Schemas

Aktualisiert September 1, 2026 · erstveröffentlicht September 1, 2026

Kurzantwort: Strukturierte Ausgabe wirkt wie eine Formatentscheidung. Auf der Rechnung ist sie eine Mengenentscheidung, und zwar an drei Stellen gleichzeitig.Das Schema kostet bei jeder Anfrage Eingabe-TokensDas...

Strukturierte Ausgabe wirkt wie eine Formatentscheidung. Auf der Rechnung ist sie eine Mengenentscheidung, und zwar an drei Stellen gleichzeitig.

Das Schema kostet bei jeder Anfrage Eingabe-Tokens

Das Schema wird in die Anfrage serialisiert. Ein bescheidenes Schema sind ein paar hundert Tokens — multipliziert mit jedem Aufruf, jedem Turn, über die gesamte Lebensdauer der Funktion. 400 Tokens mal einer Million Aufrufe sind 400 Millionen Eingabe-Tokens für eine Form, die sich nie ändert.

Schlimmer: steht das Schema nach dem volatilen Teil des Prompts, zerstört es das gecachte Präfix und damit den Rabatt auf alles davor.

Syntax kostet Ausgabe-Tokens

Jede Klammer, jedes Anführungszeichen, jeder Feldname ist ein generiertes Token zum Ausgabepreis. Lange Feldnamen sind eine dauerhafte laufende Gebühr.

Wiederholungen sind der teure Teil

Jeder Validierungsfehler kostet einen vollen Retry: die gesamte Eingabe und die gesamte Ausgabe erneut. 2% ungültige Antworten sind 2% Mehrkosten ohne Gegenwert.

Was zu tun ist

Schema ins stabile Präfix, damit es gecacht wird; nur Felder anfordern, die Sie auch verwenden; kurze Namen und flache Strukturen; und die Fehlerquote der Validierung messen.

Weiterführend


Möchten Sie das auf Ihren Stack anwenden? Bringen Sie Anbieterrechnungen, Gateway-Protokolle und die wichtigsten Workflows mit; wir ordnen Kostentreiber und Einsparpotenziale zu. Kostenlose Prüfung buchen →

Zurück zu finopsllm.com