Das Kontextfenster zweimal bezahlen
Updated September 1, 2026 · first published September 1, 2026
Ein Kontextfenster wird als Kapazität beworben: 200.000 Tokens, eine Million, Platz für alles. Kapazität ist nicht die Abrechnungseinheit. Berechnet wird, was Sie senden — und in einer mehrstufigen Konversation senden Sie fast alles in jedem Zug erneut.
Das ist die zweite Zahlung. Ein 30.000-Token-Dokument am Anfang einer Konversation mit zwanzig Zügen sind nicht 30.000 Eingabe-Tokens, sondern eher 600.000.
Die Rechnung, die niemand macht
Die Kosten wachsen mit dem Quadrat der Konversationslänge, nicht linear. Doppelte Zuganzahl heißt rund vierfache Eingabe-Tokens. Wer "Kosten je Nachricht" modelliert und multipliziert, unterschätzt lange Sitzungen deutlich.
Oft kommt ein dritter Posten hinzu: viele Anbieter berechnen oberhalb einer Long-Context-Schwelle einen Aufpreis. Ein zusätzlicher Anhang kann die ganze Anfrage über diese Linie schieben.
Was zu messen ist
Verfolgen Sie die Kontextauslastung: gesendete Tokens gegenüber tatsächlich benötigten. Messen Sie Eingabe-Tokens je Konversation, nicht je Anfrage, und beobachten Sie den p99.
Drei Korrekturen
Cachen Sie das stabile Präfix — die ertragreichste Änderung für jedes mehrstufige Produkt.
Kürzen Sie den Verlauf bewusst: den älteren Teil zusammenfassen, die Rohzüge verwerfen.
Senden Sie den Auszug, nicht das Korpus.
Related
Want this applied to your own LLM spend? FinOps LLM runs a free audit of your AI costs and shows where the savings are. Book free audit →