So führen Sie eine LLM-Ausgabenprüfung in 30 Minuten durch

Die meisten Teams wissen nicht, wie ihr LLM-Budget aufgeschlüsselt ist. Die Kosten sind in Provider-Dashboards verborgen, die nur Gesamtwerte, aber keine Kostenzuordnung anzeigen, Token-Typen werden mit unterschiedlichen Sätzen abgerechnet, und Nutzungsmuster ändern sich Woche für Woche. Diese Anleitung bietet eine strukturierte Prüfung, die Sie in einer halben Stunde mit Werkzeugen durchführen können, die Sie bereits haben.

Schritt 1 - Abrechnungsdaten von Providern erfassen

Exportieren Sie die letzten 30 Tage der Nutzung von jedem LLM-Provider, den Sie verwenden. Verwenden Sie für OpenAI die Usage-API oder laden Sie CSV aus dem Dashboard herunter. Für Anthropic rufen Sie die Billing-API ab. Für Google exportieren Sie aus der Cloud-Billing-Konsole. Für selbst gehostete Modelle rufen Sie Anfragelogs von Ihrem Inferenzserver ab. Speichern Sie alles in einem Ordner. Sie benötigen Rohdaten, keine Zusammenfassungen.

Schritt 2 - Token-Anzahl über Provider normalisieren

Jeder Provider zählt Token unterschiedlich. OpenAI und Anthropic verwenden ihre eigenen Tokenisierer; Google verwendet SentencePiece. Um die Ergebnisse zu vergleichen, konvertieren Sie alle Zählungen in eine gemeinsame Einheit. Der einfachste Ansatz: Verwenden Sie den von jedem Provider veröffentlichten Pro-Token-Preis, um die Kosten pro Anfrage zu berechnen, und vergleichen Sie dann die Kosten direkt, anstatt rohe Token-Zählungen zu vergleichen. Dies vermeidet Tokenisierer-Unterschiede vollständig.

Schritt 3 - Nach Input-, Output-, Cache- und Reasoning-Tokens unterteilen

Provider berechnen unterschiedliche Sätze für verschiedene Token-Typen. Zwischengespeicherte Input-Tokens sind typischerweise 50 % günstiger bei OpenAI und Anthropic. Reasoning-Tokens (in o-series und ähnlichen Modellen) können 2–4-mal so teuer sein wie Standard-Output-Tokens. Teilen Sie Ihre Ausgaben in diese vier Kategorien ein: Input, Output, zwischengespeicherte Input und Reasoning. Wenn Ihr Provider diese Aufteilung nicht offenlegt, schätzen Sie diese anhand des Modelltyps und des Anfrage-Musters.

Schritt 4 - Teams und Funktionen zuordnen

Ordnen Sie jeden API-Schlüssel oder jedes Projekt dem Team oder der Funktion zu, das oder die es besitzt. Wenn Sie keine Trennung auf Schlüsselebene haben, verwenden Sie Anfrage-Metadaten – Header, Tags oder den user-Parameter, den die meisten Provider unterstützen. Das Ziel ist eine Tabelle: Welches Team gibt wie viel für welche Funktion aus. Ohne dies können Sie niemanden für Kosten verantwortlich machen.

Schritt 5 - Identifizieren Sie die 3 wichtigsten Kostentreiber

Sortieren Sie nach Gesamtausgaben in absteigender Reihenfolge. In den meisten Organisationen stammen 80 % der LLM-Kosten aus 3–5 Nutzungsmustern. Häufige Kostentreiber: Ein Chatbot mit langen Kontextfenstern, eine Code-Generierungsfunktion, die für alle Anfragen teure Modelle verwendet, oder ein Hintergrund-Enrichment-Job, der auf jedem Dokument ohne Filterung ausgeführt wird. Nennen Sie diese. Hier konzentriert sich die Optimierungsarbeit.

Schritt 6 - Kosten pro Aufgabe für wichtige Workflows berechnen

Wählen Sie Ihre Top-3-Workflows. Dividieren Sie für jeden die Gesamtausgaben durch die Anzahl der abgeschlossenen Aufgaben. Dies gibt Ihnen eine Unit-Economics-Zahl, die Sie im Laufe der Zeit nachverfolgen können. Ein Customer-Support-Workflow, der 0,12 USD pro Ticket kostet, ist handhabbar. Einer, der 1,40 USD pro Ticket kostet, bedarf aufmerksamkeit. Die absolute Zahl ist weniger wichtig als der Trend und der Vergleich zwischen Workflows.

Schritt 7 - Warnmeldungen für Anomalien einrichten

Konfigurieren Sie Warnmeldungen auf zwei Ebenen: Tägliche Gesamtausgaben (erkennt Runaway-Jobs) und Ausgaben pro Workflow (erkennt Abweichungen). Die meisten Provider unterstützen Abrechnungswarnmeldungen nativ. Für Provider-übergreifende Warnmeldungen leiten Sie Ihre Nutzungsdaten in ein Dashboard ein oder verwenden ein Tool wie MiMO, das Provider-übergreifend aggregiert. Eine einfache Regel: Warnmeldung, wenn ein beliebiger Tag 150 % des durchschnittlichen 7-Tage-Trends überschreitet.

Schnelle Audit-Checkliste

SchrittErforderliches ToolGeschätzter ZeitaufwandErgebnis
1. Abrechnungsdaten erfassenProvider-Dashboards oder APIs5 MinRohe CSV/JSON pro Provider
2. Tokens normalisierenTabellenkalkulation oder Skript5 MinKosten pro Anfrage-Tabelle
3. Token-Typen unterteilenProvider-APIs mit Token-Aufteilung5 MinInput/Output/Cache/Reasoning-Aufteilung
4. Teams zuordnenAPI-Schlüssel-Zuordnung oder Metadaten5 MinTeam-zu-Funktion Kostenmatrix
5. Wichtigste Kostentreiber identifizierenSortierung/Tabellenkalkulation3 MinRangierte Liste von Kostenmustern
6. Kosten pro AufgabeAufgabenzahl aus App-Logs5 MinUnit Economics pro Workflow
7. Warnmeldungen einrichtenProvider-Abrechnungswarnmeldungen + Dashboard2 MinAnomalieerkennung aktiv

Was Sie danach tun sollten

Diese Prüfung bietet eine Momentaufnahme. Der echte Wert kommt von der regelmäßigen Durchführung – wöchentlich für Teams mit hohen Ausgaben, monatlich für alle anderen. Automatisieren Sie die Datenerfassung und machen Sie die Kosten-pro-Aufgabe-Metrik zu einer erstklassigen Produktmetrik. Wenn Sie Hilfe beim Aufbau eines kontinuierlichen Prozesses benötigen, bietet MiMO Provider-übergreifende Dashboards und automatisierte Zuordnung aus dem Kasten.

Verwandte Artikel


Möchten Sie diesen Audit auf Ihre eigenen LLM-Ausgaben anwenden? FinOps LLM führt eine kostenlose Prüfung Ihrer KI-Kosten durch und zeigt, wo die Einsparungen sind. Kostenlose Audit buchen →

Zurück zur Forschung