Arkusz pełnego kosztu agenta AI
Zaktualizowano October 8, 2026 · pierwsza publikacja October 8, 2026
Suma tokenów modelu nie jest pełnym kosztem agenta. Uruchomienie produkcyjne może zużyć także hostowane wyszukiwanie, wykonanie kodu, pamięć, ponowienia, modele zapasowe i ludzką weryfikację. Przydatny arkusz łączy każdą pozycję z identyfikatorem uruchomienia i trzyma zmierzone opłaty dostawcy osobno od przydzielonych kosztów ogólnych i szacunków pracy.
Ten arkusz uzupełnia koszt na udane zadanie: najpierw zestaw pełną księgę kosztów, a potem podziel ją przez wyniki, które przeszły zdefiniowany test sukcesu. Rozszerza też osobne rozliczanie narzędzi do powtarzalnego zapisu finansowego.
Zacznij od jednego wiersza na zdarzenie
Użyj stabilnego identyfikatora przepływu pracy dla intencji użytkownika i identyfikatora uruchomienia dla każdej próby. Zapisuj znacznik czasu, środowisko, zespół lub najemcę, przepływ pracy, uruchomienie, dostawcę, usługę, identyfikator zasobu, ilość, jednostkę, wersję cennika, walutę oraz źródło faktury lub pomiaru. Trzymaj jedno zdarzenie na każde wywołanie modelu, wywołanie narzędzia, zadanie obliczeniowe lub element przeglądu. Dzięki temu ponowienia są widoczne, a finanse mogą uzgodnić sumy bez zgadywania, która zagnieżdżona operacja je wygenerowała.
Kolumny arkusza
- Model: dostawca, model, jednostki wejścia, wyjścia, cache i rozumowania, jeśli są udostępnione, zmierzona stawka i bezpośredni koszt.
- Narzędzia: wyszukiwanie, pobieranie danych, przeglądarka, wykonanie kodu i inne mierzone usługi, z liczbą wywołań lub czasem działania oraz bezpośrednim kosztem.
- Obliczenia i pamięć: czas działania sandboksa lub kontenera, czas akceleratora lub CPU, trwała pamięć oraz opłaty za sieć, jeśli są naliczane.
- Praca niezawodnościowa: ponowienia, wywołania zapasowe, porzucone gałęzie i uruchomienia naprawcze. Zachowaj je w łącznym koszcie uruchomienia, nawet gdy nie dały użytecznego wyniku.
- Weryfikacja: wywołania ewaluatorów i minuty ludzkiego przeglądu, przy czym koszt pracy oznaczony jest jako wewnętrzny szacunek, a nie pozycja faktury dostawcy.
- Wspólna platforma: przydziały orkiestracji, obserwowalności, zarezerwowanej pojemności lub wspólnej pamięci, każdy z kluczem przydziału i okresem.
Licz koszt bezpośredni i pełny osobno
Bezpośredni koszt uruchomienia to suma zmierzonych opłat za model, narzędzia, obliczenia i pamięć przypisanych do tego uruchomienia. Pełny koszt dodaje zadeklarowaną część kosztów ogólnych platformy i pracy przeglądu. Do kosztów wspólnych używaj stabilnego klucza, na przykład zmierzonego czasu działania, zarezerwowanej pojemności lub udokumentowanego przydziału na uruchomienie. Publikuj klucz i jego okno czasowe; nie rozkładaj kosztów stałych według liczby tokenów, chyba że tokeny rzeczywiście wyjaśniają zużycie zasobów.
Mały hipotetyczny przykład wyjaśnia wzór: jeśli jedno uruchomienie ma 0,40 USD opłat za model, 0,10 USD za narzędzia, 0,20 USD za obliczenia w sandboksie i 0,30 USD przydzielonych kosztów przeglądu i platformy, raportuj 0,70 USD bezpośrednio i 1,00 USD pełnego kosztu. Te liczby ilustrują tylko arytmetykę; nie są ceną rynkową ani benchmarkiem.
Oddziel próby od wyników
Zlicz każdą próbę w wydatkach, a następnie oznacz końcowy przepływ pracy jako udany, nieudany, porzucony lub wymagający dokończenia przez człowieka, według jawnej reguły. Raportuj koszt na zakończony przepływ razem z odsetkiem sukcesów, odsetkiem ponowień i nakładem na przegląd. Dla metryki udanego zadania użyj łącznych kwalifikujących się wydatków z okresu podzielonych przez liczbę przepływów, które przeszły test sukcesu. Nie usuwaj nieudanych uruchomień z licznika i nie licz pośrednich kroków agenta jako odrębnych sukcesów.
Uzgadniaj i zarządzaj arkuszem
Uzgadniaj sumy zdarzeń z fakturami dostawców i eksportami rozliczeń chmury, gdy dane o zużyciu się ustabilizują. Osobno wyjaśniaj kredyty, rabaty, minimalne opłaty, późno zarejestrowane zdarzenia i przeliczenia walut. Zapisuj źródło ceny i datę jej obowiązywania, aby historyczne koszty można było przeliczyć bez stosowania dzisiejszej stawki do zeszłomiesięcznego zużycia.
Przypisz właściciela do każdego przepływu pracy i ustal budżet na uruchomienie, zagregowany budżet okresowy oraz ścieżkę eskalacji. Gdy przepływ przekroczy budżet, zapisz powód i to, czy pozwolono mu kontynuować. Wzorce egzekwowania w czasie działania opisuje artykuł trzy budżety dla autonomicznych agentów.
FAQ
Co powinno znaleźć się w arkuszu kosztów agenta?
Zapisz użycie modeli, rozliczane narzędzia, obliczenia, pamięć, ponowienia, wywołania zapasowe, weryfikację oraz osobno oznaczone przydziały wspólnej platformy i szacunki pracy.
Czy nieudane uruchomienia agenta powinny wchodzić do kosztu na zadanie?
Ich wydatki wchodzą do sumy. Liczbę udanych przepływów raportuj według zadeklarowanej reguły sukcesu, aby porażki pozostały widoczne w ekonomii jednostkowej.
Jak uniknąć podwójnego liczenia wspólnych kosztów platformy?
Zachowaj bezpośrednie opłaty przypisane do ich zdarzenia, przydzielaj koszty wspólne w osobnej księdze według jednego opublikowanego klucza i uzgadniaj sumę przydziałów z pulą kosztów platformy.
Powiązane
Powiązane
Chcesz zastosować to w swoim stosie? Przynieś faktury dostawców, logi bramy i najważniejsze przepływy pracy; wskażemy czynniki kosztów i ścieżkę oszczędności. Umów bezpłatny audyt →