Streaming en kosten van verlaten generaties
Bijgewerkt September 9, 2026 · eerst gepubliceerd September 9, 2026
Het sluiten van een tabblad stopt de modelaanroep niet zonder expliciet signaal. Voorkom onzichtbaar tokenverlies via AbortController.
Veelgestelde vragen
Waarom worden afgebroken streams toch gefactureerd?
Omdat de AI-provider op de achtergrond tokens blijft genereren totdat de HTTP-verbinding daadwerkelijk wordt verbroken.
Hoe stop je onnodige kosten bij verlaten streams?
Door client-disconnects via een AbortController direct door te zetten naar het API-verzoek van de upstream modelprovider.
Gerelateerd
Wilt u dit toepassen op uw stack? Neem leveranciersfacturen, gatewaylogs en de belangrijkste workflows mee; we brengen kostenfactoren en besparingskansen in kaart. Plan een gratis audit →