스트리밍 응답과 중단된 생성 비용
Updated September 9, 2026 · first published September 9, 2026
화면 렌더링이 멈춰도 백엔드 연결이 유지되면 공급자는 토큰을 계속 과금합니다. AbortController를 통한 업스트림 취소 전파가 필수적입니다.
Related
Want this applied to your own LLM spend? FinOps LLM runs a free audit of your AI costs and shows where the savings are. Book free audit →