本文へ移動

ストリーミング応答と放棄された生成コスト

更新日 September 9, 2026 · 初回公開 September 9, 2026

要約: ブラウザのタブを閉じても、プロバイダ側では指定のトークン上限までテキスト生成が継続することがあります。AbortControllerによる即時中断が必須です。

ブラウザのタブを閉じても、プロバイダ側では指定のトークン上限までテキスト生成が継続することがあります。AbortControllerによる即時中断が必須です。

よくある質問

なぜ途中で止めたストリーミングが課金されるのですか?

クライアントの切断がAPIサーバーに正しく通知されない限り、モデルはバックグラウンドで出力生成を完走するためです。

無駄なトークン課金を防ぐ具体的な技術対策は?

フロントエンドの離脱イベントをAbortControllerを介してゲートウェイ経由でプロバイダAPIへ即時伝播させることです。

関連記事


この方法を自社の環境にも適用しますか? プロバイダーの請求書、ゲートウェイログ、主要なワークフローをお持ちください。コスト要因と削減策を整理します。 無料監査を予約 →

finopsllm.com に戻る