ストリーミング応答と放棄された生成コスト
更新日 September 9, 2026 · 初回公開 September 9, 2026
ブラウザのタブを閉じても、プロバイダ側では指定のトークン上限までテキスト生成が継続することがあります。AbortControllerによる即時中断が必須です。
よくある質問
なぜ途中で止めたストリーミングが課金されるのですか?
クライアントの切断がAPIサーバーに正しく通知されない限り、モデルはバックグラウンドで出力生成を完走するためです。
無駄なトークン課金を防ぐ具体的な技術対策は?
フロントエンドの離脱イベントをAbortControllerを介してゲートウェイ経由でプロバイダAPIへ即時伝播させることです。
関連記事
この方法を自社の環境にも適用しますか? プロバイダーの請求書、ゲートウェイログ、主要なワークフローをお持ちください。コスト要因と削減策を整理します。 無料監査を予約 →