Saltar al contenido

Respuestas en streaming y generaciones abandonadas

Actualizado September 9, 2026 · publicado originalmente September 9, 2026

Respuesta rápida: Cerrar la pestaña del navegador no detiene automáticamente la generación en el proveedor. Propague la señal de cancelación upstream para evitar el desperdicio.

Cerrar la pestaña del navegador no detiene automáticamente la generación en el proveedor. Propague la señal de cancelación upstream para evitar el desperdicio.

Preguntas frecuentes

¿Por qué el streaming abandonado genera costos?

Porque el modelo continúa generando tokens facturables hasta que la solicitud se cancela formalmente en el servidor del proveedor.

¿Cómo evitar pagar por tokens no entregados?

Transmitiendo la desconexión del cliente mediante AbortController directamente al endpoint de la API del modelo sin demora.

Relacionado


¿Quieres aplicar esto a tu plataforma? Comparte las facturas, los registros de la pasarela y los flujos principales; identificaremos los costes y las oportunidades de ahorro. Solicitar auditoría gratuita →

Volver a finopsllm.com