Streaming e o custo de gerações abandonadas
Atualizado September 9, 2026 · publicado originalmente September 9, 2026
A interrupção visual no cliente não cancela a geração na nuvem sem uma propagação explícita de encerramento HTTP. Evite desperdício invisível de saída.
Perguntas frequentes
Por que respostas abandonadas continuam sendo cobradas?
Porque a infraestrutura do provedor segue gerando tokens até o limite configurado se não receber um comando de cancelamento.
Como conter gastos com streaming não visualizado?
Propagando desconexões de clientes com AbortController através do gateway até a chamada original do provedor do modelo.
Artigos relacionados
Quer aplicar isto à sua plataforma? Traga as faturas dos fornecedores, os registos do gateway e os principais fluxos de trabalho; mapearemos os custos e as oportunidades de poupança. Marcar auditoria gratuita →