Rate limits, 429 et montées de palier
Updated September 1, 2026 · first published September 1, 2026
Quand un service renvoie des 429, le réflexe est d’y voir un incident de disponibilité : relever la limite, monter de palier, ajouter des reprises. Parfois c’est juste. C’est aussi le mécanisme par lequel une boucle emballée devient une facture à cinq chiffres, puisqu’on vient de retirer la seule chose qui la retenait.
Ce que dit vraiment un 429
Que le système tente de dépenser plus vite que son allocation. Pour deux raisons opposées : croissance réelle de la demande, où la limite est trop basse ; ou emballement — tempête de reprises, agent en boucle, backfill non bridé — où la limite fait exactement son travail.
Le taux d’erreur ne les distingue pas. Le coût par tâche accomplie, si : la croissance réelle garde ce ratio stable, l’emballement le casse.
Utilisez les limites délibérément
Fixez vos propres limites sous celles du fournisseur, par environnement et par fonctionnalité. Plafonnez durement le hors-production. Alertez sur le coût par tâche, pas seulement sur les erreurs.
Related
Want this applied to your own LLM spend? FinOps LLM runs a free audit of your AI costs and shows where the savings are. Book free audit →