/ EN CLAIR
Le rate limit est le plafond d'appels que le fournisseur accepte par minute, souvent doublé d'un plafond de tokens. Au-delà, il refuse, avec une erreur explicite.
C'est la cause la plus fréquente des automatisations qui cassent en production alors qu'elles marchaient en test. Mille lignes traitées d'un coup dépassent le plafond en quelques secondes, et la moitié du lot se perd.
La parade est une file d'attente et une reprise : on débite au rythme accepté, et on retente les appels refusés au lieu de les abandonner.
/ EN BREF
- CE QUE C'EST
- Le plafond d'appels par minute imposé par le fournisseur, souvent doublé d'un plafond de tokens.
- QUAND ÇA FRAPPE
- En production, sur un traitement par lots qui marchait très bien en test sur trois lignes.
- CE QUE ÇA DONNE
- Des appels refusés avec une erreur explicite, et la moitié du lot perdue si rien ne les rattrape.
- LA PARADE
- Une file d'attente qui débite au rythme accepté, et une reprise sur les appels refusés.
CURSOR
CLAUDE
WEBFLOW