Mission

Mission : absorber un backend instable dans un pool de 3 instances

Choisir le bon algorithme de répartition, configurer un failover automatique et activer le keepalive vers les backends.

Contexte

Trois instances FastAPI (10.0.0.11:8000, 10.0.0.12:8000, 10.0.0.13:8000) sont derrière un upstream en round robin par défaut. Le temps de traitement varie énormément d'une requête à l'autre (certains endpoints font des calculs lourds), et l'instance 10.0.0.13 tombe occasionnellement en erreur pendant quelques secondes.