Ce que le relais vous coûte en temps.
On mesure le temps que Renio ajoute : la différence entre passer par le relais et appeler le fournisseur en direct, à charge identique.
Ces mesures historiques en boucle locale ne mesurent pas le journal durable ni le contrôle actuel des enveloppes totales. Ceux-ci ajoutent des écritures persistantes et des accès à la base avant l’appel fournisseur. La latence réelle dépend de la région et du mode de budget.
Le chiffre
Ce chiffre est mesuré en boucle locale : le relais et le fournisseur factice sur la même machine, là où le réseau ne compte pratiquement pas. Une mesure sur infrastructure européenne déployée sera publiée au lancement en production. La cible produit reste < 15 ms P95.
Requête classique (non-streaming)
Latence de bout en bout d’une requête complète. À faible charge, le surcoût est sous la milliseconde ; il monte avec le parallélisme (planification et copie des flux).
| Requêtes en parallèle | Direct (médiane) | Via Renio (médiane) | Surcoût médian | Surcoût P95 |
|---|---|---|---|---|
| 1 | 2,45 ms | 2,91 ms | 0,46 ms | 0,91 ms |
| 16 | 2,94 ms | 5,69 ms | 2,75 ms | 5,40 ms |
| 64 | 3,27 ms | 14,39 ms | 11,12 ms | 18,23 ms |
En streaming (délai avant le premier token)
Le délai avant le premier token — la métrique qui décide si une réponse paraît instantanée. Chaque morceau est renvoyé sans mise en tampon.
| Requêtes en parallèle | Direct (médiane) | Via Renio (médiane) | Surcoût 1er token | Surcoût P95 |
|---|---|---|---|---|
| 1 | 2,49 ms | 2,90 ms | 0,41 ms | 0,74 ms |
| 16 | 2,94 ms | 3,05 ms | 0,11 ms | 1,58 ms |
| 64 | 2,68 ms | 4,70 ms | 2,02 ms | 4,01 ms |
Méthodologie
- Surcoût = latence via le proxy − latence en direct vers un fournisseur factice, à charge strictement identique.
- 3 000 requêtes mesurées par point (+ 300 de chauffe), transport amont HTTP/2, Go 1.25.
- Fournisseur factice réglé à 2 ms de réponse, 1 ms entre deux morceaux en streaming — on isole le coût du relais, pas celui du modèle.
- Proxy et fournisseur factice sur la même machine. Une mesure datée sur infrastructure EU déployée remplacera ces résultats locaux.
source : infra/bench · résultats reproductibles dans le dépôt