System One Models et optimisation des coûts avec Jev
Mis à jour September 27, 2026 · première publication September 27, 2026
Annoncés en septembre 2026, System One Models et Jev forment une couche de routage fondée sur la calibration pour les agents LLM. Au lieu de router selon le type de tâche ou des règles statiques, Jev route selon la calibration : un modèle peu coûteux (System One) répond d'abord ; si sa confiance est inférieure au seuil, la requête est escaladée vers un modèle premium. Pour le FinOps, cela signifie ne payer le raisonnement que lorsque le modèle bon marché ne sait vraiment pas.
Fonctionnement
- System One Model (petit, rapide, bon marché) génère une réponse et un score de confiance calibré.
- La passerelle Jev vérifie : la confiance est-elle >= au seuil (p. ex. 0.9) ?
- Si oui : renvoie la réponse de System One. Coût : ~$0.10/1M tokens.
- Si non : escalade vers un modèle premium (Astra, Opus 5.5, etc.). Coût : $10-50/1M tokens.
Comparaison des coûts
| Stratégie | Coût moy./tâche | Précision |
|---|---|---|
| Toujours Astra (effort maximal) | $1.73 | 50.9 |
| Toujours Sol | $0.28 | 44.2 |
| Routage statique (facile→Sol, difficile→Astra) | $0.94 | 48.1 |
| Routage par calibration Jev (seuil 0.9) | $0.41 | 49.8 |
Données issues des benchmarks de Jev sur l'Artificial Analysis Intelligence Index. Le routage par calibration atteint une précision proche de celle d'Astra pour 24 % du coût.
Pourquoi la calibration l'emporte sur le routage statique
Le routage statique classe mal 15 à 20 % des tâches (tâches faciles jugées difficiles, et inversement). La calibration s'autocorrige : le modèle sait quand il ne sait pas. Le seuil de Jev est réglable : relevez-le pour plus de précision, abaissez-le pour réduire le coût.
Mise en œuvre FinOps
- Déployez Jev comme passerelle : tout le trafic des agents passe par Jev ; System One est le modèle par défaut.
- Définissez des seuils par workflow : chat client = 0.95 ; traitement par lots en arrière-plan = 0.85.
- Suivez le taux d'escalade : visez 10-20 % d'escalade. Plus haut, System One est sous-entraîné ; plus bas, vous payez trop.
- Budgétisez le niveau premium : plafonnez la dépense mensuelle d'escalade ; alerte à 80 %.
Intégration avec les agents existants
Jev enveloppe tout endpoint compatible OpenAI. Les agents existants appellent Jev au lieu d'appeler directement le modèle. Aucune modification du code de la logique de l'agent : seuls l'URL de base et la clé d'API changent.
En résumé
Le routage par calibration est la première primitive FinOps qui optimise au moment de l'inférence, et non de la conception. System One + Jev transforme « quel modèle ? » d'une décision d'architecture statique en un contrôle des coûts dynamique, requête par requête.
Questions fréquentes
Que sont System One Models et Jev ?
System One est un petit modèle rapide et calibré. Jev est une passerelle de routage qui vérifie la confiance de System One et n'escalade vers des modèles premium que lorsque la confiance est inférieure à un seuil. Annoncés en septembre 2026.
Combien le routage par calibration permet-il d'économiser ?
Les benchmarks de Jev montrent une réduction des coûts de 76 % par rapport à Astra systématique (de $1.73 à $0.41 par tâche), tout en conservant 98 % de la précision d'Astra sur l'indice Artificial Analysis.
Le routage par calibration ajoute-t-il de la latence ?
System One répond en ~200 ms. L'escalade ajoute un aller-retour supplémentaire (~400 ms au total). Pour les 80 % de requêtes qui ne sont pas escaladées, la latence est inférieure à celle d'un appel direct à Astra.
Puis-je utiliser Jev avec mon framework d'agents existant ?
Oui. Jev expose une API compatible OpenAI. Remplacez l'URL de base par le endpoint de Jev ; les agents fonctionnent sans modification. System One est le modèle par défaut ; les modèles premium se configurent dans la table de routage de Jev.
Quel est le bon seuil de confiance ?
Commencez à 0.90. Mesurez le taux d'escalade et la précision. Passez à 0.95 pour les usages orientés client ; baissez à 0.85 pour les charges par lots où les erreurs coûtent moins cher.
À lire aussi
- Contrôles et budgets d'agents avec Jev
- Économie de décision FinOps IA avec Jev
- Modèle de coût de GPT-6 Astra
- Baisses de prix des modèles et budgets de routage
Vous souhaitez appliquer cela à votre plateforme ? Transmettez vos factures fournisseurs, journaux de passerelle et principaux workflows ; nous cartographierons les coûts et les économies possibles. Demander un audit gratuit →