Aller au contenu

System One Models et optimisation des coûts avec Jev

Mis à jour September 27, 2026 · première publication September 27, 2026

Annoncés en septembre 2026, System One Models et Jev forment une couche de routage fondée sur la calibration pour les agents LLM. Au lieu de router selon le type de tâche ou des règles statiques, Jev route selon la calibration : un modèle peu coûteux (System One) répond d'abord ; si sa confiance est inférieure au seuil, la requête est escaladée vers un modèle premium. Pour le FinOps, cela signifie ne payer le raisonnement que lorsque le modèle bon marché ne sait vraiment pas.

Fonctionnement

  1. System One Model (petit, rapide, bon marché) génère une réponse et un score de confiance calibré.
  2. La passerelle Jev vérifie : la confiance est-elle >= au seuil (p. ex. 0.9) ?
  3. Si oui : renvoie la réponse de System One. Coût : ~$0.10/1M tokens.
  4. Si non : escalade vers un modèle premium (Astra, Opus 5.5, etc.). Coût : $10-50/1M tokens.

Comparaison des coûts

StratégieCoût moy./tâchePrécision
Toujours Astra (effort maximal)$1.7350.9
Toujours Sol$0.2844.2
Routage statique (facile→Sol, difficile→Astra)$0.9448.1
Routage par calibration Jev (seuil 0.9)$0.4149.8

Données issues des benchmarks de Jev sur l'Artificial Analysis Intelligence Index. Le routage par calibration atteint une précision proche de celle d'Astra pour 24 % du coût.

Pourquoi la calibration l'emporte sur le routage statique

Le routage statique classe mal 15 à 20 % des tâches (tâches faciles jugées difficiles, et inversement). La calibration s'autocorrige : le modèle sait quand il ne sait pas. Le seuil de Jev est réglable : relevez-le pour plus de précision, abaissez-le pour réduire le coût.

Mise en œuvre FinOps

Intégration avec les agents existants

Jev enveloppe tout endpoint compatible OpenAI. Les agents existants appellent Jev au lieu d'appeler directement le modèle. Aucune modification du code de la logique de l'agent : seuls l'URL de base et la clé d'API changent.

En résumé

Le routage par calibration est la première primitive FinOps qui optimise au moment de l'inférence, et non de la conception. System One + Jev transforme « quel modèle ? » d'une décision d'architecture statique en un contrôle des coûts dynamique, requête par requête.

Questions fréquentes

Que sont System One Models et Jev ?

System One est un petit modèle rapide et calibré. Jev est une passerelle de routage qui vérifie la confiance de System One et n'escalade vers des modèles premium que lorsque la confiance est inférieure à un seuil. Annoncés en septembre 2026.

Combien le routage par calibration permet-il d'économiser ?

Les benchmarks de Jev montrent une réduction des coûts de 76 % par rapport à Astra systématique (de $1.73 à $0.41 par tâche), tout en conservant 98 % de la précision d'Astra sur l'indice Artificial Analysis.

Le routage par calibration ajoute-t-il de la latence ?

System One répond en ~200 ms. L'escalade ajoute un aller-retour supplémentaire (~400 ms au total). Pour les 80 % de requêtes qui ne sont pas escaladées, la latence est inférieure à celle d'un appel direct à Astra.

Puis-je utiliser Jev avec mon framework d'agents existant ?

Oui. Jev expose une API compatible OpenAI. Remplacez l'URL de base par le endpoint de Jev ; les agents fonctionnent sans modification. System One est le modèle par défaut ; les modèles premium se configurent dans la table de routage de Jev.

Quel est le bon seuil de confiance ?

Commencez à 0.90. Mesurez le taux d'escalade et la précision. Passez à 0.95 pour les usages orientés client ; baissez à 0.85 pour les charges par lots où les erreurs coûtent moins cher.

À lire aussi


Vous souhaitez appliquer cela à votre plateforme ? Transmettez vos factures fournisseurs, journaux de passerelle et principaux workflows ; nous cartographierons les coûts et les économies possibles. Demander un audit gratuit →

Retour à finopsllm.com