Wat zijn System One Models en Jev?

System One is een klein, snel, gecalibreerd model. Jev is een routinggateway die de zekerheid van System One controleert en alleen naar premiummodellen escaleert wanneer de zekerheid onder een drempel ligt. Aangekondigd in september 2026.

Hoeveel kan calibratierouting besparen?

Jev-benchmarks tonen 76% kostenreductie ten opzichte van altijd-Astra (van $1.73 naar $0.41 per taak) terwijl 98% van de nauwkeurigheid van Astra op de Artificial Analysis-index behouden blijft.

Voegt calibratierouting latentie toe?

System One reageert in ~200ms. Escalatie voegt één extra round-trip toe (~400ms in totaal). Voor de 80% van de verzoeken die niet escaleren is de latentie lager dan bij rechtstreeks Astra aanroepen.

Kan ik Jev gebruiken met mijn bestaande agentframework?

Ja. Jev biedt een OpenAI-compatibele API. Wijzig de basis-URL naar het endpoint van Jev; agents werken ongewijzigd. System One is het standaardmodel; premiummodellen worden geconfigureerd in de routingtabel van Jev.

Wat is de juiste zekerheidsdrempel?

Begin bij 0.90. Meet escalatiepercentage en nauwkeurigheid. Verhoog naar 0.95 voor klantgerichte toepassingen; verlaag naar 0.85 voor batchworkloads waar fouten goedkoper zijn.

System One-modellen en Jev-kostenoptimalisatie

Bijgewerkt September 27, 2026 · eerst gepubliceerd September 27, 2026

Aangekondigd in september 2026 vormen System One Models en Jev een routinglaag op basis van calibratie voor LLM-agents. In plaats van te routeren op taaktype of statische regels, routeert Jev op calibratie: een goedkoop model (System One) antwoordt eerst; als de zekerheid onder de drempel ligt, wordt het verzoek geëscaleerd naar een premiummodel. Voor FinOps betekent dit dat je alleen betaalt voor redeneren wanneer het goedkope model het echt niet weet.

Hoe het werkt

System One Model (klein, snel, goedkoop) genereert een antwoord plus een gecalibreerde zekerheidsscore.
Jev-gateway controleert: is de zekerheid >= drempel (bijv. 0.9)?
Zo ja: geef het antwoord van System One terug. Kosten: ~$0.10/1M tokens.
Zo nee: escaleer naar een premiummodel (Astra, Opus 5.5, enz.). Kosten: $10-50/1M tokens.

Kostenvergelijking

Strategie	Gem. kosten/taak	Nauwkeurigheid
Altijd Astra (maximale inspanning)	$1.73	50.9
Altijd Sol	$0.28	44.2
Statische routing (makkelijk→Sol, moeilijk→Astra)	$0.94	48.1
Jev-calibratierouting (drempel 0.9)	$0.41	49.8

Data uit Jev-benchmarks op de Artificial Analysis Intelligence Index. Calibratierouting haalt bijna de nauwkeurigheid van Astra tegen 24% van de kosten.

Waarom calibratie statische routing verslaat

Statische routing classificeert 15-20% van de taken verkeerd (makkelijke taken als moeilijk gemarkeerd, moeilijke als makkelijk). Calibratie corrigeert zichzelf: het model weet wanneer het iets niet weet. De drempel van Jev is instelbaar — verhoog hem voor hogere nauwkeurigheid, verlaag hem voor lagere kosten.

FinOps-implementatie

Zet Jev in als gateway: al het agentverkeer loopt via Jev; System One is de standaard.
Stel drempels per workflow in: klantgerichte chat = 0.95; batch op de achtergrond = 0.85.
Volg het escalatiepercentage: mik op 10-20% escalatie. Hoger betekent dat System One ondergetraind is; lager betekent dat je te veel betaalt.
Begroot de premiumtier: begrens de maandelijkse escalatie-uitgaven; waarschuw bij 80%.

Integratie met bestaande agents

Jev omhult elk OpenAI-compatibel endpoint. Bestaande agents roepen Jev aan in plaats van het model rechtstreeks. Geen codewijzigingen aan de agentlogica — alleen de basis-URL en API-sleutel veranderen.

Conclusie

Routing op basis van calibratie is de eerste FinOps-primitief die optimaliseert op inferentietijd, niet op ontwerptijd. System One + Jev maakt van “welk model?” een dynamische kostenbeheersing per verzoek in plaats van een statische architectuurbeslissing.

Gerelateerd

Wilt u dit toepassen op uw stack? Neem leveranciersfacturen, gatewaylogs en de belangrijkste workflows mee; we brengen kostenfactoren en besparingskansen in kaart. Plan een gratis audit →

Terug naar finopsllm.com