De AI-rekening, en de router die hem kleiner maakt

De pilotfase is voorbij. En nu komt de rekening.

Steeds meer bedrijven lopen tegen hetzelfde aan: de AI-pilots zijn eindelijk echte rollouts geworden, met echt effect op de business. En logisch, want het is intussen wel duidelijk dat AI echt waarde kan toevoegen en wel op een veel grotere schaal dan eerdere automatiseringsgolven.

En juist daarom wordt nu zichtbaar wat er al die tijd al was, maar te klein om op te vallen: opgeschaalde AI kan behoorlijk duur worden. Handelsblatt schreef er deze week over.

Vooral bij agentic AI gaat het hard. Eén vraag van een gebruiker triggert op de achtergrond tientallen tot honderden model-aanroepen. Een agent die een uur zelfstandig staat te werken, tikt heel hard door op de meter.

Gelukkig gaan de ontwikkelingen enorm hard in de AI wereld en 'the hottest thing in town' is meteen de oplossing voor dit probleem. Niet elke aanroep heeft het duurste model nodig. Binnen één modelfamilie zit al snel een factor 18 tot 100 prijsverschil tussen het kleinste en het grootste model. En het meeste werk dat een agent doet is routinewerk: samenvatten, formatteren, een tool aanroepen. Daar heb je geen frontier model voor nodig.

Enter: de model router.

Een model router is een klein AI model dat werkt als een verkeersregelaar die per aanroep bepaalt welk model goed genoeg is. Simpele taak? Klein, goedkoop model. Lastige analyse? Het grote werk. ChatGPT doet dit intern al sinds GPT-5, Microsoft heeft er inmiddels een eigen product voor, en met open source tools als LiteLLM bouw je zelf zo'n laag tussen je applicatie en de modellen.

Leveranciers claimen 40 tot 70% besparing.

Kanttekeningen (ja, ook die):

• Die percentages komen van de verkopers van routers. Neem er een flinke schep zout bij.
• De router is zelf ook een model, en kan dus ook verkeerd gokken. Zonder kwaliteitsmeting weet je niet wat je besparing je kost.
• Goedkopere tokens ontslaat je niet van de vraag: wat levert de AI workflow ons óp? Kosten drukken zonder de opbrengst te kennen is boekhouden met één kolom.

Dat laatste is wat ons bij BrA1n betreft het echte signaal. Bedrijven die dit systematisch aanpakken, kosten én waarde per workflow, zijn de bedrijven waar AI volwassen wordt. Hier hebben we de BrA1nScan voor ontwikkeld.

Weet jouw organisatie wat AI-workflows kosten? En wat ze opleveren?