Een machine kopen om een model thuis te draaien, een GPU huren of een API betalen: vanaf welk volume wordt elke optie het goedkoopst? Deze tool vergelijkt de drie op basis van je werkelijke gebruik.
Hoe het te gebruiken
- Voer je input- en output-tokens per maand in, in miljoenen, en kies het API-model voor vergelijking.
- Beschrijf je machine: prijs, afschrijvingstermijn, vermogen, elektriciteitsprijs, generatiesnelheid, eventueel verbruik in stand-by.
- Vul het uurtarief in voor het huren van een GPU.
- Lees de drie maandelijkse kosten, het bezettingspercentage van de machine en de conclusie.
De principes achter de berekening
- De API-kosten zijn het maandelijkse volume vermenigvuldigd met de prijzen van het gekozen model, omgerekend naar euro’s.
- De rekentijd komt van de doorvoersnelheid: output ÷ generatiesnelheid, plus input ÷ (doorvoersnelheid × prompt-leesvermenigvuldiger).
- De lokale kosten tellen de afschrijving (prijs ÷ maanden) en de elektriciteit verbruikt tijdens die rekentijd op, plus eventueel stand-by; de huur vermenigvuldigt de rekentijd in uren met het uurtarief.
- Het break-evenpunt is de hardwareprijs gedeeld door de maandelijkse besparing ten opzichte van de API, na aftrek van de elektriciteitskosten. De bezetting vergelijkt de rekentijd met de 720 uren van een maand.
Beperkingen om rekening mee te houden
Een lokaal model is zelden gelijkwaardig aan een state-of-the-art API-model: vergelijk met een model van dezelfde klasse. De berekening negeert je tijd, onderhoud, servicekwaliteit, piekbelasting, caching en lange context.
