Eine Maschine kaufen, um ein Modell lokal zu betreiben, einen GPU mieten oder eine API bezahlen: Ab welchem Volumen ist welche Option am günstigsten? Dieses Tool vergleicht die drei Varianten für Ihren tatsächlichen Nutzung.
So verwenden Sie es
- Geben Sie Ihre Eingabe- und Ausgabe-Tokens pro Monat in Millionen ein und wählen Sie das API-Vergleichsmodell.
- Beschreiben Sie Ihre Maschine: Preis, Abschreibungsdauer, Leistung, Strompreis, Generierungsgeschwindigkeit, eventueller Standby-Verbrauch.
- Tragen Sie den Stundensatz für eine GPU-Miete ein.
- Lesen Sie die drei monatlichen Kosten, die Auslastung der Maschine und das Urteil ab.
Die Prinzipien hinter der Berechnung
- Die API-Kosten sind das monatliche Volumen multipliziert mit den Preisen des gewählten Modells, umgerechnet in Euro.
- Die Rechenzeit ergibt sich aus der Geschwindigkeit: Ausgabe ÷ Generierungsgeschwindigkeit plus Eingabe ÷ (Geschwindigkeit × Prompt-Lesefaktor).
- Die lokalen Kosten addieren Abschreibung (Preis ÷ Monate) und den während dieser Rechenzeit verbrauchten Strom, plus eventuellen Standby; die Miete multipliziert die Rechenstunden mit dem Stundensatz.
- Die Rentabilitätsschwelle ist der Hardwarepreis geteilt durch die monatliche Ersparnis gegenüber der API, nach Abzug des Stroms. Die Auslastung vergleicht die Rechenstunden mit den 720 Stunden eines Monats.
Zu beachtende Einschränkungen
Ein lokales Modell entspricht selten einem Spitzen-API-Modell: Vergleichen Sie mit einem Modell derselben Klasse. Die Berechnung ignoriert Ihre Zeit, Wartung, Servicequalität, Lastspitzen, Cache und langen Kontext.
