Zum Inhalt springen
LLM Pricing Calc
API-Preise zuletzt geprüft GPU-Mietpreise

Kostenrechner LLM API vs. Self-Hosting

Vergleichen Sie Pay-per-Token-APIs, gehostete Open-Weight-APIs und dedizierte Cloud-GPUs und finden Sie das monatliche Token-Volumen, ab dem sich Self-Hosting eines LLM rechnet.

= 2B Tokens / Monat

75 % Input

Bei 0 belassen, um die Schätzung zu verwenden (~534 tok/s).

API / Monat

$8,000

GPT-6.2 Sol

Self-Hosting / Monat

$3,489

1 × 2 GPU, dauerhaft an

Break-Even-Volumen

872.35M

Tokens / Monat

Monatliche Kosten im Verhältnis zum monatlichen Token-Volumen
API-ModellSelbst gehostete GPUGehostete Open-Weight-API
Kostenvergleich bei Ihrem Volumen
OptionMonatlichPro 1 Mio. TokensHinweise

Self-Hosting setzt eine dauerhafte Miete (730 h/Monat), 8K Kontext pro Anfrage und FP16-KV-Cache voraus. Ohne Engineering, Redundanz und Egress.

API: Offizielle Preise ↗ · GPU-Preise: Offizielle Preise ↗

Ratgeber

LLM API vs. Self-Hosting: die Break-Even-Rechnung

Die Frage ist nicht, ob eine GPU günstiger ist als eine API, sondern ob Sie eine GPU ausreichend auslasten können. Eine Pay-per-Token-API berechnet nur, was Sie nutzen. Eine dedizierte GPU kostet jede Stunde, in der sie läuft, ob ausgelastet oder im Leerlauf. Self-Hosting lohnt sich erst, wenn Ihr stetiges monatliches Volumen groß genug ist, um diese Fixkosten dünner zu verteilen als den Preis pro Token der API.

1. Pay-per-Token-APIs

Die Kosten skalieren linear mit dem Volumen: Tokens pro Monat × Mischpreis pro 1 Mio., wobei der Mischpreis Input und Output nach Ihrem Traffic-Mix gewichtet. Bei 75 % Input-Tokens kostet GPT-6.2 Sol etwa $4.00 pro 1 Mio. Tokens. Kein Minimum, keine Leerlaufkosten, und der Anbieter kümmert sich um Skalierung und Verfügbarkeit. Der LLM-Kostenrechner ergänzt diese Seite des Vergleichs um Caching, Batch und Agent-Schleifen.

2. Gehostete Open-Weight-APIs

Inferenz-Anbieter betreiben offene Modelle wie Llama 3.3 70B Instruct auf geteilten GPUs und rechnen trotzdem pro Token ab, hier etwa $0.155 pro 1 Mio. (gemischt). Weil sie ihre GPUs über Tausende Kunden hinweg voll auslasten, sind sie meist deutlich günstiger als sowohl eine Frontier-API als auch eine selbst gemietete GPU. Vergleichen Sie Preise gehosteter Open-Weight-Modelle in der LLM-API-Preistabelle. Für viele Teams ist dies, nicht Self-Hosting, die echte Alternative zu einer geschlossenen API.

3. Dedizierte Cloud-GPUs

Ein selbst gehostetes Deployment kostet pro Monat Stundenpreis × 730 Stunden × GPUs pro Replika × Replikas, unabhängig vom Traffic. Eine NVIDIA H100 80GB für $2.39/Stunde kostet $1,745 im Monat. Ihre Kapazität hängt vom Decode-Durchsatz ab: wie viele Output-Tokens pro Sekunde die GPU mit Continuous Batching in vLLM, SGLang oder TGI erzeugen kann. Bei voller Auslastung produziert das Setup oben Tokens für etwa $0.8555 pro 1 Mio. Tokens. Das ist der Best Case. Bei 30 % durchschnittlicher Auslastung steigt der effektive Preis auf $2.85 pro 1 Mio.

So finden Sie Ihren Break-Even-Punkt

Der Break-Even ist das monatliche Volumen, bei dem sich die beiden Kostenlinien kreuzen: Break-Even-Tokens = GPU-Monatskosten ÷ API-Preis pro Token. Darunter ist die API günstiger, darüber die GPU, bis Sie die Kapazität einer Replika überschreiten und eine weitere brauchen. Für GPT-6.2 Sol gegenüber Llama 3.3 70B Instruct auf einer NVIDIA H100 80GB liegt der Schnittpunkt bei etwa 872.35M Tokens pro Monat. Das Diagramm oben zeigt alle drei Optionen, sodass Sie sehen, wo sich die Linien treffen.

Vier Faktoren verschieben den Break-Even-Punkt am stärksten:

  • Auslastung. Traffic, der zu Bürozeiten seinen Höhepunkt hat und nachts abfällt, lässt gemietete GPUs ungenutzt. Stark schwankende Workloads sprechen für APIs.
  • Modellgröße und Quantisierung. Ein 70B-Modell in FP16 braucht mehrere 80-GB-GPUs pro Replika; in 4 Bit passt es auf eine. Dimensionieren Sie die Hardware mit dem LLM-VRAM-Rechner.
  • Input-/Output-Mix. Prefill (Input) ist um ein Mehrfaches schneller als Decode (Output), daher erzielen input-lastige Workloads wie RAG und Klassifizierung mehr Tokens pro GPU-Stunde.
  • Mit welcher API Sie vergleichen. Gegenüber einem Flagship-Modell kann sich eine GPU ab Hunderten Millionen Tokens pro Monat lohnen. Gegenüber einer günstigen oder gehosteten Open-Weight-API lohnt sie sich womöglich nie.

Wann sich Self-Hosting eines LLM lohnt

Der Preis ist selten der einzige Grund. Self-Hosting ist sinnvoll, wenn Daten in Ihrer eigenen Infrastruktur bleiben müssen, Sie ein eigenes Fine-Tune bereitstellen wollen, garantierte Kapazität ohne Rate Limits brauchen oder ein hohes, stetiges Volumen haben, das GPUs über etwa 50 % Auslastung hält. Planen Sie in der Produktion mindestens zwei Replikas ein, plus die Engineering-Zeit für Deployment, Monitoring und Upgrades, die dieser Rechner nicht berücksichtigt. Treffen diese Gründe nicht zu, ist eine Pay-per-Token-API, oft eine gehostete Open-Weight-API, meist die günstigere und einfachere Wahl. Voice-Workloads folgen derselben Logik; Kosten pro Minute zeigt der Kostenrechner für KI-Voice-Agents.

Weitere KI-Kostenrechner

FAQ: API vs. Self-Hosting

Wie berechne ich den Break-Even-Punkt zwischen einer LLM-API und einer GPU?

Teilen Sie die monatlichen Kosten der GPU durch den Mischpreis der API pro Token. Beispiel: Eine GPU für $1,700 im Monat erreicht gegenüber einer API für $4 pro Million Tokens den Break-Even bei 425 Mio. Tokens pro Monat, sofern die GPU so viele Tokens tatsächlich liefern kann. Dieser Rechner prüft auch den GPU-Durchsatz und zeigt Ihnen, wann eine einzelne Replika nicht mehr mithält und Sie mehr GPUs bräuchten.

Ist es günstiger, Llama 3.3 70B Instruct selbst zu hosten, als eine API zu nutzen?

Gegenüber einer Frontier-API wie GPT-6.2 Sol (etwa $4.00 pro 1 Mio. Tokens, gemischt) kann eine dedizierte NVIDIA H100 80GB mit Llama 3.3 70B Instruct bei hohem, stetigem Volumen gewinnen. Gegenüber einer gehosteten Llama 3.3 70B Instruct-API für etwa $0.155 pro 1 Mio. gewinnt Self-Hosting beim Preis selten. Entscheidend sind Auslastung, Datenschutzanforderungen und ob Sie ein eigenes Fine-Tune brauchen.

Wann ist Self-Hosting eines LLM günstiger als eine API?

Wenn Ihr Volumen hoch und stetig genug ist, um eine dedizierte GPU auszulasten. Eine dauerhaft laufende H100 kostet etwa $1,700 im Monat. Das lohnt sich erst, wenn Sie sonst mehr als diesen Betrag für API-Tokens ausgeben würden, typischerweise Milliarden Tokens pro Monat gegenüber einem API-Modell der Mittelklasse. Gegenüber günstigen gehosteten Open-Weight-APIs gewinnt Self-Hosting allein beim Preis selten.

Warum gibt es manchmal keinen Break-Even-Punkt?

Wenn die GPU in einem Monat selbst bei 100 % Auslastung nicht genug Tokens verarbeiten kann, um den Preis pro Token der API zu unterbieten, wird Self-Hosting nie günstiger. Das ist häufig bei kleinen oder günstigen API-Modellen der Fall sowie bei sehr großen offenen Modellen, die mehrere GPUs brauchen.

Wie wird der GPU-Durchsatz geschätzt?

Die Decode-Geschwindigkeit eines einzelnen Streams wird aus der Speicherbandbreite und den pro Token gelesenen Bytes aktiver Gewichte geschätzt. Mit Continuous Batching (vLLM, TGI, SGLang) wächst der Gesamtdurchsatz ungefähr mit Parallelität0,8. Für Input-Tokens (Prefill) wird eine etwa 8× schnellere Verarbeitung als für Output-Tokens angenommen. Sie können den Durchsatz mit eigenen Benchmark-Werten überschreiben.

Welche Kosten bleiben unberücksichtigt?

Engineering-Zeit, Monitoring, Redundanz (für die Produktion sollten Sie mindestens zwei Replikas haben), Egress, Speicher und ungenutzte Kapazität in der Nacht. Auf der API-Seite fehlen Rate-Limit-Stufen und ausgehandelte Rabatte. Betrachten Sie den Break-Even-Punkt als Untergrenze für Self-Hosting.

Was ist mit gehosteten Open-Weight-APIs?

Anbieter wie DeepInfra und Together betreiben offene Modelle wie Llama 3.3 70B für Cent-Beträge pro Million Tokens. Sie teilen GPUs über viele Kunden, was oft die günstigste Option ist, bis Sie Datenisolation, eigene Fine-Tunes oder garantierte Kapazität brauchen.