Ratgeber
So funktioniert die Token-Abrechnung bei LLMs
Jede große LLM-API rechnet nach Tokens ab. Ein Token ist ein Textstück von etwa vier Zeichen oder drei Vierteln eines englischen Wortes. Preise werden pro Million Tokens angegeben, und Input-Tokens (Ihr System-Prompt, der Gesprächsverlauf, abgerufene Dokumente und Tool-Ergebnisse) werden getrennt von Output-Tokens (dem Text, den das Modell erzeugt) abgerechnet. Output ist fast immer der teure Teil: Bei den meisten aktuellen Modellen kostet er pro Token vier- bis fünfmal so viel wie Input, weil das Erzeugen von Tokens nacheinander weit mehr GPU-Zeit beansprucht als das parallele Einlesen eines Prompts.
Daraus ergibt sich eine einfache Formel für jede einzelne Anfrage: Input-Tokens × Input-Preis ÷ 1 Mio. + Output-Tokens × Output-Preis ÷ 1 Mio.. Eine Chatbot-Anfrage mit 2.000 Input-Tokens und 500 Output-Tokens auf Claude Sonnet 5.5 ($2.00 Input / $10.00 Output pro 1 Mio.) kostet etwa $0.009. Bei 10.000 Anfragen pro Tag sind das rund $2,738 im Monat. Der Rechner oben macht genau das für alle Modelle gleichzeitig, sodass Sie sehen, was derselbe Workload bei verschiedenen Anbietern kostet.
API-Preise von OpenAI, Claude und Gemini im Vergleich
Listenpreise sind ein Ausgangspunkt, nicht die Antwort. Zwei Modelle mit gleichem Preis pro Token können sehr unterschiedliche Rechnungen erzeugen, wenn eines längere Antworten schreibt, einen längeren Prompt braucht, um sich richtig zu verhalten, oder mehr versteckte Reasoning-Tokens verbraucht. Mittelklasse-Modelle wie Claude Sonnet 5.5, GPT-6.2 Sol und Gemini 4 Carbon sind heute nahezu gleich bepreist, daher sollten Sie für einen fairen LLM-Kostenvergleich Ihre eigenen Token-Zahlen durch jedes Modell rechnen. Einen schnellen Überblick über alle Input-, Cache- und Output-Preise bietet die LLM-API-Preistabelle.
Warum Multi-Turn-KI-Agents mehr kosten als Chatbots
LLM-APIs sind zustandslos. Um ein Gespräch fortzusetzen, sendet Ihr Code bei jedem Aufruf den gesamten Verlauf erneut, und ein Agent fügt diesem Verlauf bei jedem Schritt Tool-Definitionen, Tool-Aufrufe und Tool-Ausgaben hinzu. Die Input-Tokens wachsen daher mit jedem Turn, und der gesamte Input einer Session wächst ungefähr mit dem Quadrat der Anzahl an Turns.
Nehmen wir einen Coding- oder Research-Agent, der mit 12.000 Tokens Kontext startet, pro Turn 2.500 Tokens Tool-Output und 500 Tokens eigenen Output hinzufügt und 25 Turns läuft. Eine naive Schätzung ergibt 25 × 12.000 = 0,3 Mio. Input-Tokens. Der tatsächliche Wert liegt bei etwa 1,2 Mio., also 4× höher, weil Turn 25 alles erneut liest, was die ersten 24 Turns erzeugt haben. Ohne Caching kostet diese eine Session rund $2.52 auf Claude Sonnet 5.5. Ein Kostenrechner für KI-Agents muss dieses Kontextwachstum abbilden, und genau das macht der Pro-/Agent-Modus oben. Voice Agents folgen bei jedem gesprochenen Turn demselben Muster; der Kostenrechner für KI-Voice-Agents bildet das zusammen mit Speech-to-Text, Text-to-Speech und Telefonie ab.
Wie Prompt Caching und Batch-API-Rabatte Ihre Rechnung senken
Prompt Caching
Weil Agents immer wieder denselben Präfix senden, lassen Anbieter Sie diesen cachen. Gecachte Input-Tokens kosten auf Claude Sonnet 5.5 $0.10 pro 1 Mio. statt $2.00, ein Rabatt von 95 %. Anthropic berechnet einen Aufschlag für das Schreiben in den Cache ($2.50 pro 1 Mio.); OpenAI und Google cachen automatisch bei Prompts ab einer Mindestlänge. Mit einer Cache-Trefferquote von 85 % sinkt die Agent-Session oben von $2.52 auf etwa $0.677, eine Ersparnis von 73 %. Für hohe Trefferquoten halten Sie alles Stabile (System-Prompt, Tool-Schemas, Referenzdokumente) am Anfang des Prompts und hängen neue Inhalte ans Ende an. Ein Zeitstempel oder eine User-ID weit oben im Prompt bricht den Cache bei jeder Anfrage.
Batch API
Wenn Sie keine Antwort in Echtzeit brauchen, gewährt die Batch API von OpenAI, Anthropic und Google 50 % Rabatt auf Input- und Output-Tokens, im Gegenzug kommen die Ergebnisse innerhalb von 24 Stunden. Evals, Dokumentklassifizierung, Datenextraktion, nachträgliches Erzeugen von Embeddings und nächtliche Zusammenfassungen eignen sich gut dafür. Batch- und Caching-Rabatte lassen sich kombinieren, weshalb Offline- Pipelines oft die günstigsten LLM-Workloads sind.
Wie versteckte Reasoning-Tokens abgerechnet werden
Reasoning-Modelle denken nach, bevor sie antworten. Diese Thinking-Tokens werden wie jeder andere Output erzeugt und zum Output-Preis abgerechnet, doch die meisten APIs zeigen sie Ihnen nie. Eine sichtbare Antwort von 500 Tokens, die 1.000 Tokens Reasoning benötigte, wird als 1.500 Output-Tokens abgerechnet: $0.015 statt $0.005 auf Claude Sonnet 5.5. Der Reasoning- Verbrauch hängt von der Schwierigkeit der Aufgabe und den Effort-Einstellungen ab. Messen Sie ihn daher am usage-Feld echter Antworten und stellen Sie den Reasoning-Faktor im Rechner entsprechend ein. Reasoning-Tokens werden nicht in den Kontext des nächsten Turns übernommen, sie erhöhen also die Output-Kosten, ohne die Input-Seite einer Agent-Schleife aufzublähen.
Praktische Tipps, um monatliche LLM-API-Kosten zu senken
- Nach Schwierigkeit routen. Schicken Sie einfache Klassifizierungs-, Extraktions- und Routing-Aufrufe an ein günstiges Modell und reservieren Sie Flagship-Modelle für die schweren Fälle. Viele Teams senken ihre Ausgaben so um 60–80 %.
- Output-Länge begrenzen. Output-Tokens sind der teure Teil. Setzen Sie max_tokens, fordern Sie knappe Formate wie JSON an und vermeiden Sie, dass das Modell seinen Input wiederholt.
- Prompts fürs Caching gestalten. Stabile Inhalte zuerst, variable Inhalte zuletzt, und prüfen Sie die Anzahl gecachter Tokens in den API-Antworten, um Treffer zu bestätigen.
- Agent-Kontext kürzen. Fassen Sie alte Tool-Ausgaben zusammen oder verwerfen Sie sie, statt vollständige Dateiinhalte und Logs durch jeden Turn mitzuschleppen.
- Alles per Batch verarbeiten, was warten kann. Der halbe Preis für dasselbe Modell ist die einfachste verfügbare Ersparnis.
- Reasoning-Effort anpassen. Nutzen Sie niedrigen oder mittleren Effort oder ein Modell ohne Reasoning, wo tiefes Nachdenken die Ergebnisse nicht verbessert.
- Self-Hosting bei hohem Volumen neu prüfen. Bei Milliarden Tokens pro Monat kann ein Open-Weight-Modell auf einer dedizierten GPU günstiger sein. Mit dem Break-Even-Rechner für API vs. Self-Hosting finden Sie Ihren Schnittpunkt, mit dem LLM-VRAM-Rechner dimensionieren Sie die Hardware.
Jeder Wert in diesem Rechner steht in der URL der Seite. Sobald Sie eine Schätzung haben, können Sie den Link kopieren und mit Ihrem Team oder Ihrer Finanzabteilung teilen.