Guida
Come funziona il prezzo dei token LLM
Tutte le principali API LLM fatturano a token, un frammento di testo di circa quattro caratteri, ovvero tre quarti di una parola inglese. I prezzi sono indicati per milione di token e i token di input (system prompt, cronologia della conversazione, documenti recuperati e risultati dei tool) sono fatturati separatamente dai token di output (il testo generato dal modello). L'output è quasi sempre la parte più cara: sulla maggior parte dei modelli attuali costa da quattro a cinque volte di più per token rispetto all'input, perché generare i token uno alla volta richiede molto più tempo GPU che leggere un prompt in parallelo.
Ne deriva una formula semplice per qualsiasi richiesta: token di input × prezzo input ÷ 1M + token di output × prezzo output ÷ 1M. Una richiesta di chatbot con 2000 token di input e 500 token di output su Claude Sonnet 5.5 ($2.00 input / $10.00 output per 1M) costa circa $0.009. Con 10.000 richieste al giorno sono circa $2,738 al mese. Il calcolatore qui sopra fa esattamente questo per tutti i modelli contemporaneamente, così puoi vedere quanto costa lo stesso carico di lavoro presso i diversi provider.
Confronto prezzi API di OpenAI, Claude e Gemini
I prezzi di listino sono un punto di partenza, non la risposta. Due modelli con lo stesso prezzo per token possono generare bollette molto diverse se uno scrive risposte più lunghe, ha bisogno di un prompt più lungo per comportarsi come previsto o consuma più token di ragionamento nascosti. Modelli di fascia media come Claude Sonnet 5.5, GPT-6.2 Sol e Gemini 4 Carbon oggi hanno prezzi quasi identici, quindi un confronto corretto dei costi LLM passa i tuoi conteggi di token reali su ciascuno. Per una panoramica rapida di tutte le tariffe di input, cache e output, usa la tabella prezzi delle API LLM.
Perché gli agenti AI multi-turno costano più dei chatbot
Le API LLM sono stateless. Per proseguire una conversazione, il tuo codice reinvia l'intera cronologia a ogni chiamata, e un agente aggiunge a quella cronologia definizioni dei tool, chiamate ai tool e output dei tool a ogni passo. I token di input crescono quindi a ogni turno, e l'input totale di una sessione cresce all'incirca con il quadrato del numero di turni.
Prendi un agente di coding o di ricerca che parte con 12.000 token di contesto, aggiunge 2500 token di output dei tool e 500 token del proprio output a ogni turno, e lavora per 25 turni. Una stima ingenua dà 25 × 12.000 = 0,3M token di input. La cifra reale è di circa 1,2M, 4× di più, perché il turno 25 rilegge tutto ciò che hanno prodotto i primi 24 turni. Senza caching, quella singola sessione costa circa $2.52 su Claude Sonnet 5.5. Un calcolatore dei costi degli agenti AI deve modellare questa crescita del contesto, ed è ciò che fa la modalità Pro / Agente qui sopra. Gli agenti vocali seguono lo stesso schema a ogni turno parlato; il calcolatore dei costi degli agenti vocali AI lo modella insieme a speech-to-text, text-to-speech e telefonia.
Come prompt caching e sconti Batch API riducono la bolletta
Prompt caching
Poiché gli agenti reinviano lo stesso prefisso più e più volte, i provider ti permettono di metterlo in cache. I token di input in cache su Claude Sonnet 5.5 costano $0.10 per 1M invece di $2.00 (95% in meno). Anthropic applica un sovrapprezzo per scrivere in cache ($2.50 per 1M); OpenAI e Google usano la cache automaticamente per i prompt oltre una lunghezza minima. Con un cache hit rate pari a 85%, la sessione dell'agente vista sopra scende da $2.52 a circa $0.677 (73% in meno). Per ottenere hit rate elevati, tieni tutto ciò che è stabile (system prompt, schemi dei tool, documenti di riferimento) all'inizio del prompt e aggiungi i contenuti nuovi alla fine. Un timestamp o un ID utente nella parte alta del prompt invalida la cache a ogni richiesta.
Batch API
Se non ti serve una risposta in tempo reale, la Batch API di OpenAI, Anthropic e Google applica il 50% di sconto sia sui token di input sia su quelli di output, in cambio di risultati entro 24 ore. Eval, classificazione di documenti, estrazione di dati, backfill di embedding e riepiloghi notturni sono tutti casi adatti. Gli sconti batch e cache si possono cumulare, ed è per questo che le pipeline offline sono spesso i carichi di lavoro LLM più economici.
Come vengono fatturati i token di ragionamento nascosti
I modelli di ragionamento pensano prima di rispondere. Quei token di ragionamento vengono generati come qualsiasi altro output e fatturati alla tariffa di output, ma la maggior parte delle API non te li mostra mai. Una risposta visibile di 500 token che ha richiesto 1.000 token di ragionamento viene fatturata come 1.500 token di output: $0.015 invece di $0.005 su Claude Sonnet 5.5. Il consumo di ragionamento varia con la difficoltà del compito e con le impostazioni di effort, quindi misuralo dal campo usage delle risposte reali e imposta di conseguenza il moltiplicatore di ragionamento nel calcolatore. I token di ragionamento non vengono riportati nel contesto del turno successivo, quindi aumentano il costo dell'output senza gonfiare il lato input di un loop di agenti.
Consigli pratici per ridurre la spesa mensile per le API LLM
- Instrada in base alla difficoltà. Invia le chiamate semplici di classificazione, estrazione e routing a un modello economico e riserva i modelli di punta ai casi difficili. Molti team così riducono la spesa del 60–80%.
- Limita la lunghezza dell'output. I token di output sono la parte cara. Imposta max_tokens, chiedi formati concisi come JSON ed evita che il modello ripeta il suo input.
- Progetta i prompt per il caching. Metti prima i contenuti stabili e per ultimi quelli variabili, e controlla il conteggio dei token in cache nelle risposte API per confermare gli hit.
- Riduci il contesto dell'agente. Riassumi o elimina i vecchi output dei tool invece di trascinarti interi contenuti di file e log in ogni turno.
- Usa il batch per tutto ciò che può aspettare. Metà prezzo per lo stesso modello è il risparmio più facile che ci sia.
- Regola l'effort di ragionamento. Usa un effort basso o medio, o un modello senza ragionamento, dove un ragionamento approfondito non migliora i risultati.
- Riconsidera il self-hosting su larga scala. Con miliardi di token al mese, un modello open-weight su una GPU dedicata può costare meno. Usa il calcolatore di break-even API vs self-hosting per trovare il tuo punto di pareggio e il calcolatore VRAM per LLM per dimensionare l'hardware.
Tutti i valori di questo calcolatore sono salvati nell'URL della pagina, quindi una volta ottenuta una stima puoi copiare il link e condividerlo con il tuo team o con il responsabile finance.