Aller au contenu
LLM Pricing Calc
Prix des API vérifiés le Tarifs de location GPU

Calculateur de coût : API LLM vs auto-hébergement

Comparez les API au token, les API open-weight hébergées et les GPU cloud dédiés, et trouvez le volume mensuel de tokens à partir duquel auto-héberger un LLM devient rentable.

= 2B tokens / mois

75 % en entrée

Laissez 0 pour utiliser l’estimation (~534 tok/s).

API / mois

$8,000

GPT-6.2 Sol

Auto-hébergement / mois

$3,489

1 × 2 GPU, allumé en permanence

Volume de rentabilité

872.35M

tokens / mois

Coût mensuel en fonction du volume mensuel de tokens
Modèle APIGPU auto-hébergéAPI open-weight hébergée
Comparaison des coûts à votre volume
OptionPar moisPar million de tokensRemarques

L’auto-hébergement suppose une location permanente (730 h/mois), 8K de contexte par requête et un KV cache en FP16. Hors ingénierie, redondance et trafic sortant.

API : Tarifs officiels ↗ · Tarifs GPU : Tarifs officiels ↗

Guide

API LLM vs auto-hébergement : le calcul du seuil de rentabilité

La question n’est pas de savoir si un GPU est moins cher qu’une API, mais si vous pouvez garder un GPU suffisamment occupé. Une API au token ne facture que ce que vous utilisez. Un GPU dédié facture chaque heure où il est allumé, qu’il travaille ou non. L’auto-hébergement ne l’emporte qu’une fois votre volume mensuel régulier assez élevé pour diluer ce coût fixe en dessous du prix par token de l’API.

1. API au token

Le coût augmente linéairement avec le volume : tokens mensuels × prix mixte par million, où le prix mixte pondère l’entrée et la sortie selon votre répartition de trafic. Avec 75 % de tokens d’entrée, GPT-6.2 Sol revient à environ $4.00 par million de tokens. Pas de minimum, pas de coût à vide, et le fournisseur gère la montée en charge et la disponibilité. Le calculateur de prix LLM ajoute le cache, le batch et les boucles d’agents de ce côté de la comparaison.

2. API open-weight hébergées

Les fournisseurs d’inférence servent des modèles open-weight comme Llama 3.3 70B Instruct sur des GPU partagés et facturent quand même au token, ici environ $0.155 par million en tarif mixte. Comme ils maintiennent leurs GPU saturés grâce à des milliers de clients, ils sont généralement bien moins chers à la fois qu’une API de pointe et qu’un GPU que vous louez vous-même. Comparez les prix des modèles open-weight hébergés dans le tableau des prix des API LLM. Pour beaucoup d’équipes, c’est cela, et non l’auto-hébergement, la véritable alternative à une API propriétaire.

3. GPU cloud dédiés

Un déploiement auto-hébergé coûte tarif horaire × 730 heures × GPU par réplica × réplicas par mois, quel que soit le trafic. Un NVIDIA H100 80GB à $2.39/heure revient à $1,745 par mois. Sa capacité dépend du débit de décodage : le nombre de tokens de sortie par seconde que le GPU peut générer avec le batching continu de vLLM, SGLang ou TGI. À pleine utilisation, la configuration ci-dessus produit des tokens pour environ $0.8555 par million. C’est le meilleur des cas. À 30 % d’utilisation moyenne, le prix effectif grimpe à $2.85 par million.

Comment trouver votre seuil de rentabilité

Le seuil de rentabilité est le volume mensuel où les deux courbes de coût se croisent : tokens au seuil de rentabilité = coût mensuel du GPU ÷ prix de l’API par token. En dessous, l’API est moins chère ; au-dessus, c’est le GPU, jusqu’à ce que vous dépassiez la capacité d’un réplica et qu’il en faille un autre. Pour GPT-6.2 Sol face à Llama 3.3 70B Instruct sur un NVIDIA H100 80GB, le point de bascule se situe autour de 872.35M tokens par mois. Le graphique ci-dessus trace les trois options pour voir où les courbes se rejoignent.

Quatre paramètres déplacent le plus le seuil de rentabilité :

  • Utilisation. Un trafic qui culmine aux heures de bureau et chute la nuit laisse les GPU loués inactifs. Les charges irrégulières favorisent les API.
  • Taille du modèle et quantification. Un modèle 70B en FP16 nécessite plusieurs GPU de 80 GB par réplica ; en 4 bits, il tient sur un seul. Dimensionnez le matériel avec le calculateur de VRAM LLM.
  • Répartition entrée/sortie. Le prefill (entrée) est plusieurs fois plus rapide que le décodage (sortie) : les charges à forte entrée comme le RAG et la classification obtiennent donc plus de tokens par heure de GPU.
  • L’API de référence. Face à un modèle phare, un GPU peut être rentable dès quelques centaines de millions de tokens par mois. Face à une API économique ou open-weight hébergée, il peut ne jamais l’être.

Quand auto-héberger un LLM

Le prix est rarement la seule raison. L’auto-hébergement a du sens lorsque vos données doivent rester dans votre propre infrastructure, que vous voulez servir un fine-tune personnalisé, que vous avez besoin d’une capacité garantie sans limites de débit, ou que vous avez un volume élevé et régulier qui maintient les GPU au-dessus d’environ 50 % d’utilisation. Prévoyez au moins deux réplicas en production, plus le temps d’ingénierie pour le déploiement, la supervision et les mises à jour, que ce calculateur ne prend pas en compte. Si ces raisons ne s’appliquent pas, une API au token, souvent open-weight hébergée, est généralement le choix le moins cher et le plus simple. Les charges vocales suivent la même logique ; consultez le calculateur de coût d’agent vocal IA pour les coûts à la minute.

Autres outils de coût IA

FAQ API vs auto-hébergement

Comment calculer le seuil de rentabilité entre une API LLM et un GPU ?

Divisez le coût mensuel du GPU par le prix mixte par token de l’API. Par exemple, un GPU qui coûte 1 700 $ par mois devient rentable face à une API à 4 $ par million de tokens à partir de 425M tokens par mois, à condition que le GPU puisse réellement servir autant de tokens. Ce calculateur vérifie aussi le débit du GPU : il vous indique quand un seul réplica ne suffit pas et qu’il vous faudrait davantage de GPU.

Est-il moins cher d’auto-héberger Llama 3.3 70B Instruct que d’utiliser une API ?

Face à une API de pointe comme GPT-6.2 Sol (environ $4.00 par million de tokens en tarif mixte), un NVIDIA H100 80GB dédié faisant tourner Llama 3.3 70B Instruct peut l’emporter à volume élevé et régulier. Face à une API Llama 3.3 70B Instruct hébergée à environ $0.155 par million, l’auto-hébergement l’emporte rarement sur le prix. Les facteurs décisifs sont l’utilisation, les exigences de confidentialité des données et le besoin éventuel d’un fine-tune personnalisé.

Quand l’auto-hébergement d’un LLM est-il moins cher qu’une API ?

Quand votre volume est assez élevé et régulier pour occuper un GPU dédié. Un H100 allumé en permanence coûte environ 1 700 $ par mois. Il n’est rentable que si vous dépenseriez sinon davantage en tokens d’API, soit généralement des milliards de tokens par mois face à un modèle API de milieu de gamme. Face aux API open-weight hébergées bon marché, l’auto-hébergement l’emporte rarement sur le seul critère du prix.

Pourquoi n’y a-t-il parfois aucun seuil de rentabilité ?

Si le GPU ne peut pas traiter assez de tokens en un mois pour battre le prix par token de l’API, même à 100 % d’utilisation, l’auto-hébergement ne devient jamais moins cher. C’est fréquent pour les petits modèles API ou les modèles API bon marché, et pour les très gros modèles open-weight qui nécessitent plusieurs GPU.

Comment le débit du GPU est-il estimé ?

La vitesse de décodage en flux unique est estimée à partir de la bande passante mémoire et des octets de poids actifs lus par token. Avec le batching continu (vLLM, TGI, SGLang), le débit agrégé croît à peu près comme la concurrence0,8. Les tokens d’entrée (prefill) sont supposés traités ~8× plus vite que les tokens de sortie. Vous pouvez remplacer le débit par vos propres mesures de benchmark.

Quels coûts ne sont pas pris en compte ?

Le temps d’ingénierie, la supervision, la redondance (il vous faudra au moins deux réplicas en production), le trafic sortant, le stockage et la capacité inutilisée la nuit. Côté API, les paliers de limites de débit et les éventuelles remises négociées ne sont pas inclus. Considérez le seuil de rentabilité comme une borne basse pour l’auto-hébergement.

Et les API open-weight hébergées ?

Des fournisseurs comme DeepInfra et Together servent des modèles open-weight comme Llama 3.3 70B pour quelques centimes par million de tokens. Ils mutualisent les GPU entre de nombreux clients, ce qui en fait souvent l’option la moins chère tant que vous n’avez pas besoin d’isolation des données, de fine-tunes personnalisés ou d’une capacité garantie.