Guide
API LLM vs auto-hébergement : le calcul du seuil de rentabilité
La question n’est pas de savoir si un GPU est moins cher qu’une API, mais si vous pouvez garder un GPU suffisamment occupé. Une API au token ne facture que ce que vous utilisez. Un GPU dédié facture chaque heure où il est allumé, qu’il travaille ou non. L’auto-hébergement ne l’emporte qu’une fois votre volume mensuel régulier assez élevé pour diluer ce coût fixe en dessous du prix par token de l’API.
1. API au token
Le coût augmente linéairement avec le volume : tokens mensuels × prix mixte par million, où le prix mixte pondère l’entrée et la sortie selon votre répartition de trafic. Avec 75 % de tokens d’entrée, GPT-6.2 Sol revient à environ $4.00 par million de tokens. Pas de minimum, pas de coût à vide, et le fournisseur gère la montée en charge et la disponibilité. Le calculateur de prix LLM ajoute le cache, le batch et les boucles d’agents de ce côté de la comparaison.
2. API open-weight hébergées
Les fournisseurs d’inférence servent des modèles open-weight comme Llama 3.3 70B Instruct sur des GPU partagés et facturent quand même au token, ici environ $0.155 par million en tarif mixte. Comme ils maintiennent leurs GPU saturés grâce à des milliers de clients, ils sont généralement bien moins chers à la fois qu’une API de pointe et qu’un GPU que vous louez vous-même. Comparez les prix des modèles open-weight hébergés dans le tableau des prix des API LLM. Pour beaucoup d’équipes, c’est cela, et non l’auto-hébergement, la véritable alternative à une API propriétaire.
3. GPU cloud dédiés
Un déploiement auto-hébergé coûte tarif horaire × 730 heures × GPU par réplica × réplicas par mois, quel que soit le trafic. Un NVIDIA H100 80GB à $2.39/heure revient à $1,745 par mois. Sa capacité dépend du débit de décodage : le nombre de tokens de sortie par seconde que le GPU peut générer avec le batching continu de vLLM, SGLang ou TGI. À pleine utilisation, la configuration ci-dessus produit des tokens pour environ $0.8555 par million. C’est le meilleur des cas. À 30 % d’utilisation moyenne, le prix effectif grimpe à $2.85 par million.
Comment trouver votre seuil de rentabilité
Le seuil de rentabilité est le volume mensuel où les deux courbes de coût se croisent : tokens au seuil de rentabilité = coût mensuel du GPU ÷ prix de l’API par token. En dessous, l’API est moins chère ; au-dessus, c’est le GPU, jusqu’à ce que vous dépassiez la capacité d’un réplica et qu’il en faille un autre. Pour GPT-6.2 Sol face à Llama 3.3 70B Instruct sur un NVIDIA H100 80GB, le point de bascule se situe autour de 872.35M tokens par mois. Le graphique ci-dessus trace les trois options pour voir où les courbes se rejoignent.
Quatre paramètres déplacent le plus le seuil de rentabilité :
- Utilisation. Un trafic qui culmine aux heures de bureau et chute la nuit laisse les GPU loués inactifs. Les charges irrégulières favorisent les API.
- Taille du modèle et quantification. Un modèle 70B en FP16 nécessite plusieurs GPU de 80 GB par réplica ; en 4 bits, il tient sur un seul. Dimensionnez le matériel avec le calculateur de VRAM LLM.
- Répartition entrée/sortie. Le prefill (entrée) est plusieurs fois plus rapide que le décodage (sortie) : les charges à forte entrée comme le RAG et la classification obtiennent donc plus de tokens par heure de GPU.
- L’API de référence. Face à un modèle phare, un GPU peut être rentable dès quelques centaines de millions de tokens par mois. Face à une API économique ou open-weight hébergée, il peut ne jamais l’être.
Quand auto-héberger un LLM
Le prix est rarement la seule raison. L’auto-hébergement a du sens lorsque vos données doivent rester dans votre propre infrastructure, que vous voulez servir un fine-tune personnalisé, que vous avez besoin d’une capacité garantie sans limites de débit, ou que vous avez un volume élevé et régulier qui maintient les GPU au-dessus d’environ 50 % d’utilisation. Prévoyez au moins deux réplicas en production, plus le temps d’ingénierie pour le déploiement, la supervision et les mises à jour, que ce calculateur ne prend pas en compte. Si ces raisons ne s’appliquent pas, une API au token, souvent open-weight hébergée, est généralement le choix le moins cher et le plus simple. Les charges vocales suivent la même logique ; consultez le calculateur de coût d’agent vocal IA pour les coûts à la minute.