Pular para o conteúdo
LLM Pricing Calc
Preços de API verificados em Preços de aluguel de GPU

Calculadora de Custo: API de LLM vs Self-Hosting

Compare APIs cobradas por token, APIs hospedadas de modelos open-weight e GPUs dedicadas na nuvem, e descubra o volume mensal de tokens em que hospedar um LLM por conta própria atinge o ponto de equilíbrio.

= 2B tokens / mês

75% de input

Deixe em 0 para usar a estimativa (~534 tok/s).

API / mês

$8,000

GPT-6.2 Sol

Self-hosting / mês

$3,489

1 × 2 GPU, sempre ligada

Volume de equilíbrio

872.35M

tokens / mês

Custo mensal versus volume mensal de tokens
Modelo de APIGPU própria (self-hosted)API open-weight hospedada
Comparação de custos no seu volume
OpçãoMensalPor 1M de tokensObservações

O self-hosting considera aluguel sempre ligado (730 h/mês), contexto de 8K por requisição e KV cache em FP16. Não inclui engenharia, redundância nem tráfego de saída (egress).

API: Preços oficiais ↗ · Preços de GPU: Preços oficiais ↗

Guia

API de LLM vs self-hosting: a conta do ponto de equilíbrio

A questão não é se uma GPU é mais barata que uma API. É se você consegue manter a GPU ocupada o suficiente. Uma API cobrada por token cobra só o que você usa. Uma GPU dedicada cobra cada hora em que fica ligada, ocupada ou ociosa. O self-hosting só vence quando o seu volume mensal constante é grande o bastante para diluir esse custo fixo abaixo do preço por token da API.

1. APIs cobradas por token

O custo cresce de forma linear com o volume: tokens por mês × preço combinado por 1M, em que o preço combinado pondera input e output de acordo com o seu mix de tráfego. Com 75% de tokens de input, o GPT-6.2 Sol sai por cerca de $4.00 por 1M de tokens. Sem mínimo, sem custo ocioso, e o provedor cuida da escala e da disponibilidade. A calculadora de preço de LLM acrescenta cache, batch e loops de agentes a este lado da comparação.

2. APIs hospedadas de modelos open-weight

Provedores de inferência servem modelos abertos como o Llama 3.3 70B Instruct em GPUs compartilhadas e continuam cobrando por token, aqui cerca de $0.155 por 1M de tokens (preço combinado). Como mantêm suas GPUs saturadas com milhares de clientes, costumam ser bem mais baratos que uma API de modelo de fronteira e que uma GPU que você mesmo aluga. Compare os preços hospedados de modelos open-weight na tabela de preços de API de LLM. Para muitas equipes, essa, e não o self-hosting, é a alternativa real a uma API fechada.

3. GPUs dedicadas na nuvem

Uma implantação self-hosted custa preço por hora × 730 horas × GPUs por réplica × réplicas por mês, independentemente do tráfego. Uma NVIDIA H100 80GB a $2.39/hora custa $1,745 por mês. A capacidade dela depende do throughput de decode: quantos tokens de output por segundo a GPU consegue gerar com continuous batching no vLLM, SGLang ou TGI. Com utilização total, o setup acima produz tokens por cerca de $0.8555 por 1M. Esse é o melhor cenário. Com 30% de utilização média, o preço efetivo sobe para $2.85 por 1M.

Como encontrar o seu ponto de equilíbrio

O ponto de equilíbrio é o volume mensal em que as duas linhas de custo se cruzam: tokens de equilíbrio = custo mensal da GPU ÷ preço da API por token. Abaixo dele, a API é mais barata; acima dele, a GPU é, até você passar da capacidade de uma réplica e precisar de outra. Para o GPT-6.2 Sol contra o Llama 3.3 70B Instruct em uma NVIDIA H100 80GB, o ponto de virada fica em cerca de 872.35M tokens por mês. O gráfico acima mostra as três opções para você ver onde as linhas se encontram.

Quatro fatores são os que mais mexem no ponto de equilíbrio:

  • Utilização. Um tráfego que tem pico no horário comercial e cai à noite deixa GPUs alugadas ociosas. Cargas de trabalho irregulares favorecem as APIs.
  • Tamanho do modelo e quantização. Um modelo de 70B em FP16 precisa de várias GPUs de 80 GB por réplica; em 4 bits, cabe em uma só. Dimensione o hardware com a calculadora de VRAM para LLM.
  • Mix de input/output. O prefill (input) é várias vezes mais rápido que o decode (output), então cargas com muito input, como RAG e classificação, rendem mais tokens por hora de GPU.
  • Com qual API você compara. Contra um modelo topo de linha, uma GPU pode compensar com centenas de milhões de tokens por mês. Contra uma API econômica ou uma API open-weight hospedada, pode nunca compensar.

Quando hospedar um LLM por conta própria

O preço raramente é o único motivo. O self-hosting faz sentido quando você precisa que os dados fiquem dentro da sua própria infraestrutura, quer servir um fine-tune personalizado, precisa de capacidade garantida sem rate limits ou tem um volume alto e constante que mantém as GPUs acima de cerca de 50% de utilização. Em produção, planeje pelo menos duas réplicas, além do tempo de engenharia para implantação, monitoramento e atualizações, que esta calculadora não inclui. Se esses motivos não se aplicam, uma API cobrada por token, muitas vezes uma API open-weight hospedada, costuma ser a opção mais barata e mais simples. Cargas de voz seguem a mesma lógica; veja a calculadora de custo de agente de voz com IA para custos por minuto.

Mais ferramentas de custo de IA

Perguntas frequentes sobre API vs self-hosting

Como calcular o ponto de equilíbrio entre uma API de LLM e uma GPU?

Divida o custo mensal da GPU pelo preço combinado por token da API. Por exemplo, uma GPU que custa $1.700 por mês atinge o equilíbrio contra uma API de $4 por milhão de tokens com 425M de tokens por mês, desde que a GPU consiga de fato servir tantos tokens. Esta calculadora também verifica o throughput da GPU, então ela avisa quando uma única réplica não dá conta e você precisaria de mais GPUs.

É mais barato hospedar o Llama 3.3 70B Instruct por conta própria do que usar uma API?

Contra uma API de fronteira como o GPT-6.2 Sol (cerca de $4.00 por 1M de tokens, preço combinado), uma NVIDIA H100 80GB dedicada rodando o Llama 3.3 70B Instruct pode vencer com volume alto e constante. Contra uma API hospedada do Llama 3.3 70B Instruct a cerca de $0.155 por 1M, o self-hosting raramente vence no preço. Os fatores decisivos são a utilização, os requisitos de privacidade de dados e se você precisa de um fine-tune personalizado.

Quando o self-hosting de um LLM é mais barato que usar uma API?

Quando o seu volume é alto e constante o suficiente para manter uma GPU dedicada ocupada. Uma H100 sempre ligada custa cerca de $1.700 por mês. Isso só compensa quando você gastaria mais do que isso com tokens de API, normalmente bilhões de tokens por mês contra um modelo de API intermediário. Contra APIs open-weight hospedadas baratas, o self-hosting raramente vence só no preço.

Por que às vezes não existe ponto de equilíbrio?

Se a GPU não consegue processar tokens suficientes em um mês para superar o preço por token da API mesmo com 100% de utilização, o self-hosting nunca fica mais barato. Isso é comum com modelos de API pequenos ou baratos e com modelos abertos muito grandes, que precisam de várias GPUs.

Como o throughput da GPU é estimado?

A velocidade de decode de um único fluxo é estimada a partir da largura de banda de memória e dos bytes de pesos ativos lidos por token. Com continuous batching (vLLM, TGI, SGLang), o throughput agregado cresce aproximadamente como concorrência0,8. Consideramos que os tokens de input (prefill) são processados ~8× mais rápido que os de output. Você pode substituir o throughput pelos números dos seus próprios benchmarks.

Quais custos ficam de fora?

Tempo de engenharia, monitoramento, redundância (você vai querer pelo menos duas réplicas em produção), egress, armazenamento e capacidade ociosa à noite. Do lado da API, ficam de fora os níveis de rate limit e eventuais descontos negociados. Considere o ponto de equilíbrio como um limite inferior para o self-hosting.

E as APIs open-weight hospedadas?

Provedores como DeepInfra e Together servem modelos abertos como o Llama 3.3 70B por centavos por milhão de tokens. Eles compartilham GPUs entre muitos clientes, o que costuma ser a opção mais barata até você precisar de isolamento de dados, fine-tunes personalizados ou capacidade garantida.