Saltar al contenido
LLM Pricing Calc
Precios de API verificados por última vez Tarifas de alquiler de GPU

Calculadora de costos: API de LLM vs. self-hosting

Compara las API por token, las API alojadas de modelos open-weight y las GPU dedicadas en la nube, y encuentra el volumen mensual de tokens a partir del cual alojar tu propio LLM sale rentable.

= 2B tokens / mes

75% entrada

Déjalo en 0 para usar la estimación (~534 tok/s).

API / mes

$8,000

GPT-6.2 Sol

Self-hosting / mes

$3,489

1 × 2 GPU, siempre encendida

Volumen de equilibrio

872.35M

tokens / mes

Costo mensual frente a volumen mensual de tokens
Modelo de APIGPU propia (self-hosted)API open-weight alojada
Comparación de costos con tu volumen
OpciónMensualPor 1M de tokensNotas

El self-hosting asume alquiler permanente (730 h/mes), 8K de contexto por solicitud y KV cache en FP16. No incluye ingeniería, redundancia ni tráfico de salida.

API: Precios oficiales ↗ · Tarifas de GPU: Precios oficiales ↗

Guía

API de LLM vs. self-hosting: el cálculo del punto de equilibrio

La pregunta no es si una GPU es más barata que una API, sino si puedes mantener la GPU lo bastante ocupada. Una API por token solo cobra lo que usas. Una GPU dedicada cobra cada hora que está encendida, ocupada o inactiva. El self-hosting solo gana cuando tu volumen mensual estable es lo bastante grande como para repartir ese costo fijo por debajo del precio por token de la API.

1. API por token

El costo crece linealmente con el volumen: tokens mensuales × precio combinado por 1M, donde el precio combinado pondera la entrada y la salida según tu mezcla de tráfico. Con un 75% de tokens de entrada, GPT-6.2 Sol sale a unos $4.00 por 1M de tokens. Sin mínimos, sin costo por inactividad, y el proveedor se encarga del escalado y la disponibilidad. La calculadora de precios de LLM añade caché, batch y bucles de agentes a este lado de la comparación.

2. API alojadas de modelos open-weight

Los proveedores de inferencia sirven modelos abiertos como Llama 3.3 70B Instruct en GPU compartidas y siguen cobrando por token, en este caso unos $0.155 por 1M combinado. Como mantienen sus GPU saturadas con miles de clientes, suelen ser mucho más baratos que una API de frontera y que una GPU alquilada por tu cuenta. Compara los precios alojados de modelos open-weight en la tabla de precios de API de LLM. Para muchos equipos, esta, y no el self-hosting, es la verdadera alternativa a una API cerrada.

3. GPU dedicadas en la nube

Un despliegue propio cuesta tarifa por hora × 730 horas × GPU por réplica × réplicas al mes, independientemente del tráfico. Una NVIDIA H100 80GB a $2.39/hora son $1,745 al mes. Su capacidad depende del throughput de decodificación: cuántos tokens de salida por segundo puede generar la GPU con continuous batching en vLLM, SGLang o TGI. A plena utilización, la configuración de arriba produce tokens por unos $0.8555 por 1M. Ese es el mejor caso. Con una utilización media del 30%, el precio efectivo sube a $2.85 por 1M.

Cómo encontrar tu punto de equilibrio

El punto de equilibrio es el volumen mensual en el que se cruzan las dos líneas de costo: tokens de equilibrio = costo mensual de la GPU ÷ precio de la API por token. Por debajo, la API es más barata; por encima, lo es la GPU, hasta que superas la capacidad de una réplica y necesitas otra. Para GPT-6.2 Sol frente a Llama 3.3 70B Instruct en una NVIDIA H100 80GB, el punto de cruce está en unos 872.35M tokens al mes. El gráfico de arriba muestra las tres opciones para que veas dónde se cruzan las líneas.

Cuatro factores son los que más mueven el punto de equilibrio:

  • Utilización. El tráfico que alcanza su pico en horario de oficina y cae por la noche deja las GPU alquiladas inactivas. Las cargas de trabajo irregulares favorecen a las API.
  • Tamaño del modelo y cuantización. Un modelo de 70B en FP16 necesita varias GPU de 80 GB por réplica; en 4 bits cabe en una. Dimensiona el hardware con la calculadora de VRAM para LLM.
  • Mezcla de entrada y salida. El prefill (entrada) es varias veces más rápido que la decodificación (salida), así que las cargas con mucha entrada, como RAG y clasificación, obtienen más tokens por hora de GPU.
  • Con qué API comparas. Frente a un modelo insignia, una GPU puede compensar con cientos de millones de tokens al mes. Frente a una API económica o una API open-weight alojada, puede que nunca compense.

Cuándo alojar tu propio LLM

El precio rara vez es la única razón. El self-hosting tiene sentido cuando necesitas que los datos se queden dentro de tu propia infraestructura, quieres servir un fine-tune personalizado, necesitas capacidad garantizada sin límites de tasa o tienes un volumen alto y estable que mantiene las GPU por encima de aproximadamente el 50% de utilización. Presupuesta al menos dos réplicas en producción, además del tiempo de ingeniería para el despliegue, la monitorización y las actualizaciones, que esta calculadora no incluye. Si esas razones no se aplican, una API por token, a menudo una API open-weight alojada, suele ser la opción más barata y sencilla. Las cargas de trabajo de voz siguen la misma lógica; consulta la calculadora de costos de agentes de voz con IA para ver los costos por minuto.

Más herramientas de costos de IA

Preguntas frecuentes sobre API vs. self-hosting

¿Cómo calculo el punto de equilibrio entre una API de LLM y una GPU?

Divide el costo mensual de la GPU entre el precio combinado por token de la API. Por ejemplo, una GPU que cuesta $1,700 al mes alcanza el punto de equilibrio frente a una API de $4 por millón de tokens con 425M tokens al mes, siempre que la GPU pueda servir realmente esa cantidad de tokens. Esta calculadora también comprueba el throughput de la GPU, así que te avisa cuando una sola réplica no da abasto y necesitarías más GPU.

¿Es más barato alojar Llama 3.3 70B Instruct por tu cuenta que usar una API?

Frente a una API de frontera como GPT-6.2 Sol (unos $4.00 por 1M de tokens combinados), una NVIDIA H100 80GB dedicada que ejecute Llama 3.3 70B Instruct puede ganar con un volumen alto y estable. Frente a una API alojada de Llama 3.3 70B Instruct a unos $0.155 por 1M, el self-hosting rara vez gana en precio. Los factores decisivos son la utilización, los requisitos de privacidad de datos y si necesitas un fine-tune personalizado.

¿Cuándo sale más barato alojar un LLM que usar una API?

Cuando tu volumen es lo bastante alto y estable como para mantener ocupada una GPU dedicada. Una H100 siempre encendida cuesta unos $1,700 al mes. Eso solo compensa si, de otro modo, gastarías más que eso en tokens de API, normalmente miles de millones de tokens al mes frente a un modelo de API de gama media. Frente a API open-weight alojadas y baratas, el self-hosting rara vez gana solo por precio.

¿Por qué a veces no hay punto de equilibrio?

Si la GPU no puede procesar suficientes tokens en un mes para superar el precio por token de la API ni siquiera al 100% de utilización, el self-hosting nunca sale más barato. Es habitual con modelos de API pequeños o baratos, y con modelos abiertos muy grandes que necesitan varias GPU.

¿Cómo se estima el throughput de la GPU?

La velocidad de decodificación de un solo flujo se estima a partir del ancho de banda de memoria y de los bytes de pesos activos leídos por token. Con continuous batching (vLLM, TGI, SGLang), el throughput agregado crece aproximadamente como concurrencia0,8. Se asume que los tokens de entrada (prefill) se procesan ~8× más rápido que los de salida. Puedes sustituir el throughput por tus propios resultados de benchmark.

¿Qué costos no incluye?

El tiempo de ingeniería, la monitorización, la redundancia (en producción querrás al menos dos réplicas), el tráfico de salida, el almacenamiento y la capacidad inactiva por la noche. En el lado de la API no se incluyen los niveles de límites de tasa ni los descuentos negociados. Toma el punto de equilibrio como un límite inferior para el self-hosting.

¿Y las API alojadas de modelos open-weight?

Proveedores como DeepInfra y Together sirven modelos abiertos como Llama 3.3 70B por centavos por millón de tokens. Comparten GPU entre muchos clientes, lo que a menudo los convierte en la opción más barata hasta que necesitas aislamiento de datos, fine-tunes personalizados o capacidad garantizada.