本文へスキップ
LLM Pricing Calc
API 料金の最終確認日 GPU レンタル料金

LLM API vs セルフホスト コスト計算ツール

トークン課金の API、ホスト型オープンウェイト API、専用クラウド GPU を比較し、LLM のセルフホストが損益分岐点に達する月間トークン量を求めます。

= 2B トークン / 月

入力 75%

0 のままにすると推定値(~534 tok/s)を使用します。

API / 月

$8,000

GPT-6.2 Sol

セルフホスト / 月

$3,489

1 × 2 GPU、常時稼働

損益分岐点のトークン量

872.35M

トークン / 月

月間トークン量に対する月額コスト
API モデルセルフホスト GPUホスト型オープンウェイト API
現在のトークン量でのコスト比較
選択肢月額100万トークンあたり備考

セルフホストは常時稼働のレンタル(月730時間)、リクエストあたり 8K コンテキスト、FP16 の KVキャッシュを想定しています。エンジニアリング、冗長化、データ転送(egress)の費用は含みません。

API: 公式料金ページ ↗ · GPU 料金: 公式料金ページ ↗

ガイド

LLM API vs セルフホスト:損益分岐点の計算

問題は GPU が API より安いかどうかではありません。GPU を十分に稼働させ続けられるかどうかです。トークン課金の API は使った分だけ課金されます。専用 GPU は、 稼働中でもアイドル中でも、電源が入っている1時間ごとに課金されます。セルフホストが有利になるのは、毎月の安定したトークン量が十分に大きく、その固定費を API のトークン単価より薄く分散できるようになってからです。

1. トークン課金の API

コストはトークン量に比例します:月間トークン数 × 100万トークンあたりの混合単価。混合単価とは、入力と出力をトラフィックの比率で加重平均した単価です。入力トークンが 75% の場合、GPT-6.2 Sol は100万トークンあたり約 $4.00 になります。最低料金もアイドル時のコストもなく、 スケーリングと稼働率の確保はプロバイダーが担います。LLM 料金計算ツールでは、この比較の API 側にキャッシュ、バッチ、エージェントループを加味できます。

2. ホスト型オープンウェイト API

推論プロバイダーは、Llama 3.3 70B Instruct などのオープンモデルを共有 GPU で提供しており、課金はやはりトークン単位です(ここでは混合単価で100万トークンあたり約 $0.155)。 数千の顧客で GPU を常にフル稼働させているため、通常はフロンティア API よりも、自分でレンタルする GPU よりもはるかに安くなります。ホスト型オープンウェイトの料金は LLM API 料金一覧表で比較できます。多くのチームにとって、クローズドな API の現実的な代替案はセルフホストではなく、こちらです。

3. 専用クラウド GPU

セルフホスト環境のコストは、トラフィックに関係なく月に 時間単価 × 730時間 × レプリカあたりの GPU 数 × レプリカ数 です。$2.39/時の NVIDIA H100 80GB 1枚なら月 $1,745 です。処理能力はデコードのスループット、つまり vLLM、SGLang、TGI の continuous batching で GPU が毎秒生成できる出力トークン数で決まります。フル稼働時、上の構成では約 100万トークンあたり $0.8555 でトークンを生成できます。これは最良のケースです。 平均稼働率が30%の場合、実質単価は100万トークンあたり $2.85 に上がります。

損益分岐点の求め方

損益分岐点は、2つのコストの線が交わる月間トークン量です:損益分岐トークン数 = GPU の月額コスト ÷ API のトークン単価。これを下回れば API の方が安く、 上回れば GPU の方が安くなります。ただし、1レプリカの処理能力を超えると、もう1つレプリカが必要になります。GPT-6.2 Sol と NVIDIA H100 80GB 上の Llama 3.3 70B Instruct を比較すると、分岐点は約 月 872.35M トークンです。上のグラフには3つの選択肢すべてをプロットしているので、線が交わる位置を確認できます。

損益分岐点を最も大きく動かすのは次の4つの要素です:

  • 稼働率。日中にピークがあり夜間に落ち込むトラフィックでは、レンタルした GPU がアイドル状態になります。負荷の変動が大きいワークロードには API が向いています。
  • モデルサイズと量子化。FP16 の 70B モデルにはレプリカあたり 80 GB の GPU が複数枚必要ですが、4-bit なら1枚に収まります。ハードウェアのサイズは LLM VRAM 計算ツールで見積もりましょう。
  • 入力と出力の比率。プリフィル(入力)はデコード(出力)より数倍速いため、RAG や分類など入力の多いワークロードでは、GPU 1時間あたりに処理できるトークン数が多くなります。
  • 比較対象の API。フラッグシップモデルと比べれば、月に数億トークンで GPU の元が取れることもあります。低価格の API やホスト型オープンウェイト API と比べると、元が取れないこともあります。

LLM をセルフホストすべきケース

価格だけが理由になることはまれです。セルフホストが理にかなうのは、データを自社インフラ内にとどめる必要がある場合、独自のファインチューニングモデルを提供したい場合、レート制限のない 確実な処理能力が必要な場合、または GPU の稼働率をおよそ50%以上に保てるだけの大きく安定したトークン量がある場合です。本番環境では最低2つのレプリカに加え、 デプロイ、モニタリング、アップグレードのためのエンジニアリング工数も予算に入れてください(この計算ツールには含まれていません)。これらの理由が当てはまらないなら、トークン課金の API(多くの場合ホスト型オープンウェイト API)の方が、通常は安く シンプルな選択です。音声のワークロードも同じ考え方です。1分あたりのコストは AI 音声エージェント料金計算ツールでご確認ください。

その他の AI コスト計算ツール

API vs セルフホストに関するよくある質問

LLM API と GPU の損益分岐点はどう計算する?

GPU の月額コストを、API のトークンあたりの混合単価で割ります。たとえば月 $1,700 の GPU は、100万トークンあたり $4 の API に対して、月 4億2,500万トークンで損益分岐点に達します。ただし、GPU が実際にそれだけのトークンを処理できることが前提です。この計算ツールは GPU のスループットも確認するため、1レプリカでは処理しきれず GPU を追加する必要がある場合もわかります。

Llama 3.3 70B Instruct はセルフホストした方が API より安い?

GPT-6.2 Sol のようなフロンティア API(混合単価で100万トークンあたり約 $4.00)と比べると、Llama 3.3 70B Instruct を動かす専用の NVIDIA H100 80GB は、大きく安定したトークン量であれば有利になり得ます。100万トークンあたり約 $0.155 のホスト型 Llama 3.3 70B Instruct API と比べると、セルフホストが価格面で勝つことはまれです。決め手となるのは、稼働率、データプライバシーの要件、独自のファインチューニングが必要かどうかです。

LLM のセルフホストが API より安くなるのはどんなとき?

専用 GPU を常に稼働させ続けられるほど、トークン量が多く安定しているときです。常時稼働の H100 1枚は月約 $1,700 かかります。これが元を取れるのは、本来ならそれ以上を API トークンに支払う場合だけで、中位の API モデルと比べると通常は月に数十億トークンが必要です。安価なホスト型オープンウェイト API と比べると、価格だけでセルフホストが勝つことはまれです。

損益分岐点がない場合があるのはなぜ?

稼働率100%でも、GPU が1か月に処理できるトークン量では API のトークン単価を下回れない場合、セルフホストが安くなることはありません。これは小型または安価な API モデルと比較する場合や、複数の GPU を必要とする非常に大きなオープンモデルでよく起こります。

GPU のスループットはどう推定している?

シングルストリームのデコード速度は、メモリ帯域幅と、トークンごとに読み込むアクティブな重みのバイト数から推定しています。continuous batching(vLLM、TGI、SGLang)では、合計スループットはおおよそ 同時実行数0.8 に比例して増加します。入力(プリフィル)トークンは、出力トークンより約8×速く処理されると仮定しています。スループットは自分のベンチマーク値で上書きできます。

この計算に含まれていないコストは?

エンジニアリング工数、モニタリング、冗長化(本番環境では最低2つのレプリカが必要です)、データ転送(egress)、ストレージ、夜間の遊休キャパシティです。API 側では、レート制限のティアや個別交渉による割引を含めていません。損益分岐点は、セルフホストにとっての下限値と考えてください。

ホスト型オープンウェイト API はどう?

DeepInfra や Together などのプロバイダーは、Llama 3.3 70B などのオープンモデルを100万トークンあたり数セントで提供しています。多くの顧客で GPU を共有しているため、データの分離、独自のファインチューニング、確実な処理能力が必要になるまでは、多くの場合これが最も安い選択肢です。