RunPodでGPUを時給39円で借りて実測 — 安い16GBが7.5倍割高だった結論

関連記事としては BlogRunPod vs Vast.ai GPUレンタル実測 — 初めてはRunPod、最安はVastの2択RunPodとVast.aiを実測比較。速さではなく運用品質で選ぶべき理由、コールドスタート、信頼性、課金停止の差を整理します。→ もあわせて読むと、今回の論点とのつながりを把握しやすくなります。

TL;DR: RunPodでGPUを借りてローカルLLMを試すとき、16GBを選ぶと安いはずなのに、実際は7.5倍割高になり得ます。同じ gemma3:27b を RTX A4000(16GB) と RTX 4090(24GB) で回した実測をもとに、どのGPUを借りるべきかを判断できるように整理しました。

RunPodでGPUを借りてローカルLLMを動かすとき、16GBを選ぶと安いはずなのに、実際は7.5倍割高になり得る理由が分かります。 同じ gemma3:27b を RTX A4000(16GB) と RTX 4090(24GB) で回した実測をもとに、どのGPUを借りるべきかを判断できるようにします。

借りるのは簡単、時給もかなり安いです。ですが、安い16GBは7.5倍割高でした。

ここは最初に言い切っておきます。RunPodは入口としてかなり使いやすいです。前払いクレジット制で、使いすぎを構造的に防ぎやすい。Pod を立てるのも驚くほど速い。しかも、時給39円台から触れます。

でも、「一番安いGPUを選べば得」ではありません。 VRAMにモデルが収まらないと、LLMはCPU混在に落ちて一気に遅くなります。今回の実測では、16GBは24GBの約20.7倍遅く、仕事量あたりでは7.5倍割高でした。

先に公平を期しておくと、これは 17GBある gemma3:27b を16GBに載せようとして「あふれた」ケースの話です。モデルがちゃんと16GBに収まるなら（7B〜12B級など）、16GBは普通に実用になります。 安い16GBが罠になるのは「収まらないモデルを無理に載せたとき」だけ、と覚えてください。

• 対象は ローカルLLMをGPUレンタルで試したい人
• 実測モデルは gemma3:27b
• 比較したGPUは RTX A4000(16GB) と RTX 4090(24GB)
• RunPodは 前払いクレジット制 です。残高が尽きると Pod は止まります
• ただし、停止とTerminateは別物です。使い終わったら Terminate（削除） が鉄則です

⚠️ RunPodは「止めたつもり」で課金が終わらないことがあります。停止だけではなく、不要になったら必ずTerminateしてください。auto-pay は任意でOFFにできますが、設定を見落とすと想定外の入金につながります。

• RunPodは本当に借りやすい
• 実測した環境と料金
• 16GBで何が起きたか
• 24GBで何が起きたか
• 速度差は20倍、コスト差は7.5倍
  • 速度差
  • 仕事量あたりのコスト
• VRAMは賢さではなく速さを決める
• 借りるならこの判断でいい
• 動作確認と、最後にやること
• 注意点・制約
• どのように検証したか
• よくある質問
  • 16GBだと回答がバカになりますか？
  • 時給が一番安いGPUを借りれば節約になりますか？
  • 使い終わったあと、料金を止めるには？
  • 結局どのGPUを借りればいいですか？
• 参考リンク
• この記事を書いた人
• 関連記事
• 関連リンク

RunPodは、GPUレンタルの面倒さがかなり薄いです。Pod をデプロイすると、数十秒で root@...:/# のプロンプトが出ました。ここは予想以上でした。

接続経路も複数あります。

• Jupyter Lab
• SSH
• Web terminal
• 直TCP

特にありがたいのは、SSH鍵を先に入れていなくても Web terminal からその場で触れることです。最初の一歩で詰まらない。これは地味ですが効きます。

RunPod の入口を試すなら、まずはここで十分です。

📌 この記事の RunPod へのリンクは**紹介リンク（アフィリエイト）**です。下のリンクから新規登録して $10 入金すると、あなたと私の双方に少額のクレジットが入ります。料金や中身は、自分で実際に借りて確かめたうえで書いています（使っていないサービスは勧めない方針です）。

👉 RunPod を試す: https://runpod.io?ref=8f3bejl2

今回の前提は次の通りです。

• RunPod は前払いクレジット制
• 最小 $10 の入金で紹介クレジットも発生
• auto-pay は任意でOFF可
• GPU 料金は時給課金、1ミリ秒単位
• RTX A4000(16GB) = $0.25/hr（約39円）
• RTX 4090(24GB) = $0.69/hr（約108円）
• 停止中もディスク維持費が少しかかるので、終わったら Terminate が基本

前払いクレジットは $150 などまとめて入れる方式で、残高が尽きると Pod が止まります。逆に言うと、勝手に青天井で課金されないのが安心材料です（auto-pay は任意でOFFにできます）。なお、ここで挙げる料金は 2026-06-02 時点のもので、1USD≒157円で概算しています。為替とRunPod側の改定で変わるので、最終的には自分の画面で確認してください。

実際のデプロイ画面では、時給と内訳がそのまま見えます。下は RTX A4000 を選んだときの例で、合計 時給$0.26（GPU $0.25＋ディスク類）と、停止中のコストまで明示されます。

ここで一度、足元を見ておきます。時給が安いことと、安く終わることは別です。LLMは「借りたGPUの値段」より、1トークンをどれだけ速く出せるかのほうが効いてきます。

16GB側は、モデルが VRAM に収まりませんでした。

今回の gemma3:27b は約17GB級です。つまり、16GBのGPUにそのまま載せるのは無理です。ここで何が起きるかというと、LLMは低速なシステムRAM側も使う構成に逃げます。結果、賢さは同じでも、とにかく遅い。

実測値は次の通りです。

• RTX A4000(16GB)

  • 速度: 2.29 tokens/s
  • 1回答: 約3分29秒
  • 状態: VRAMに収まらず CPU 混在に落ちる

正直、ここは少し迷いました。安いので「軽いモデルなら実用になるだろう」と期待したくなる気持ちは分かります。ですが、27B級ではその期待は外れました。

24GB側は、ちゃんとVRAMに収まりました。すると話はかなり素直です。

• RTX 4090(24GB)

  • 速度: 47.4 tokens/s
  • 1回答: 約9秒
  • GPU使用率: 100%
  • 状態: ほぼGPUだけで回る

これはかなりはっきりした差でした。同じモデルなのに、体感が別物です。

16GBでは「待つ」のが仕事になっていましたが、24GBでは普通に対話できます。実際に触ると、この差は地味に効きます。待ち時間が短いだけで、検証の回転数がかなり変わります。

今回いちばん大事な数字です。

速度差

• 4090: 47.4 tokens/s
• A4000: 2.29 tokens/s
• 差は 約20.7倍

仕事量あたりのコスト

• A4000(16GB): $30.3 / 100万トークン
• 4090(24GB): $4.0 / 100万トークン
• 差は 7.5倍

つまり、時給が安いGPUが、必ずしも安いとは限らないわけです。

ここは少し冷たい真実ですが、LLM運用ではかなり重要です。時給39円は魅力的です。ですが、1トークンを出すのに極端に時間がかかるなら、総額では高くつく。

なお、この20倍という差は「VRAMあふれ」と「カード自体のメモリ帯域差（4090は約1008GB/s、A4000は約448GB/s）」の合わせ技です。仮に16GBに収まるモデルだったとしても、帯域差のぶんだけ4090のほうが速くはなります（理論上はおよそ半分の速度）。ここまで桁違いになるのは、あくまで「あふれた」からです。

ここを誤解しやすいので、はっきり書きます。

VRAM容量は「モデルの賢さ」を決めません。 同じモデルを動かしている限り、回答の中身は同じです。違うのは、その賢さをどれだけ速く引き出せるかです。

今回も、gemma3:27b は大きいだけあって、内容そのものはかなり強いです。量子コンピュータの説明まで普通に高品質でした。 一方で、小さい gemma3:4b は事実の取り違えが出ました。たとえば「日本の第二の首都＝福岡」のような誤答です。

つまり、VRAMが足りないことによる遅さと、モデル自体の賢さの差は別問題です。逆に、量子化を工夫すれば小さいVRAMでも大きめのモデルが「収まる」ことはあります（BlogVRAM12GBで35Bクラスが動く時代、Qwen3.5で確かめた3つの事実Qwen3.5-35B-A3BをRTX 4070 Ti（VRAM 12GB）で動かした記録。Ollama非対応・Q2_K_L不可・IQ2_XSで突破。24問ベンチマーク：170/240 Rank B、113 tok/s。→も参考になります）。鍵はいつも「そのGPUにモデルが収まるか」です。

LLM の文章生成は、かなりの部分がメモリ帯域に律速されます。ざっくり言うと、

生成速度 ≒ GPUメモリ帯域(GB/s) ÷ モデルサイズ(GB) × 効率(0.6〜0.85)

この見方で、4090の実測 47.4 tokens/s は理論値の8割近くで、だいたい筋が通ります。 そして、VRAMからあふれた瞬間に低速なシステムRAMへ逃げると崖落ちする。今回の16GBは、まさにそこにはまりました。

結論はシンプルです。

• 7B〜12B級を試す → 16GBでも成立しやすい
• 27B級を実用的に回したい → 24GB級が最低ライン
• 「とりあえず一番安いGPU」 → たいてい失敗しやすい

言い換えると、**借りるのは「一番安いGPU」ではなく「動かすモデルが収まる最小GPU」**です。

27B級なら、RunPodでは RTX 4090 / 3090 の24GBクラスをまず見るのが現実的です。RunPod は入口として十分易しく安いので、クラウドGPUの試走には向いています。

RunPod には B300 や H200 のような業務用から、RTX 4090・3090・A4000 のようなコンシューマ／ワークステーション向けまで幅広く並びます。価格は時給で一覧表示されるので、「動かすモデルが収まる最小GPU」を価格順に探すのがやりやすいです。

RunPodの選び方を詰めるなら、ここから新規登録して触ってみてください。

📌 再掲（紹介リンク／アフィリエイト）: 下のリンク経由の新規登録＋$10入金で、双方に少額クレジットが入ります。

👉 RunPod を試す: https://runpod.io?ref=8f3bejl2

最後に、RunPodで触り終わったあとに確認すべきことをまとめます。

1. Pod がまだ Running になっていないか確認する
2. 使い終わったら Stop ではなく Terminate する
3. auto-pay 設定を見直す
4. クレジット残高を確認する
5. 次回試すモデルのサイズを先に決める

今回の判断材料はこれで十分です。

• 借りるのは簡単
• 時給は激安
• でも、安い16GBは7.5倍割高になりうる
• 賢さはモデル次第、VRAMは速度と収まり方次第
• 27B級を触るなら、最初から24GB級を借りる

この結論を一度持っておくと、GPUを選ぶときの迷いがかなり減ります。

• OS・ライブラリのバージョンが異なると手順が変わる場合があります。
• クラウドサービスは設定UIが更新されることがあり、画面が本記事と異なる可能性があります。
• 本番環境への適用前にテスト環境で動作を確認してください。

計測は 2026-06-02 に実施しました。各 Pod では Ollama を入れて、同じモデルを次のように動かしただけです。

# どちらのGPUでも同じコマンド。違うのは載せたGPUだけ
ollama run gemma3:27b

• RunPod で実際に GPU を借り、同じ gemma3:27b（Ollama）を RTX A4000(16GB) と RTX 4090(24GB) の2台で動かして計測しました。
• 速度（tokens/s）と1回答あたりの体感時間、GPU使用率は実機の実行結果です。
• 料金（$0.25/hr・$0.69/hr）と前払いクレジット・接続画面・紹介プログラムは、2026年6月時点のRunPodコンソールのスクリーンショットをそのまま掲載しています（個人情報はマスク済み）。
• コスト（$/100万トークン）は「時給 ÷（tokens/s × 3600秒）」で算出しています。

16GBだと回答がバカになりますか？

いいえ。同じモデルを動かす限り、回答の中身（賢さ）は変わりません。違うのは速さだけです。16GBで遅くなるのは、モデルがVRAMに収まらず低速なシステムRAMへあふれるためで、出力の質は落ちません。一方、小さいモデル（例: gemma3:4b）に変えると、速くなる代わりに事実の誤りは増えます。

時給が一番安いGPUを借りれば節約になりますか？

なりません。今回の実測では、時給39円のA4000(16GB)は遅すぎて、仕事量（生成1トークン）あたりでは4090(24GB)の約7.5倍のコストでした。「時給の安さ」ではなく「1トークンあたりの単価」で比べてください。

使い終わったあと、料金を止めるには？

Pod をStop（停止）するだけでは不十分です。停止中もディスク維持費が少しかかります。完全に課金を止めたいなら Terminate（削除） してください。auto-pay をONにしていると残高低下時に自動入金されるので、不要ならOFFを確認します。

結局どのGPUを借りればいいですか？

「一番安いGPU」ではなく「動かすモデルが収まる最小のGPU」です。7B〜12B級なら16GBでも成立しやすく、27B級を実用的に回すなら24GB（RTX 4090 / 3090）が最低ラインです。

• BlogVRAM12GBで35Bクラスが動く時代、Qwen3.5で確かめた3つの事実Qwen3.5-35B-A3BをRTX 4070 Ti（VRAM 12GB）で動かした記録。Ollama非対応・Q2_K_L不可・IQ2_XSで突破。24問ベンチマーク：170/240 Rank B、113 tok/s。→ — どこまでVRAMにモデルを「収められるか」の感覚に
• Blogローカル最高80% vs クラウド93%——20点差が示す、規模の残酷な現実GPT-5.4 mini/nanoを同じ24問ベンチマークで測定。ローカル最高峰Qwen3.5:4bの80.8%に対し、miniは92.9%・nanoは79.2%。スコアの読み方と、正直な限界を書きます。→ — 借りる前に「ローカルで足りるか」を考える材料に
• META-MARK — GPU/CPUのMetaScore比較

HW系エンジニアとして20年以上、10,000件を超える顧客訪問と2,000件を超える単独ソリューション実績。AIツールを使った個人開発やIoT農園など、Raspberry Piを使ったオートメーション化なども実践中です。エンジニア専門結婚相談所も運営中で、ClaudeCodeで解決しづらい心の課題も、現場感をもって向き合っています。

• BlogRunPod vs Vast.ai GPUレンタル実測 — 初めてはRunPod、最安はVastの2択RunPodとVast.aiを実測比較。速さではなく運用品質で選ぶべき理由、コールドスタート、信頼性、課金停止の差を整理します。→
• BlogGemma 4 MTP drafter を今すぐ入れるべきか？ RTX 4070 Ti 12GB でつまずいた3つのポイントと結論RTX 4070 Ti 12GBでGemma 4 MTP drafterを実測。ドラフター0.14GB、ただし最速はvLLMの162.7 tok/s。導入判断を正直にまとめます。→
• BlogGoogle Gemma 4が変えたこと——Apache 2.0と本格マルチモーダルで「使えるオープンモデル」の基準が上がったGoogle DeepMindが2026年4月にリリースしたGemma 4の実力を整理する。Apache 2.0への変更、E2B〜31Bの4モデル構成、画像・動画・音声対応のマルチモーダル実装、そしてQwen 3.5やDeepSeek V3.2との比較まで。「ローカルで動かして本当に使えるか」という目線で書く。→

• 実際の構成を探すなら、GPU 比較ページやローカルLLM向け構成記事もあわせて見ると判断しやすいです。
• ハードウェア候補は用途別の AI 構成ガイドからたどると、単体製品より違和感なく検討できます。