中古RTX 3090、今買うか——半年で2倍超の相場変動
Vast.ai、GPU購入、OpenRouter APIを実測費用で比較。判定を分けるのは単価ではなくGPU稼働率です。
関連記事としては
BlogOllama実測:RTX 3060 31.84、RTX 5090 94.18t/sOllamaを同一条件で実測。RTX 3060から5090までのtokens/s、VRAM不足による速度低下、予算別の選び方を整理します。→ もあわせて読むと、今回の論点とのつながりを把握しやすくなります。
GPUを借りるか、70万円のRTX 5090を買うか、それともOpenRouter APIを使うか。判断を分けるのは、GPUの単価ではなく稼働率です。借りている時間のうち、GPUが生成し続ける時間が3割を超えなければ、対話用途ではAPIのほうが安くなります。
LLM用途だけでGPUを買う場合、1日3時間の利用ではRTX 5090の元が取れるまで9.7年です。「自前GPUはトークン単価が安い」という話自体は間違っていません。ただし、その単価はGPUを100%生成に使い続けたときの数字です。読んでいる時間、考えている時間、次の質問を入力している時間まで課金されるレンタルとは、比較の土台が違います。
3択の判定は「使い方の形」で変わる
1問だけ投げる、数分対話する、必要なときだけコードを生成する。この使い方なら、OpenRouter APIが安くなります。Vast.aiはGPUを借りた瞬間から時間課金が始まり、起動とモデル取得だけで、当たり物件でも約3.4〜5分かかるからです。
一方で、長い文書を一括処理する、同じモデルで大量の出力を連続生成する、といった使い方ならレンタルが有利になります。GPUが生成している割合が高くなり、時間課金の無駄が減るためです。
毎日長時間使い、データを外に出せず、起動待ちも許容できないなら、購入が候補に入ります。ただし、費用だけで見ると、新品RTX 5090が勝つ場面は今回の比較にはありません。
| 使い方 | 判定 | 理由 |
|---|---|---|
| 1問だけ聞く | OpenRouter API | 起動時間と空振りがない |
| 対話しながら使う | OpenRouter API | 待機中のレンタル料金が発生する |
| 一括処理・大量生成 | Vast.ai | GPU稼働率が分岐点を超えやすい |
| 大量の同時並行処理 | APIが有利 | 今回のollama実測では合計速度が頭打ち |
| 毎日大量に長期間使う | 中古RTX 3090 | 3年総額では選択肢になりやすい |
借りるのとAPIは、GPUを使い切れるならレンタルが安い
2026年8月18日に、Vast.ai上のRTX 3090とRTX 5090でqwen3.8:27bを動かし、生成速度と時間単価から100万トークンあたりの費用を計算しました。
RTX 3090は台によって29.30〜61.84 token/s、時間単価は$0.1414〜$0.1885でした。最遅の台は100万トークンあたり$1.34、最速の台は$0.85です。RTX 5090は134.33 token/s、$0.5104/hで、100万トークンあたり$1.06でした。
OpenRouter側は、2026年8月18日に確認したQwen3.8-27Bの出力トークンの加重平均実効価格が$3.10/Mでした(入力は$0.3615/M)。スループットは提供元によって9〜97 token/sです。満載時の自前GPUは、APIの2.3〜3.6倍安い計算になります。
ただし、ここで数字を見て「レンタルし続ければ得」と判断すると、実際の利用では外れます。$0.85〜1.34/Mは、借りている時間のすべてでGPUが生成し続ける前提だからです。
最安物件が最安とは限らない
今回もっとも実用的だった落とし穴は、時給の安い物件がトークン単価では負けたことです。時給$0.1414の最遅RTX 3090は$1.34/Mでした。時給$0.1885の最速の台は$0.85/Mです。
速いGPUやホストに多く払っても、生成時間が短くなれば総額は下がります。「一番安い物件を選ぶ」が、結果として最も損な選び方でした。Vast.aiでは、時間単価だけでなく、実測速度と回線条件を合わせて見る必要があります。
分岐点はRTX 3090で27.3%、RTX 5090で34.1%
為替を1ドル159.4円、OpenRouterの実効価格を$3.10/Mとして計算すると、レンタルとAPIの損益分岐点はRTX 3090で稼働率27.3%、RTX 5090で34.1%でした。
ここでいう稼働率は、借りている時間のうち、GPUが実際にトークンを生成している割合です。GPUを借りて60分間、生成している時間が15分なら稼働率は25%です。この場合、3090でもAPIを下回りません。
対話用途でGPUが働く時間は1〜2割でした。回答を待つ時間よりも、回答を読んで次の指示を考える時間のほうが長いからです。対話を中心にするなら、満載時のトークン単価ではなく、待機時間を含めたレンタル費用で判断してください。

同じ作業でも、レンタルは待っている時間まで課金される。対話ではこの差が効く
| GPU | 時給換算 | 満載時の生産量 | APIとの損益分岐稼働率 |
|---|---|---|---|
| RTX 3090(最速の実測台) | 約30.0円/h | 222,624 tok/h | 27.3% |
| RTX 5090 | 約81.4円/h | 483,588 tok/h | 34.1% |
「ぶん回せば得」はollamaの実測では成立しなかった
同時処理ならレンタルGPUを使い切れる、と考えたくなります。そこで、RTX 3090、ollama、OLLAMA_NUM_PARALLEL=8の条件で同時実行を測りました。
同時1本では合計33.63 token/s、2本で35.34 token/s、4本で39.26 token/s、8本で37.25 token/sでした。合計速度は4本付近で頭打ちになり、8本ではむしろ下がっています。1本あたりの速度は33.63から4.66 token/sへ落ち、7.2倍の低下です。
つまり、今回の構成では同時実行数を増やしても総量はほとんど増えず、各リクエストが遅くなりました。待ち行列を自分で増やした形です。
ただし、これは「ローカルGPUは同時処理に向かない」という意味ではありません。今回のボトルネックはGPUそのものではなく、ollamaです。商用APIが使うvLLMやSGLangは、複数リクエストを束ねて処理するための構成で、今回のollama実測とは別の物差しになります。vLLMでの実測はまだ行っていません。RTX 5090の同時実行も未測定です。
なお、単発計測のサーバー申告速度と、同時実行計測の実時間・往復・待ち行列込みの速度は、同じ指標ではありません。別条件の数字を単純に引き算しないようにしてください。
レンタルには単価表に出ない5分と空振りがある
Vast.aiで2026年8月18日に9回借りたところ、成功は6回、失敗は3回でした。起動しなかった物件では3〜15分を使ってから撤退しています。成功した物件でも、GPU割り当てから起動まで57〜162秒、19GBのモデル取得と計測完了まで201〜301秒かかりました。
信頼性99%以上という表示も、壊れていないかを示す数字であって、起動が速いか、モデルをすぐ取得できるかまでは保証しません。失敗は同一事業者の連番物件に集中していました。
在庫は分単位で変わるため、特定の物件IDや「この物件が安い」という紹介はしません。今回の計測では、inet_down>3000のように回線条件を上げると、不良個体を避けやすくなりました。価格だけでなく、速度と起動条件を帯で見るのが現実的です。
Vast.aiを使う場合は、物件を選ぶ前に「自分は毎回3〜5分待てるのか」「失敗時に3〜15分を捨てられるのか」を決めておくと、単価表に引きずられにくくなります。
この記事の実測はすべて Vast.ai 上で行いました。
上記は紹介リンク(アフィリエイト)です。実際に自分で借りて計測した結果に基づいて紹介しています。
モデル保管領域は安くする手段ではなく、時間を買う手段
モデルを毎回ダウンロードしないよう、先に保管領域を用意する方法もあります。RunPodのネットワークボリュームは$0.07/GB/月です。30GBなら月$2.10になります。
一方、モデル取得を短縮できるレンタル代は1回あたり$0.019でした。月30回使っても$0.56なので、保管領域の料金を金銭だけで回収するには月110回が必要です。保管領域は節約策ではなく、待ち時間をお金で買う仕組みです。
さらに、特定のデータセンターに縛られるため、空いている物件や速い物件を選びにくくなります。Vast.aiには同等の保管方法がなく、停止すると物理マシンに紐づき、別の利用者に取られた場合は戻れません。短時間の利用なら、その日に立ち上げたまま使い、夕方にdestroyするほうが扱いやすい場面もあります。
保管領域つきで試すなら RunPod が該当します。今回の料金もここで確認しました。ただし次に書く落とし穴を読んでから決めてください。
上記は紹介リンク(アフィリエイト)です。実際に自分で借りて計測した結果に基づいて紹介しています。
私自身、RunPodの50GBネットワークボリュームを約2か月消し忘れました。2026年6月17日から8月18日まで、Pod 0台、エンドポイント0個の状態で$0.117/日が課金され続けていました。請求書のCloud GPU欄は$0のままだったため、GPUの利用履歴だけを追っても原因が見えません。
日額が完全な定数で並んでいたことが手がかりでした。クラウドGPUはstopで止めたつもりでも、保管領域が残っていれば課金されます。借りた直後と返却時に残骸を確認し、不要ならstopではなくdestroyまで行ってください。
RTX 5090を買っても、1日3時間なら元が取れない
2026年8月18日時点の実勢価格では、RTX 5090は70万円でした。借りた場合の時給は約81.4円、推定500Wで購入した場合の電気代は約15.5円/hです。差額は1時間あたり約65.9円なので、GPU本体70万円を回収するには利用時間が必要になります。
1日1時間なら29年、1日3時間なら9.7年、1日8時間なら3.6年、24時間稼働でも1.2年です。これは電気代だけを差し引いた計算で、購入時の周辺機器、冷却、故障、買い替えは含めていません。
LLM用途だけで1日3時間使う人に、「元が取れる」とは言えません。個人が稼働率12%程度の設備を買う一方で、クラウドGPU事業者は同じGPUを24時間、複数の利用者で回しています。この差が、レンタル事業の価格に現れています。
中古RTX 3090も、以前ほど安くありません。2026年8月の確認では、ヤフオクの落札は15万円前後、店頭では20万円台でした。メモリ価格の上昇とRTX 50系の品薄を背景に、半年で2倍を超えて上がっています。「ローカルLLMなら中古3090」という過去の記事を基準にすると、購入時の価格差で計算を間違えます。
3年総額は出力トークン量で揃える
速度の違うGPUを「1日何時間使うか」だけで比べると、速いGPUほど同じ時間に多くのトークンを生成するため、公平ではありません。ここでは出力トークン量をそろえ、3年間の総額を比較します。APIは月1,000万トークンと月1億トークン、レンタルは対話利用と一括処理を分けています。
| 選択肢 | 軽い利用(月1,000万tok) | 重い利用(月1億tok) |
|---|---|---|
| OpenRouter API | 約18万円 | 約178万円 |
| Vast.aiでRTX 3090を借りる | 約24万円(対話・実働20%)/約5万円(一括) | 約49万円 |
| 中古RTX 3090を購入(17万円) | 約19万円 | 約40万円 |
| RTX 5090を購入(70万円) | 約73万円 | 約82万円 |
この表では、軽い利用ではAPIと中古3090が近く、対話ならAPIのほうが扱いやすい結果です。大量の一括処理ではレンタルが安くなります。重い利用では中古3090がレンタルより安くなるものの、購入価格17万円を前提にしています。中古相場が20万円台なら差は縮まります。
RTX 5090は、今回の軽い利用・重い利用のどちらでも金銭的には勝ちません。速さやVRAMを買う製品であって、LLMのトークン費用を回収するための製品ではない、という位置づけです。
円安はAPIとレンタルに不利です。1ドル159.4円ではドル建て料金の円換算が上がります。一方、GPUは円で購入し、電気代も円で払います。ただし今回はGPUそのものの相場が高騰しており、円安だけを見て購入が有利とは判断できません。為替とGPU価格は両方確認する必要があります。
元が取れなくてもGPUを買う理由は4つある
費用対効果だけなら、LLM用途だけでRTX 5090を買う理由は弱いです。それでも購入する理由はあります。ただし、それは「何年でAPI代を回収できるか」とは別の話です。
ひとつ目は、ゲームや映像処理など別の用途がある場合です。もともと買う予定だったGPUなら、LLMに使う時間の費用は追加投資ではありません。LLMだけで70万円を回収する計算と、複数用途で設備を共有する計算は分けるべきです。
二つ目は、待ち時間をなくせることです。レンタルでは起動からモデル取得まで3.4〜5分かかり、約3割は起動せずに3〜15分を失いました。1日に短い作業を何度も繰り返す人にとって、この待ち時間はAPI料金とは別の負担になります。
三つ目は、データを外に出さないことです。ソースコード、顧客情報、社内文書などをAPIやレンタル環境へ送らない要件があるなら、費用差だけで選べません。これは今回の金額表には入らない購入理由です。
四つ目はVRAMです。姉妹記事の実測では、速度の差よりも「モデルが載るかどうか」の断崖が支配的でした。12GBと24GBでは、同じ27B級モデルを扱えるかどうかが先に問題になります。VRAMは後からソフトウェア更新で増やせないため、購入時には現在のtoken/sより、何年そのモデルサイズを載せられるかを見る必要があります。
ただし、VRAMの将来価値は予測できません。MoEなど省メモリ設計が進めば32GBの寿命が延びる可能性もありますし、モデルの大型化が続けば早く陳腐化する可能性もあります。ここは予測を断定せず、購入時の不確実性として残ります。
私見:70万円の5090は「回収する機材」ではなく「制約を買う機材」
迷うとしたら、「毎日の待ち時間をなくすために70万円を払うか」「多少待ってもAPIやレンタルで変動費にするか」の一点だと思います。LLMの利用が対話中心ならAPI、まとまった生成を定期的に流すならVast.ai、毎日大量に使い続けるなら中古3090が現実的です。
RTX 5090を選ぶ理由は、費用回収ではありません。大きなモデルを載せたい、他用途でも使う、データを外へ出せない、起動待ちをなくしたい。その制約に70万円を払う選択です。
中古3090については、15万円前後で買えるという過去の感覚をそのまま使わないほうがよいです。半年で2倍を超えた相場では、購入価格を改めて確認し、APIやレンタルとの差額を計算し直してください。相場は記事公開直前にも再確認する価値があります。
単価表で最安のGPUを探すより、まず自分の利用ログから「借りている時間」と「生成している時間」を分けてください。その割合が27〜34%を超えないなら、レンタルの満載時単価はあなたの請求額ではありません。
注意点・制約
今回の同時実行結果はRTX 3090とollamaの組み合わせに限ったものです。vLLMやSGLang、RTX 5090へ一般化できる実測ではありません。また、単発速度と同時実行速度は計測条件が異なるため、同じ指標として比較していません。
価格は2026年8月18日時点です。Vast.aiの在庫、OpenRouterの提供元や価格、為替、中古GPU相場は変動します。特に中古RTX 3090は半年で2倍を超えており、購入前に現在価格を確認してください。
どのように整理したか
Vast.aiでは2026年8月18日に実オファーを確認し、RTX 3090とRTX 5090でqwen3.8:27bをollamaから実行しました。単発の生成速度、時間単価、モデル取得を含む起動時間、同時1・2・4・8本の実行結果を分けて扱っています。
OpenRouterは同日にQwen3.8-27Bの価格とスループットを確認しました。GPU購入費は同日時点のRTX 5090実勢価格と中古RTX 3090の落札・店頭相場を使い、電気代は31円/kWhで計算しています。
出典
- 自前実測:
scripts/runpod/benchmark-ledger.json、docs/audit/concurrency-RTX_3090-qwen3.8_27b.json - Vast.ai実オファー:
vastai search offers、2026年8月18日確認 - OpenRouterのQwen3.8-27B価格・スループット: 2026年8月18日確認
- 中古GPU相場: ヤフオク落札実績、price-rank.com、2026年8月確認
- 為替: 1ドル=159.4円、2026年8月18日実勢
- 姉妹記事:
BlogQwen3.8-27B、16GBカードは買いか——実用下限は24GBQwen3.8-27Bを12/24/32GB GPUで実測。16GBに載らない理由と、買い替えの判断基準を整理します。→ - GPUレンタルの選び方:
BlogRunPodでGPUを時給39円で借りて実測 — 安い16GBが7.5倍割高だった結論RunPodでgemma3:27bを16GBと24GBで実測。借りるのは簡単でも、安いGPUが得とは限らない理由を数字で整理します。→ - プラットフォーム比較:
BlogRunPod vs Vast.ai GPUレンタル実測 — 初めてはRunPod、最安はVastの2択RunPodとVast.aiを実測比較。速さではなく運用品質で選ぶべき理由、コールドスタート、信頼性、課金停止の差を整理します。→
よくある質問
自分の稼働率はどうやって調べますか?
借りている時間と、GPUが実際に生成していた時間を分けて数えます。ollamaなら生成のたびに所要秒数が出るので、その合計を、GPUを立ち上げていた時間で割ってください。この割合が27〜34%を超えないなら、レンタルの満載時単価はあなたの請求額にはなりません。
中古のRTX 3090は、待てば安くなりますか?
分かりません。2026年8月時点では、メモリ価格の上昇とRTX 50系の品薄を背景に半年で2倍を超えています。この記事の3年総額は17万円で計算していますが、実際の落札は15万円前後、店頭は20万円台でした。購入前に必ず現在価格を確認し、差額を計算し直してください。
借りたGPUを止めれば課金は止まりますか?
止まりません。GPUを停止しても、保管領域が残っていれば課金は続きます。私自身、RunPodで50GBのボリュームを約2か月消し忘れ、$0.117/日を払い続けていました。請求書のCloud GPU欄は$0のままなので、GPUの利用履歴を追っても原因は見つかりません。stopではなくdestroyまで行い、返却後に残っているものがないか確認してください。
参考リンク
関連記事
BlogOllama実測:RTX 3060 31.84、RTX 5090 94.18t/sOllamaを同一条件で実測。RTX 3060から5090までのtokens/s、VRAM不足による速度低下、予算別の選び方を整理します。→
BlogOllamaでローカルにチャットを住まわせた記録 — インストールからモデル選びまでOllamaを使ってローカルLLMを動かした実録。インストール手順・VRAM別モデル選び・実際に使って感じた正直な評価まで。RTX 4070 Ti(12GB)環境での体験ベース。→
BlogOllama導入の罠と解決手順——GPU認識・日本語チャットまでの全記録と結論RTX 4070 Ti搭載の自宅サーバーにOllamaをSSHでセットアップした実録。非対話環境でのインストール罠、バイナリ直接DL、systemdサービス化、qwen2.5:7bでの日本語チャットまで。→
関連リンク
- 実際の構成を探すなら、GPU 比較ページやローカルLLM向け構成記事もあわせて見ると判断しやすいです。
- ハードウェア候補は用途別の AI 構成ガイドからたどると、単体製品より違和感なく検討できます。
この記事を書いた人
HW系エンジニアとして20年以上、10,000件を超える顧客訪問と2,000件を超える単独ソリューション実績。AIツールを使った個人開発やIoT農園など、Raspberry Piを使ったオートメーション化なども実践中です!エンジニア専門結婚相談所も運営中、ClaudeCodeで解決できない心の課題も解決いたします!
関連記事
結論、DGX SparkとRTX Sparkは性能でなくOSで選ぶ——2つのSparkの違い
DGX SparkとRTX Sparkの共通仕様と違いを、OS・形態・時期・用途で整理。実機未検証の範囲も明記します。
$5〜$20のGPT-6 Astra:OpenRouterで5経路、エラー率13倍
同じGPT-6 Astraでも、OpenRouterの提供事業者で価格・速度・ツール呼び出しとJSON出力の失敗率が大きく変わります。
21k対64kのGPT-6 Astra:費用差2.19倍を生む出力量
GPT-6 AstraとClaude Fable 5.1は同じ$10/$50でも1タスク費用が2.19倍。出力トークンと待ち時間から使い分けを整理します。
同点61でも6倍差——Muse Spark 1.3とGLM-5.3-Flash
Muse Spark 1.3のStandardとContributorを、GLM・Qwen・Geminiと知能、単価、速度、データ条件で比較します。
関連AIツール
META-MARK × AI
ローカルAIを動かすGPU、ちゃんと選べていますか?
VRAM・性能・コスパをMetaScoreで数値化。AIアプリ別の推奨ハードウェア要件も確認できます。
PR広告:開発環境・キャリアまわりのサービス