中古RTX 3090、今買うか——半年で2倍超の相場変動
Vast.ai、GPU購入、OpenRouter APIを実測費用で比較。判定を分けるのは単価ではなくGPU稼働率です。
こんにちは。お盆が明けても暑さが続いて、GPUの発熱がいつも以上に気になる時期ですね。
GPUを借りるか、70万円のRTX 5090を買うか、それともOpenRouter API(使った分だけ払うAIの呼び出し窓口)を使うか。3つを実測の費用で並べてみて、判断を分けるのはGPUの単価ではなく「稼働率」だとはっきりしました。借りている時間のうち、GPUが実際に文章を生成している時間が3割を超えないなら、対話用途ではAPIのほうが安くなります。LLMLLM(大規模言語モデル)大量の文章で学習し、人のように文章を読み書きできる大きな AI のモデル。詳しく →用途だけでRTX 5090を買って1日3時間使う場合、元が取れるまで9.7年かかります。
「自前GPUはトークン単価が安い」という話自体は間違っていません。ただ、その単価はGPUを100%生成に使い続けたときの数字です。レンタルは、回答を読んでいる時間も、考えている時間も、次の質問を打っている時間も課金されます。比べている土台がそもそも違うんですよね。速度の目安は Ollama実測:RTX 3060 31.84、RTX 5090 94.18t/s にまとめてあるので、あわせて読むとつながりが見えやすいと思います。
3択の答えは「使い方の形」で変わる
1問だけ投げる、数分だけ対話する、必要なときだけコードを書かせる。こういう使い方なら、OpenRouter APIが安くなります。Vast.aiはGPUを借りた瞬間から時間課金が始まり、起動とモデルの取得だけで、当たり物件でも約3.4〜5分かかるからです。
反対に、長い文書をまとめて処理する、同じモデルで大量の出力を連続して作る、という使い方ならレンタルが有利です。GPUが生成している割合が高くなり、時間課金の無駄が減ります。
毎日長時間使い、データを外に出せず、起動待ちも嫌だという人なら、購入が候補に入ります。ただし費用だけで見ると、新品RTX 5090が勝つ場面は今回の比較にはありませんでした。
| 使い方 | 判定 | 理由 |
|---|---|---|
| 1問だけ聞く | OpenRouter API | 起動時間と空振りがない |
| 対話しながら使う | OpenRouter API | 待機中のレンタル料金が発生する |
| 一括処理・大量生成 | Vast.ai | GPU稼働率が分岐点を超えやすい |
| 大量の同時並行処理 | APIが有利 | 今回のollamaOllama(ローカルLLMランタイム)手元の PC でオープンウェイトの LLM を手軽に動かすための、無料のソフト。詳しく →実測では合計速度が頭打ち |
| 毎日大量に長期間使う | 中古RTX 3090 | 3年総額では選択肢になりやすい |
使い切れるなら、レンタルはAPIより安い
2026年8月18日に、Vast.ai上のRTX 3090とRTX 5090でqwen3.8:27bを動かし、生成速度と時間単価から100万トークン(トークンは文章を数える単位)あたりの費用を計算しました。
RTX 3090は台によって29.30〜61.84 token/s、時間単価は$0.1414〜$0.1885でした。100万トークンあたりにすると、最遅の台が$1.34、最速の台が$0.85です。RTX 5090は134.33 token/s、$0.5104/hで、100万トークンあたり$1.06でした。
OpenRouter側は、同じ8月18日に確認したQwen3.8-27Bの出力トークンの加重平均実効価格が$3.10/Mでした(入力は$0.3615/M)。スループットスループット / TFLOPS決まった時間にこなせる処理の量と、その計算力を表す単位 TFLOPS のこと。詳しく →は提供元によって9〜97 token/sです。フル稼働させた自前GPUは、APIの2.3〜3.6倍安い計算になります。
ここで「じゃあ借り続ければ得だ」と考えると、実際の請求では外れます。$0.85〜1.34/Mは、借りている時間のすべてでGPUが生成し続ける前提の数字だからです。
時給が一番安い物件は、トークン単価では負けた
今回いちばん実用的だった落とし穴がこれです。時給$0.1414の最遅のRTX 3090は$1.34/M。時給$0.1885の最速の台は$0.85/Mでした。
速いGPUやホストに多く払っても、生成にかかる時間が短くなれば総額は下がります。「一番安い物件を選ぶ」が、結果としていちばん損な選び方でした。Vast.aiでは時間単価だけでなく、実測の速度と回線の条件も合わせて見る必要があります。
分かれ目はRTX 3090で稼働率27.3%、RTX 5090で34.1%
為替を1ドル159.4円、OpenRouterの実効価格を$3.10/Mとして計算すると、レンタルとAPIの損益分岐点はRTX 3090で稼働率27.3%、RTX 5090で34.1%でした。
ここでの稼働率は、借りている時間のうちGPUが実際にトークンを生成している割合です。60分借りて、生成している時間が15分なら稼働率は25%。この場合、3090でもAPIより安くはなりません。
対話用途でGPUが働いている時間は1〜2割でした。回答を待つ時間より、回答を読んで次の指示を考える時間のほうが長いからです。対話中心なら、フル稼働のときのトークン単価ではなく、待っている時間も含めたレンタル費用で判断してください。
自分の稼働率は、借りている時間と、GPUが実際に生成していた時間を分けて数えれば分かります。ollamaなら生成のたびに所要秒数が出るので、その合計を、GPUを立ち上げていた時間で割ってください。

同じ作業でも、レンタルは待っている時間まで課金される。対話ではこの差が効く
| GPU | 時給換算 | 満載時の生産量 | APIとの損益分岐稼働率 |
|---|---|---|---|
| RTX 3090(最速の実測台) | 約30.0円/h | 222,624 tok/h | 27.3% |
| RTX 5090 | 約81.4円/h | 483,588 tok/h | 34.1% |
「同時にぶん回せば得」は、ollamaの実測では成り立たなかった
同時にたくさん処理させれば、借りたGPUを使い切れるはず。そう考えたくなるので、RTX 3090、ollama、OLLAMA_NUM_PARALLEL=8の条件で同時実行を測りました。
合計の速度は、同時1本で33.63 token/s、2本で35.34 token/s、4本で39.26 token/s、8本で37.25 token/sでした。4本あたりで頭打ちになり、8本ではむしろ下がっています。1本あたりの速度は33.63から4.66 token/sへ、7.2倍落ちました。
つまり今回の構成では、同時実行数を増やしても総量はほとんど増えず、一つひとつのリクエストが遅くなっただけでした。自分で待ち行列を長くしたような形です。
これは「ローカルGPUは同時処理に向かない」という意味ではありません。今回の詰まりどころはGPUそのものではなく、ollamaです。商用APIが使うvLLMやSGLangは、複数のリクエストを束ねて処理するための仕組みで、今回のollama実測とは物差しが違います。vLLMでの実測はまだで、RTX 5090の同時実行も未測定です。
なお、単発計測のサーバー申告の速度と、同時実行計測の実時間・往復・待ち行列込みの速度は、同じ指標ではありません。別条件の数字を単純に引き算しないようにしてください。
レンタルには、単価表に出ない5分と空振りがある
2026年8月18日にVast.aiで9回借りたところ、成功は6回、失敗は3回でした。起動しなかった物件では、3〜15分を使ってから撤退しています。成功した物件でも、GPUの割り当てから起動まで57〜162秒、19GBのモデル取得と計測の完了まで201〜301秒かかりました。
信頼性99%以上という表示も、壊れていないかを示す数字であって、起動が速いか、モデルをすぐ取得できるかまでは保証しません。失敗は同じ事業者の連番物件に集中していました。
在庫は分単位で変わるので、特定の物件IDや「この物件が安い」という紹介はしません。今回の計測では、inet_down>3000のように回線の条件を上げると、不良な個体を避けやすくなりました。価格だけでなく、速度と起動条件を幅で見るのが現実的です。
Vast.aiを使う場合は、物件を選ぶ前に「自分は毎回3〜5分待てるのか」「失敗したら3〜15分を捨てられるのか」を決めておくと、単価表に引きずられにくくなります。
この記事の実測はすべて Vast.ai 上で行いました。
上記は紹介リンク(アフィリエイト)です。実際に自分で借りて計測した結果に基づいて紹介しています。
モデルの保管領域は、節約ではなく時間を買う手段
毎回モデルをダウンロードしなくて済むよう、先に保管領域を用意しておく方法もあります。RunPodのネットワークボリュームは$0.07/GB/月で、30GBなら月$2.10です。
一方、モデル取得の時間を短縮できる分のレンタル代は1回あたり$0.019でした。月30回使っても$0.56なので、保管領域の料金をお金だけで回収するには月110回が必要です。節約策というより、待ち時間をお金で買う仕組みだと考えたほうが合っています。
しかも特定のデータセンターに縛られるため、空いている物件や速い物件を選びにくくなります。Vast.aiには同等の保管方法がなく、停止すると物理マシンに紐づき、別の利用者に取られたら戻れません。短時間の利用なら、その日に立ち上げたまま使い、夕方にdestroy(削除)するほうが扱いやすい場面もあります。
保管領域つきで試すなら RunPod が該当します。今回の料金もここで確認しました。ただ、次に書く落とし穴を読んでから決めてください。
上記は紹介リンク(アフィリエイト)です。実際に自分で借りて計測した結果に基づいて紹介しています。
止めても課金は止まらない。私は約2か月払い続けた
私自身、RunPodの50GBネットワークボリュームを約2か月消し忘れました。2026年6月17日から8月18日まで、Pod 0台、エンドポイント0個の状態で$0.117/日が課金され続けていました。請求書のCloud GPU欄は$0のままだったので、GPUの利用履歴だけを追っても原因が見えません。
手がかりは、日額がまったく同じ数字で並んでいたことでした。クラウドGPUはstopで止めたつもりでも、保管領域が残っていれば課金されます。借りた直後と返すときに残骸がないか確認し、要らないならstopではなくdestroyまで行ってください。
RTX 5090を買っても、1日3時間なら元は取れない
2026年8月18日時点の実勢価格で、RTX 5090は70万円でした。借りた場合の時給は約81.4円、推定500Wで自分で動かした場合の電気代は約15.5円/hです。差額は1時間あたり約65.9円なので、本体の70万円を回収するにはそれなりの利用時間が要ります。
1日1時間なら29年、1日3時間なら9.7年、1日8時間なら3.6年、24時間動かし続けても1.2年です。これは電気代だけを差し引いた計算で、周辺機器、冷却、故障、買い替えは含めていません。
LLM用途だけで1日3時間使う人に、「元が取れる」とは言えません。個人が稼働率12%程度の設備を買う一方で、クラウドGPUの事業者は同じGPUを24時間、複数の利用者で回しています。この差が、そのままレンタルの価格に表れています。
中古RTX 3090も、以前ほど安くない
中古のRTX 3090も、以前ほど安くありません。2026年8月の確認では、ヤフオクの落札が15万円前後、店頭では20万円台でした。メモリ価格の上昇とRTX 50系の品薄を背景に、半年で2倍を超えて上がっています。
待てば下がるかどうかは分かりません。「ローカルLLMなら中古3090」という過去の記事を基準にすると、購入価格の差で計算を間違えます。15万円前後で買えるという以前の感覚はいったん脇に置いて、買う前に現在の価格を確かめ、APIやレンタルとの差額を計算し直してください。
3年総額は、出力トークン量をそろえて比べる
速さの違うGPUを「1日何時間使うか」だけで比べると、速いGPUほど同じ時間にたくさん生成するので公平になりません。そこで出力トークン量をそろえて、3年間の総額を比べました。APIは月1,000万トークンと月1億トークン、レンタルは対話利用と一括処理を分けています。
| 選択肢 | 軽い利用(月1,000万tok) | 重い利用(月1億tok) |
|---|---|---|
| OpenRouter API | 約18万円 | 約178万円 |
| Vast.aiでRTX 3090を借りる | 約24万円(対話・実働20%)/約5万円(一括) | 約49万円 |
| 中古RTX 3090を購入(17万円) | 約19万円 | 約40万円 |
| RTX 5090を購入(70万円) | 約73万円 | 約82万円 |
軽い利用では、APIと中古3090が近い金額になり、対話ならAPIのほうが扱いやすい結果です。大量の一括処理ならレンタルが安くなります。重い利用では中古3090がレンタルより安くなりますが、これは購入価格17万円が前提です。実際の落札は15万円前後、店頭は20万円台なので、店頭価格で買うなら差は縮まります。
RTX 5090は、軽い利用でも重い利用でも、お金の面では勝ちません。速さやVRAMVRAMグラフィックボードに載っている、GPU 専用の高速なメモリ。詳しく →(GPUに載っているメモリ)を買う製品であって、LLMのトークン代を回収するための製品ではない、という位置づけです。
円安はAPIとレンタルに不利に働きます。1ドル159.4円では、ドル建ての料金を円にしたときの額が上がります。一方、GPUは円で買い、電気代も円で払います。ただ今回はGPUそのものの相場が高騰しているので、円安だけを見て購入が有利とは言えません。為替とGPU価格は両方確認しておく必要があります。
元が取れなくても、GPUを買う理由は4つある
費用対効果だけなら、LLM用途だけでRTX 5090を買う理由は弱いです。それでも買う理由はあります。ただしそれは、「何年でAPI代を回収できるか」とは別の話です。
ひとつ目は、ゲームや映像処理など別の用途がある場合です。もともと買う予定だったGPUなら、LLMに使う時間は追加の投資ではありません。LLMだけで70万円を回収する計算と、複数の用途で設備を共有する計算は分けて考えるべきです。
二つ目は、待ち時間をなくせることです。レンタルでは起動からモデル取得まで3.4〜5分かかり、約3割は起動せずに3〜15分を失いました。1日に短い作業を何度も繰り返す人には、この待ち時間がAPI料金とは別の負担になります。
三つ目は、データを外に出さないことです。ソースコード、顧客情報、社内文書などをAPIやレンタル環境へ送れない決まりがあるなら、費用差だけでは選べません。今回の金額表には入らない購入理由です。
四つ目はVRAMです。姉妹記事の実測では、速度の差よりも「モデルが載るかどうか」の断崖のほうが効いていました。12GBと24GBでは、同じ27B級のモデルを扱えるかどうかがまず問題になります。VRAMは後からソフトの更新で増やせないので、買うときは今のtoken/sより、何年そのサイズのモデルを載せられるかを見る必要があります。
とはいえ、VRAMの将来価値は予測できません。MoEのようなメモリを節約する設計が進めば32GBの寿命が延びるかもしれませんし、モデルの大型化が続けば早く古くなるかもしれません。ここは断定せず、買うときの不確かさとして残しておきます。
私見:70万円の5090は「回収する機材」ではなく「制約を買う機材」
迷うとしたら、「毎日の待ち時間をなくすために70万円を払うか」「多少待ってもAPIやレンタルで使った分だけ払うか」の一点だと思います。LLMの使い方が対話中心ならAPI、まとまった生成を定期的に流すならVast.ai、毎日大量に使い続けるなら中古3090が現実的です。
RTX 5090を選ぶ理由は、費用の回収ではありません。大きなモデルを載せたい、他の用途でも使う、データを外へ出せない、起動待ちをなくしたい。その制約に70万円を払う選択です。
単価表で最安のGPUを探す前に、まず自分の使い方を「借りている時間」と「生成している時間」に分けてみてください。その割合が27〜34%を超えないなら、レンタルのフル稼働時の単価は、あなたの請求額にはなりません。
数字の前提と、当てはまる範囲
今回の同時実行の結果は、RTX 3090とollamaの組み合わせに限ったものです。vLLMやSGLang、RTX 5090へそのまま当てはめられる実測ではありません。また、単発の速度と同時実行の速度は計測条件が違うので、同じ指標として比べていません。
価格は2026年8月18日時点です。Vast.aiの在庫、OpenRouterの提供元や価格、為替、中古GPU相場は変わります。特に中古RTX 3090は半年で2倍を超えているので、買う前に現在の価格を確認してください。相場は記事の公開直前にも確かめ直す価値があります。
Vast.aiでは2026年8月18日に実際のオファーを確認し、RTX 3090とRTX 5090でqwen3.8:27bをollamaから動かしました。単発の生成速度、時間単価、モデル取得を含む起動時間、同時1・2・4・8本の実行結果は分けて扱っています。OpenRouterは同じ日にQwen3.8-27Bの価格とスループットを確認しました。GPUの購入費は同日時点のRTX 5090の実勢価格と、中古RTX 3090の落札・店頭相場を使い、電気代は31円/kWhで計算しています。
出典
- 自前実測:
scripts/runpod/benchmark-ledger.json、docs/audit/concurrency-RTX_3090-qwen3.8_27b.json - Vast.ai実オファー:
vastai search offers、2026年8月18日確認 - OpenRouterのQwen3.8-27B価格・スループット: 2026年8月18日確認
- 中古GPU相場: ヤフオク落札実績、price-rank.com、2026年8月確認
- 為替: 1ドル=159.4円、2026年8月18日実勢
- 姉妹記事: Qwen3.8-27BのGPU・VRAM実測
- GPUレンタルの選び方: ローカルLLM向けGPUレンタルとVRAMの比較
- プラットフォーム比較: RunPodとVast.aiの比較
参考リンク
この記事を書いた人
HW系エンジニアとして20年以上、10,000件を超える顧客訪問と2,000件を超える単独ソリューション実績。AIツールを使った個人開発やIoT農園など、Raspberry Piを使ったオートメーション化なども実践中です!エンジニア専門結婚相談所も運営中、ClaudeCodeで解決できない心の課題も解決いたします!
関連記事
Ollamaでローカルにチャットを住まわせた記録 — インストールからモデル選びまで
Ollamaを使ってローカルLLMを動かした実録。インストール手順・VRAM別モデル選び・実際に使って感じた正直な評価まで。RTX 4070 Ti(12GB)環境での体験ベース。
Ollama導入の罠と解決手順——GPU認識・日本語チャットまでの全記録と結論
RTX 4070 Ti搭載の自宅サーバーにOllamaをSSHでセットアップした実録。非対話環境でのインストール罠、バイナリ直接DL、systemdサービス化、qwen2.5:7bでの日本語チャットまで。
DGX Sparkは買うべきか——128GB統合メモリの強みとRTX 5090自作PCで十分な人
NVIDIA DGX SparkをローカルAI用PCとして評価。公式仕様の128GB統合メモリ、GB10 Grace Blackwell、1 PFLOP FP4、200Bモデル対応を起点に、RTX 5090自作PC・Mac Studio・クラウドGPUと比べて買うべき人を整理します。
Gemma 4 MTP drafter を今すぐ入れるべきか? RTX 4070 Ti 12GB でつまずいた3つのポイントと結論
RTX 4070 Ti 12GBでGemma 4 MTP drafterを実測。ドラフター0.14GB、ただし最速はvLLMの162.7 tok/s。導入判断を正直にまとめます。
関連AIツール
META-MARK × AI
ローカルAIを動かすGPU、ちゃんと選べていますか?
VRAM・性能・コスパをMetaScoreで数値化。AIアプリ別の推奨ハードウェア要件も確認できます。
PR広告:GPU・キャリアまわりのサービス