Qwen3.8-27B、16GBカードは買いか——実用下限は24GB

関連記事としては Bloggemma4:12bはollamaで動かない — 12GB GPUでllama.cpp実測52t/sの最短ルートollamaのHTTP 500やSIGFPEで詰まるgemma4:12bを、llama.cpp経由で12GB GPUに載せる実測手順と判断材料をまとめました。→ もあわせて読むと、今回の論点とのつながりを把握しやすくなります。

16GBでは、Qwen3.8-27Bの実用的な標準量子化は載りません。短い会話だけなら軽い量子化で動く可能性はありますが、視覚入力やKVキャッシュまで含めて使うなら、実用下限は24GBです。

実測では、24GBのRTX 3090にモデルがGPUへ100%載り、借りたホストによって29〜50 t/sでした。12GBのRTX 3060は6.84 t/sまで落ち、モデルの48%がCPU側へこぼれています。32GBのRTX 5090も100%載りましたが、速度は後述の理由で取り下げています。

迷うとしたら、「安い16GBカードで済ませるか、24GBまで一気に行くか」の一点だと思います。Qwen3.8-27Bを目的にするなら、16GBは節約というより、妥協を買う選択になりやすいです。

Qwen3.8-27Bは27Bのdenseモデルで、テキストだけでなく画像も扱います。Hugging Faceに置かれたGGUFの実ファイルを見ると、実用上の標準として扱いやすいQ4_K_Mは17.1GBです。これは推定式から出した数字ではなく、2026年8月18日に取得した実ファイルのサイズです。

16GBカードの実容量は16 GiBなので、Q4_K_Mは重みだけでも収まりません。IQ4_XSまで落とすと15.7GBとなり、重みだけなら入ります。しかし残るのは約0.3GBです。KVキャッシュの置き場がほぼなく、画像入力に使う視覚エンコーダも収まりません。

ここは「16GBでは動かない」と単純化しないほうが正確です。IQ4_XSで短いテキスト会話だけを試すことはできます。ただし、Qwen3.8-27Bを標準的な量子化で使うという意味では、16GBは容量不足です。

Ollamaのqwen3.8:27bは、本体blobがQ4_K_Mで18GB、視覚プロジェクタがBF16で931MBです。合計すると、実際に置かれるデータは約19GBになります。Unslothの17.1GBとOllamaの18GBに差があるのは、表記の丸めや、付随ファイルを含むかどうかの違いです。

この931MBは、重みだけを並べたVRAM表では見落とされます。画像を使わない場合でも、実測ではモデル全体のGPU使用量が16.2 GiBに達しました。16GBカードの実容量をわずかに超えており、文脈を1トークンも置かない状態でも余裕はありません。

Qwen3.8-27Bは文脈長262,144トークンに対応し、YaRNで1Mまで拡張できます。ただし、文脈を増やすほどKVキャッシュも増えます。今回の16.2 GiBという値を、「長文も余裕で使える容量」と解釈しないよう注意が必要です。

RTX 3060 12GBでは、モデルのGPU搭載率が52%でした。モデル使用量は8.8 / 16.9 GiBで、残り48%がCPU側に置かれています。その結果、warm時の速度は6.84 t/sです。

24GBのRTX 3090で最も遅かった実測値29.30 t/sと比べると、約4.3分の1です。6.84 t/sは、人が文章を音読する程度の速度に近く、Qwen3.8-27Bが思考してから回答する設定では、思考1,000トークンだけで最初の一文字まで約2分半かかります。「起動した」という事実と、「待たずに使える」という実用性の間には、かなり距離があります。

12GBのカードを持っている人が最初に確認すべきなのは、ロードできるかどうかではなく、CPUオフロードを許容できるかです。コードの補完や短い質問を断続的に投げる用途なら試せますが、回答生成を待つ時間まで含めると、ローカルで動かす意味が薄くなる場面があります。

24GBのRTX 3090は、4台すべてでGPU搭載率100%、使用VRAMは16.2 GiBでした。採用した3台の速度は29.30、45.46、49.70 t/sに分かれています。RTX 3090を単一の速度で語るのは危険で、29〜50 t/sという幅で見るのが実用的です。

32GBのRTX 5090もGPU搭載率100%、使用量16.3 GiBでした。ただし記録された速度は1枚のRTX 5090では物理的に出せない値だったため、後述の理由で取り下げます。100%載ること自体は確認できています。

GPUに100%載った後は、VRAM容量だけで速度が決まるわけではありません。実際、同じRTX 3090でもホストによって1.7倍の差が出ました。

断崖は16GBと24GBの間にある。容量が足りない側は、足りない分だけCPUへこぼれる

4台のRTX 3090は、いずれもGPU搭載率100%、VRAM使用量16.2 GiBでした。それでも、ブルガリアのホストは29.30 t/s、チェコの2台は45.46 t/sと49.70 t/sです。オランダのホストはこれらを上回りましたが、その値は採用していません（理由は次節）。

GPUにモデルが収まっていても、GPUはCPUやメインメモリとデータをやり取りし続けます。CPUの世代が効いている可能性はありますが、採用できた3台のうち2台はCPUが不明で、相関を主張できるだけの台数がありません。ここは「周辺環境で差が出る」までに留めます。

なお、RTX 3090ではcold時18.52 t/sからwarm時29.30 t/sまで差が出ました。coldを1本だけ測ると、同じカードを18 t/s級として報告してしまいます。今回の速度はcold 1本を破棄し、warm 2本が±10%以内で一致した値です。

公開後の検算で、2つの値が1枚のカードでは物理的に出せないと分かりました。

生成速度はメモリ帯域で頭打ちになります。モデルのファイルサイズは16.81GBなので、1トークン 生成するたびにこれだけ読み出す必要があります。RTX 3090のメモリ帯域は936GB/sですから、 理屈の上でも936÷16.81＝毎秒55.7トークンが限界です。RTX 5090（1792GB/s）なら106.6です。

記録されていたのはオランダのRTX 3090が61.84 t/s、RTX 5090が134.33 t/sで、どちらも この限界を超えています。実際には限界の8〜9割しか出ませんから、超えること自体があり得ません。

原因は特定できていません。当時、借りたマシンにGPUが何枚見えていたかを記録していなかった ためです。複数枚あればモデルを分割して帯域を合算できるので、2枚と仮定すると両方とも 普通の値に収まります。ただし記録が無い以上、推測の域を出ません。

そこでこの2つは採用せず、限界内に収まっていた3台だけで速度を示しています。以後の計測では GPUの枚数を記録し、理論限界を超えた値はその場で止める仕組みを入れます。

2026年8月18日時点の実効単価で見ると、RTX 3060 12GBは100万トークンあたり$2.84でした。OpenRouterのQwen3.8-27Bは$3.10なので、ローカル化による費用差はわずかです。それでいて6.84 t/sは、APIの最遅提供元io.netの9 t/sを下回りました。

VRAM不足のカードで粘ると、「遅い」と「安くならない」が同時に起きます。12GBをすでに所有しているから無料、とは限りません。待ち時間を作業時間として数えると、判断は変わります。

GPUを買うか借りるか、何年で元が取れるかは、利用量と購入価格で変わります。この点はBlog中古RTX 3090、今買うか——半年で2倍超の相場変動Vast.ai、GPU購入、OpenRouter APIを実測費用で比較。判定を分けるのは単価ではなくGPU稼働率です。→に分けます。

Qwen3.8-27B専用で考えるなら、24GBが最低ラインです。RTX 3090では環境差が大きいものの、100% GPUに載せられます。16GB帯にはRTX 5070 Ti、RTX 4080 Super、RX 9070 XTのような現行の十万円級カードもありますが、Q4_K_Mを載せる用途では容量が先に壁になります。

32GBなら、16.2〜16.3 GiBの実測使用量に対して余裕が残ります。今回確認した32GB帯で一般に買える選択肢は実質RTX 5090で、業務用カードまで含めればほかにもあります。速度を優先するなら32GB、価格と搭載容量の折り合いを取るなら24GBという整理です。

手持ちカード別に判断すると、12GBはCPUオフロードを前提にした検証用、16GBはIQ4_XS以下で短いテキスト会話を試す用途、24GBはQ4_K_Mを実用範囲で使う用途、32GBは速度と将来の余白を買う用途です。27Bクラスを目的に16GBカードへ買い替えるのは、避けたほうがよいと思います。

買う前に、同じカードを1時間だけ借りて確かめる

この記事の数値は、すべて Vast.ai でRTX 3060・RTX 3090・RTX 5090を実際に借りて測ったものです。RTX 3090なら時給$0.14〜0.19、RTX 5090でも$0.51程度でした。数十万円のカードを買う前に、自分の使うモデルとプロンプトで速度を確かめられます。

ただし借りるには、起動待ちと空振りという別のコストがあります。借りる場合の実務はBlog中古RTX 3090、今買うか——半年で2倍超の相場変動Vast.ai、GPU購入、OpenRouter APIを実測費用で比較。判定を分けるのは単価ではなくGPU稼働率です。→にまとめました。

上記は紹介リンク（アフィリエイト）です。実際に自分で借りて計測した結果に基づいて紹介しています。

VRAMが動作可否を分け、帯域やホスト環境が速度を左右するという一般論だけでなく、今回見るべき断崖は16GBと24GBの間です。より広いGPU選びの整理は、Bloggemma4 12BはどのGPUで動く？実測3点＋主要18枚の速度早見表【VRAM 8GBは崖の縁】gemma4 12Bを手持ちGPUで動かす判断材料を、VRAM別・実測3点・主要18枚の速度早見表で整理。8GBの限界も明確にします。→に譲ります。

今回の速度はOllamaでqwen3.8:27bを使い、Qwen系の思考を無効化したthink:falseで測った単発生成の値です。別ランタイム、思考有効、長い文脈、画像入力、同時実行では変わります。

12GBの6.84 t/sと、過去に別モデル・別カードで確認した速度低下倍率は同じ扱いにできません。モデルとカードの組み合わせで崩れ方は変わるため、今回の倍率を他の27Bモデルへ一般化しないでください。

2026年8月18日に、Hugging FaceのQwen3.8-27B GGUF実ファイル、Ollamaの既定タグ、Vast.ai上のRTX 3060・RTX 3090・RTX 5090を確認しました。計測はcold 1本を破棄し、warm 2本の結果が±10%以内で一致することを条件にしています。VRAM使用量はOllamaの/api/psで確認しました。

出典

• Qwen/Qwen3.8-27B
• unsloth/Qwen3.8-27B-GGUF：2026年8月18日取得
• Ollama qwen3.8:27b
• 自前実測：scripts/runpod/benchmark-ledger.json、Vast.ai・Ollama、2026年8月18日
• OpenRouter価格ページ：2026年8月18日確認

16GBのカードを持っていますが、まったく動かせませんか？

動かせる場合はあります。IQ4_XS（15.7GB）まで量子化を落とせば、重みだけなら16GBに収まります。ただし残りは約0.3GBで、KVキャッシュも視覚エンコーダ931MBも置けません。短いテキスト会話を試す用途に限られ、長い文脈や画像入力は実質使えないと考えてください。

自分の環境でも同じ速度が出ますか？

同じGPUでも差が出ます。今回は同じRTX 3090で29.30〜49.70 t/sと1.7倍の開きがありました。4台ともGPU搭載率100%・VRAM使用量16.2 GiBで同一なので、差はGPU側ではなくCPU・帯域といった周辺環境によるものです。表の数値は幅として読んでください。

12GBで動かすのと、APIを使うのはどちらが得ですか？

今回の条件では、費用差はほとんどありません。RTX 3060で100万トークンあたり$2.84、OpenRouterが$3.10です。しかも6.84 t/sは、APIで最も遅い提供元の9 t/sを下回りました。VRAMが足りないカードで粘ると、速度と費用の両方で不利になります。

• META-MARK

• Bloggemma4:12bはollamaで動かない — 12GB GPUでllama.cpp実測52t/sの最短ルートollamaのHTTP 500やSIGFPEで詰まるgemma4:12bを、llama.cpp経由で12GB GPUに載せる実測手順と判断材料をまとめました。→
• BlogOllama実測：RTX 3060 31.84、RTX 5090 94.18t/sOllamaを同一条件で実測。RTX 3060から5090までのtokens/s、VRAM不足による速度低下、予算別の選び方を整理します。→
• BlogOllamaでローカルにチャットを住まわせた記録 — インストールからモデル選びまでOllamaを使ってローカルLLMを動かした実録。インストール手順・VRAM別モデル選び・実際に使って感じた正直な評価まで。RTX 4070 Ti（12GB）環境での体験ベース。→

• 実際の構成を探すなら、GPU 比較ページやローカルLLM向け構成記事もあわせて見ると判断しやすいです。
• ハードウェア候補は用途別の AI 構成ガイドからたどると、単体製品より違和感なく検討できます。

HW系エンジニアとして20年以上、10,000件を超える顧客訪問と2,000件を超える単独ソリューション実績。AIツールを使った個人開発やIoT農園など、Raspberry Piを使ったオートメーション化なども実践中です！エンジニア専門結婚相談所も運営中、ClaudeCodeで解決できない心の課題も解決いたします！