gfx1103/Radeon 780Mで動くOllamaモデルを実測ベースで整理。5B上限の理由、Q4_K_M/Q8_0のVRAM目安、動く/重い/NGを自分で判定できます。
関連記事としては
BlogiGPU で LLM 推論:Radeon 780M + Ollama ROCm の速度実測と落とし穴3つRadeon 780MでOllama ROCmを動かす手順を、renderグループ・gfx1103偽装・OOMの3つの落とし穴ごとに整理。Ubuntu 24.04向けの実用ガイドです。→ もあわせて読むと、今回の論点とのつながりを把握しやすくなります。
TL;DR: 780M(gfx1103)の実用ラインは5B以下・Q4_K_Mです。VRAMに載ることと快適に回ることは別物です。
gfx1103(Radeon 780M)でOllamaを使うとき、まず悩むのは「これ、動くのか」ではなく「動いても実用速度なのか」です。
780Mは共有VRAM最大15.8GBという見た目の余裕がある一方、5Bを超えると速度優位が急に薄くなります。 VRAMに収まることと、快適に回ることは別物です。ここを混同すると、重いモデルを掴んで終わります。
先に結論だけ置くと、実用の鉄板は5B以下、特にQ4_K_Mです。 5B超は「入るかどうか」より「iGPUで回す意味があるか」を疑ったほうがいいです。
Ollama公式ドキュメント(docs.ollama.com)では、gfx1103がLLVM Target一覧に正式掲載されています。2025年以降の更新で、Radeon 780M系を前提にした扱いが見えるようになりました。
動作の要点はシンプルです。 HSA_OVERRIDE_GFX_VERSION を設定すると安定しやすい、というのが実務上の落としどころです。コミュニティ報告では 11.0.0〜11.0.3 で揺れがあります。
# Ubuntu / Arch Linux での確実な起動方法(バージョンはコミュニティ報告で 11.0.0〜11.0.3 の揺れあり)
HSA_OVERRIDE_GFX_VERSION="11.0.2" OLLAMA_LLM_LIBRARY="rocm_v60000" ollama serve
加えて、AMD向けの ollama-for-amd フォーク(likelovewant/ollama-for-amd) はgfx1103をネイティブサポートします。Arch Linuxであれば ollama-rocm (0.13.0-2以降) も hipblas 7.1.0 でgfx1103に対応しています。まずは公式系で動かせるか、という順番で考えるのが安全です。
780Mで動かせるモデルをサイズ・量子化・VRAM目安・動作区分・速度目安で整理しました。速度目安は推定(※印)または既存記事からの実測値です。
| モデル名 | サイズ | 量子化 | VRAM目安 | 780M動作 | 速度目安 |
|---|---|---|---|---|---|
| qwen3:0.6b | 0.6B | Q4_K_M | ~0.8GB | ✅ 快適 | 未確認 |
| smollm2:1.7b | 1.7B | Q4_K_M | ~1.5GB | ✅ 快適 | 未確認 |
| deepseek-r1:1.5b | 1.5B | Q4_K_M | ~1.3GB | ✅ 快適 | 未確認 |
| qwen3:1.7b | 1.7B | Q4_K_M | ~1.5GB | ✅ 快適 | 実測 27.3 tok/s |
| llama3.2:1b | 1B | Q4_K_M | ~1GB | ✅ 快適 | 未確認 |
| gemma3:1b | 1B | Q4_K_M | ~1GB | ✅ 快適 | 未確認 |
| qwen2.5:3b | 3B | Q4_K_M | ~2.5GB | ✅ 動く | 未確認 |
| llama3.2:3b | 3B | Q4_K_M | ~3.6GB | ✅ 動く | 未確認 |
| phi4-mini:3.8b | 3.8B | Q4_K_M | ~2.3GB | ✅ 動く | 未確認 |
| gemma3:4b | 4B | Q4_K_M | ~2.5GB | ✅ 動く | 未確認 |
| qwen3:4b | 4B | Q4_K_M | ~3GB | ✅ 動く | 未確認 |
| gemma4:e2b | 5.1B | Q4_K_M | ~3.1GB | ⚠️ 重い | 実測 19.5 tok/s |
| qwen2.5:7b | 7B | Q4_K_M | ~4.5GB | ⚠️ 重い | 未確認 |
| mistral:7b | 7B | Q4_K_M | ~4.5GB | ⚠️ 重い | 未確認 |
| deepseek-r1:7b | 7B | Q4_K_M | ~4.5GB | ⚠️ 重い | 未確認 |
| qwen3:8b | 8B | Q4_K_M | ~5GB | ⚠️ 重い | 未確認 |
| llama3.1:8b | 8B | Q4_K_M | ~6.2GB | ⚠️ 重い | 未確認 |
| gemma4:e4b | 8B | Q4_K_M | ~5GB | ⚠️ 重い | 実測 9.9 tok/s(≈ CPU速度) |
| gemma3:12b | 12B | Q4_K_M | ~6.7GB | ⚠️ 重い | 未確認 |
| qwen3:14b | 14B | Q4_K_M | ~10.7GB | ❌ NG寄り | 未確認(VRAMは入るが速度が実用以下の可能性) |
| gemma3:27b | 27B | Q4_K_M | ~15.1GB | ❌ NG | 未確認(VRAM上限ギリギリ) |
| 7B以上 | 7B+ | Q8_0 | 8GB+ | ❌ NG | 未確認(VRAM不足の可能性) |
| 13B以上 | 13B+ | FP16 | 26GB+ | ❌ NG | 未確認(VRAMオーバー) |
区分の基準:
実測値の注記: 既存記事(
BlogiGPU で LLM 推論:Radeon 780M + Ollama ROCm の速度実測と落とし穴3つRadeon 780MでOllama ROCmを動かす手順を、renderグループ・gfx1103偽装・OOMの3つの落とし穴ごとに整理。Ubuntu 24.04向けの実用ガイドです。→)からの引用です。環境・コンテキスト長・バックグラウンドプロセスで変動します。
780MでのOllama実測データを軸に見ると、線引きがかなりはっきりします。
この差は、単純に「大きいモデルほど遅い」だけではありません。 5Bを超えたあたりで、iGPUを使う意味が薄くなるのが本質です。
1.7Bの27.3 tok/sは、プロンプトの返答待ちが短く、会話のリズムが崩れにくいです。 一方で8Bの9.9 tok/sになると、出力を見守る時間が伸びて、体感はかなり別物になります。
「載る」より「気持ちよく返る」ほうが大事です。ここが780Mでのモデル選びのコアです。
ここは感覚論ではなく、計算で見たほうが早いです。
理由は大きく2つあります。
さらに780Mでは、VRAM容量だけでなくメモリ帯域と演算の釣り合いが効きます。モデルが大きくなるほど、iGPUの強みである並列性が速度に直結しにくくなります。
つまり、VRAMには収まっても、演算帯域でCPUと同等の速度帯に落ちる可能性があります。gemma4:e4bで実際に9.9 tok/s(≈ CPU速度)が観測されたのがその一例です。他の8Bモデルでも同様の傾向が出る可能性は高いですが、実測していないため「未確認」としています。
公式ドキュメントには「現場で使うための計算式」はあまり出ません。自分で持っておくと強いです。
重み容量の目安 = パラメータ数(B) × 量子化bits / 8
実際のVRAM ≈ 重み容量 + KVキャッシュ(1〜2GB)
| 量子化 | bits相当 | 特徴 | 780Mでの推奨度 |
|---|---|---|---|
| Q4_K_M | 4bit | 品質/VRAMバランス最良 | ★★★ 推奨 |
| Q5_K_M | 5bit | 高品質・VRAM少し増加 | ★★☆ VRAMに余裕があれば |
| Q8_0 | 8bit | 高品質・VRAM約2倍 | ★☆☆ 5B超は危険 |
| FP16 | 16bit | フル精度 | ★☆☆ ほぼすべてNG |
5Bモデルを Q4_K_M で動かす場合:
5 × 4 / 8 = 2.5GB+1〜2GB+数GB(OS・表示系・Ollama管理分)8Bモデルを Q8_0 で動かす場合:
8 × 8 / 8 = 8GB+1〜2GB5B超をQ8_0で置くと重みが倍寄りになるため、VRAMが足りなくなることが多いです。
# ROCm環境でのVRAM使用量確認
rocm-smi
# Ollamaのモデル情報確認
ollama show qwen3:4b
# 実行中の使用量確認
watch -n 1 rocm-smi
新モデルが出たとき、毎回「動くかな?」で迷う必要はありません。判断の順番を固定すると楽です。
パラメータ数を見る: 5B以下か?
量子化を見る: Q4_K_Mかどうか?
VRAM式で見積もる: パラメータB × 4 / 8 + 2GB(Q4_K_Mの場合)
速度を疑う: VRAMに収まっても速度が実用かは別
実測で確認: ollama run <モデル名>で短いプロンプトを投げてtok/sを確認
# 実測の目安として短いプロンプトを投げる
time ollama run qwen3:4b "1+1は?" 2>&1
# または以下でトークン速度を確認(eval rate の行を見る)
780MでOllamaを回していて次のモデル選びに迷っているなら、判断はかなり単純です。
780Mの強みは、巨大モデルを無理に抱えることではなく、軽量モデルを快適に回すことです。「賢そうな8B」より「速く返る4B」のほうが実務で勝つ場面が多いです。
780M × ROCm の環境構築・ハブ情報はこちらを参照してください。
はい。Ollama公式ドキュメントのLLVM Target一覧にgfx1103が記載されており、2025年以降のバージョンで公式サポート対象です。HSA_OVERRIDE_GFX_VERSION(コミュニティ報告は11.0.0〜11.0.3)の設定を使うと動作がより安定します。
780MではQ4_K_Mを推奨します。Q8_0は品質が上がる代わりにVRAM消費が約2倍になるため、5B超のモデルでは安定動作が難しくなります。たとえば7B Q8_0は約8GBの重みだけで、KVキャッシュを加えると10GB+になります。
標準のOllamaはWindowsでgfx1103未対応の場合があります(CPU fallback)。ollama-for-amd フォーク を使うとWindowsでもgfx1103をネイティブサポートします。
BIOS/UEFI設定で「UMA Frame Buffer Size」または「Shared Memory」を変更すると共有VRAM量を調整できます(通常 2GB/4GB/8GB/16GB の選択肢)。780M(Phoenix APU)では最大15.8GBまで割り当て可能です(2026-05-01 時点)。
HW系エンジニアとして20年以上、10,000件を超える顧客訪問と2,000件を超える単独ソリューション実績。AIツールを使った個人開発やIoT農園など、Raspberry Piを使ったオートメーション化なども実践中です。エンジニア専門結婚相談所も運営中です。ClaudeCodeで解決できない心の課題も、現場目線でほどほどに受け止めます。
META-MARK × AI
ローカルAIを動かすGPU、ちゃんと選べていますか?
VRAM・性能・コスパをMetaScoreで数値化。AIアプリ別の推奨ハードウェア要件も確認できます。