Radeon 780MでOllama ROCmを動かす。速度実測と落とし穴

TL;DR: Radeon 780M（gfx1103）は HSA_OVERRIDE_GFX_VERSION=11.0.0 で Ollama ROCm が動きます。render グループ未反映・gfx1103 偽装・OOM の3点を抑えれば再現できます。5B 超モデルは iGPU と CPU の速度差がほぼなくなるため、常用モデルは 3B〜5B が現実的です。

• まず前提：Radeon 780M で「GPU推論」が向く人、向かない人
  • 向いている人
  • 向いていない人
• 先に実測の感触：5Bを超えると iGPU の旨味は薄くなる
  • iGPU を選ぶ基準
  • iGPU を選ばない方がいい場面
• 落とし穴① render グループが未反映だと、そもそもGPUに触れない
  • 何が起きるか
  • 回避策
  • 判断材料
• 落とし穴② gfx1103 をそのままでは通せない。HSA_OVERRIDE_GFX_VERSION=11.0.0 が要る
  • 回避の要点
  • ここでありがちな失敗
  • 実務上の見方
• 落とし穴③ OOM で固まる。モデルサイズを甘く見ると、普通に苦しい
  • 何が起きるか
  • 回避策
  • 実用判断
• セットアップの考え方：まずは「通す」、次に「測る」
  • 手順の考え方
• 速度感：CPUより速い場面、速くない場面を分けて見る
  • 速さを感じやすい場面
  • 速さを感じにくい場面
• では、誰にとって意味があるのか
• 共有・検証のしかた：同じ環境の人は、まず3点だけ見ればいい
• まとめ：Radeon 780M は「非公式を突破して使う」価値があるが、万能ではない
• よくある質問
  • gfx1103 以外の APU でも同じ手順で動きますか？
  • Ollama のバージョンはどれが必要ですか？
  • render グループに追加したのに効かないのはなぜですか？
• 検証環境メモ
• 関連記事
• 関連リンク

先に線引きしておきます。

向いている人

• Ubuntu 24.04 の AMD APU 環境で、まずは ローカルで LLM を触りたい
• CUDA の NVIDIA GPU はないが、iGPU でどこまでいけるか試したい
• 速度よりも、常時使える軽い推論環境が欲しい
• トラブル時に、ログを見ながら切り分けするのが苦ではない

向いていない人

• 何も考えずにワンクリックで安定運用したい
• 7B以上のモデルを常用して、なおかつ高速さを求める
• CLI 操作や権限まわりの確認を避けたい

特に後者の人は、Radeon 780M を無理に選ぶより、別の GPU 構成を検討した方が早いです。/ranking?category=gpu で候補を見比べた方が判断しやすい場面もあります。

ここは先に書いておきます。iGPU は万能ではありません。

今回の環境では、5B 以上のモデルになると、iGPU と CPU の速度差がかなり縮まります。 厳密にはモデルや量子化、コンテキスト長で上下しますが、少なくとも「大きいモデルほど GPU にすれば明確に速い」とは言い切れません。

ここは実測を見て少し考え直しました。私は最初、iGPU なら多少は CPU より明確に勝つだろうと見ていましたが、Radeon 780M は“軽量モデルを気持ちよく回す”用途で光る、というのが実態に近いです。

iGPU を選ぶ基準

• 3B〜5B級のモデルを常用する
• 電力効率や静音性を優先したい
• CPU 単独より少しでも余裕がほしい
• メイン機をそのまま使って、ローカルAIを試したい

iGPU を選ばない方がいい場面

• 7B以上を常用したい
• 長文を頻繁に入れる
• 速度重視で、待ち時間を極力減らしたい

つまり、Radeon 780M は「巨大モデルを回すためのGPU」ではなく、ローカルLLM入門〜軽量実用のためのiGPUと見た方が正確です。

最初の詰まりどころはここです。かなり地味ですが、かなり多い。

ROCm はユーザー権限まわりの条件が合っていないと、GPU が見えていても使えません。とくに render グループ が効いていないと、Ollama が起動しても GPU 利用に進まないことがあります。

何が起きるか

• Ollama は起動する
• でも GPU 側に乗らない
• ログを見ると、HSA やデバイスまわりで怪しい
• 「動いているようで CPU しか使っていない」状態になる

正直、ここで30分くらい時間を溶かしました。ログを何度見返してもGPUが使われた形跡がなく、「もしかしてgfx1103自体がダメなのか」と疑い始めていたところで、原因はただの権限設定漏れだったとわかった時は、拍子抜けと安堵が半々でした。

この手の症状は、モデルのせいでも、Ollama のせいでもないことが多いです。権限の問題を最初に疑うのが正解です。

回避策

• 実行ユーザーが render グループ に入っているか確認する
• 反映後は 再ログイン する
• groups で所属を見て、見た目だけで終わらせない

ポイントは、設定しただけではダメということです。ログインセッションを張り直さないと反映されないことがあります。ここを飛ばして「まだ動かない」と悩む人が多いです。

判断材料

• GPU へのアクセスが不安定なら、まず権限
• 「ROCm 未対応だから無理かも」と考える前に、まず render グループ

この順番はかなり重要です。

2つ目が本題です。Radeon 780M の gfx1103 は、ROCm の公式サポート外として扱われることがあります。

ここで詰まると、ドライバは入っているのに GPU が使えない、あるいは起動時に弾かれる、という状態になります。

回避の要点

HSA_OVERRIDE_GFX_VERSION=11.0.0 を設定して、gfx1103 を偽装します。

これで「公式に見せかける」わけですが、要するに ROCm 側の判定を通すための実用的な抜け道です。きれいではないですが、現実にはここが突破口になります。

ここでありがちな失敗

• 設定したつもりで、実行環境に反映されていない
• shell だけに入れて、サービス起動側に渡っていない
• 以前の失敗の残骸で、別のエラーに見える

つまり、変数を置けば終わりではないです。Ollama をどう起動しているかで、反映範囲が変わります。

render グループと HSA_OVERRIDE を同時に通すための起動コマンドテンプレートはこれです。

sg render -c 'HSA_OVERRIDE_GFX_VERSION=11.0.0 PATH="$HOME/.local/bin:$PATH" ollama serve > /tmp/ollama-ws.log 2>&1 &'

sg render -c '...' で render グループを明示し、かつ HSA_OVERRIDE_GFX_VERSION=11.0.0 を同じコマンド内に入れる。tmux の再起動なしに両方を通す最短の形です。

実務上の見方

この偽装は「長期の正攻法」ではありません。ですが、試作や検証には十分意味があります。

大事なのは、

• 何が未対応なのか
• どこを偽装しているのか
• 本番運用で許容できるか

を分けて考えることです。

未対応を未対応のまま押し切るより、どこまでが実験で、どこからが運用かを切り分けた方が判断しやすいです。

3つ目は、動いた後に来ます。これが厄介です。

GPU に乗ったから安心、と思ったら OOM（メモリ不足） で止まる。あるいは全体が重くなって、実質フリーズのように見える。iGPU は専用VRAMが潤沢なわけではないので、ここはかなり現実的な制約です。

何が起きるか

• モデルロード時に失敗する
• 応答が極端に遅くなる
• システム全体の反応が鈍る
• 場合によっては再起動が必要になる

実際にこれをやらかした時は、画面がそのまま固まり、何をやっても反応が返ってこなくなりました。「これはOSごと巻き込んだか」と一瞬身構えましたが、結局は電源長押しで再起動すれば直る、ただのOOMでした。なまじGPUに乗っている分、CPU単独運用の時より油断しがちで、ここは素直に「サイズを見誤った自分が悪い」と思うことにしています。

回避策

• まず 小さめのモデル から始める
• コンテキスト長を無闇に伸ばさない
• 常用モデルは 3B〜5B を基準に考える
• スワップを含めた余裕を見ておく

ここで勘違いしやすいのは、「GPU で動く = 大きいモデルも快適」と思い込むことです。Radeon 780M は、メモリ帯域や共有メモリの性質上、大きいモデルほど急に厳しくなることがあります。

実用判断

• 3B級: かなり扱いやすい
• 5B級: 境目。用途次第で十分実用
• 7B以上: 期待値を下げるべき

このラインを先に知っておくと、「なぜ重いのか」で無駄に悩まずに済みます。

この手の検証では、いきなり最適化を狙うと失敗しがちです。順番は逆です。

手順の考え方

1. render グループ を確認する
2. HSA_OVERRIDE_GFX_VERSION=11.0.0 を通す
3. 小さいモデル で起動確認する
4. OOM が起きない範囲を探る
5. そのあとで速度比較をする

最初から「何Bが最速か」を決め打ちすると、権限や判定エラーの切り分けが雑になります。先に通す。これが大事です。

Ollama の ROCm 利用は、すべての場面で CPU を圧倒するわけではありません。

実際に計測した数字を先に出します。

qwen3:1.7b は iGPU で十分速いです。しかし gemma4:e4b（8B）になると iGPU が CPU に負けています。これが「5B の壁」です。

APU は iGPU と CPU が同じメモリ帯域を共有しているため、モデルが大きくなるほど帯域が食われて CPU と変わらなくなります。

7B 超を快適に回したくなったら、APU 単体では構造的に厳しいです。共有メモリの帯域がボトルネックなので、設定では埋まりません。どうしても大きいモデルを試したいときは、クラウドで高VRAMのGPUを時間単位だけ借りる手もあります。BlogRunPodでGPUを時給39円で借りて実測 — 安い16GBが7.5倍割高だった結論RunPodでgemma3:27bを16GBと24GBで実測。借りるのは簡単でも、安いGPUが得とは限らない理由を数字で整理します。→で「VRAM にあふれた瞬間の崖」まで検証しているので、判断材料にどうぞ。実機で触るなら RunPod は時給39円〜から始められます。

📌 上の RunPod へのリンクは**紹介リンク（アフィリエイト）**です。経由して新規登録・入金すると、双方に少額のクレジットが入ります。料金も中身も、自分で実際に借りて確かめたうえで書いています（使っていないサービスは勧めない方針です）。

速さを感じやすい場面

• 小さめのモデルでの対話（3B 以下）
• 短めのプロンプト応答
• 何度もやり取りする軽い補助用途

速さを感じにくい場面

• モデルが大きい（5B 超）
• コンテキストが長い
• 共有メモリを食い切るような使い方

だからこそ、Radeon 780M の価値は「ベンチの数字」だけでは測れません。日常の待ち時間を少し削る、この用途で効いてきます。

このセットアップが意味を持つのは、次の人です。

• Ubuntu 24.04 を使っている
• AMD APU でローカルLLMを試したい
• まずは軽量モデルを回したい
• トラブルシュートを自分でやれる

逆に、次の人には不要です。

• 7B以上を快適に回したい
• 速度最優先で、調査コストを払いたくない
• CLI に触りたくない

この線引きはかなり大切です。動くかどうかと使うべきかどうかは別の話です。

もし同じ環境で試すなら、最初に確認するのはこの3点です。

1. render グループに入っているか
2. HSA_OVERRIDE_GFX_VERSION=11.0.0 が実行経路に乗っているか
3. OOM を起こさないモデルサイズか

この3つを潰すだけで、原因不明の迷子になる確率はかなり下がります。

もし次の比較に進むなら、軽量モデルの選び方として gemma4:e2b と gemma4:e4b の比較も役に立ちます。モデルサイズの差が、Radeon 780M ではどこに効くかが見えやすいからです。

関連:

• AIモデル一覧: /ai
• GPUランキング: /ranking?category=gpu

今回の結論はシンプルです。

• gfx1103 の Radeon 780M は ROCm 公式対応外でも、HSA_OVERRIDE_GFX_VERSION=11.0.0 で動かせる
• ただし、render グループ未反映・gfx1103 偽装・OOM の3つで止まりやすい
• 5B以上では iGPU と CPU の差が小さくなりやすいため、モデルサイズの見極めが重要
• iGPU は「大きいモデルをぶん回す装置」ではなく、軽量ローカル推論の実用品として見るのが正しい

無理に持ち上げる話ではありません。ですが、条件が合う人にとっては、Radeon 780M はちゃんと使い道があります。

次にやるべきことは、闇雲に再インストールすることではなく、この3つの落とし穴を順に潰すことです。そこまで行けば、同じ環境の人でもかなり再現しやすくなります。

gfx1103 以外の APU でも同じ手順で動きますか？

gfx1102（Radeon 680M など）や gfx1103 系は同様の手順が効く場合が多いです。HSA_OVERRIDE_GFX_VERSION の値は環境によって変わります。ROCm の公式サポートページで自分の GPU アーキテクチャを確認してから試してください。

Ollama のバージョンはどれが必要ですか？

この記事は Ollama v0.20.2 で確認しています。古いバージョン（v0.1x 台）は ROCm の認識まわりが異なる場合があるため、v0.20 以降を推奨します。

render グループに追加したのに効かないのはなぜですか？

セッションを引き継いだ tmux や既存シェルには変更が反映されません。sg render -c '...' で起動するか、一度ログアウト・ログインしてから再試行してください。

この記事の実測値は以下の環境で取得しています。

速度数値はモデルの量子化・コンテキスト長・システム負荷によって変動します。目安として使ってください。

• Bloggfx1103（Radeon 780M）でOllamaが動くモデル一覧2026——5B上限の理由と量子化別VRAM早見表gfx1103/Radeon 780Mで動くOllamaモデルを実測ベースで整理。5B上限の理由、Q4_K_M/Q8_0のVRAM目安、動く/重い/NGを自分で判定できます。→
• BlogRadeon 780M（gfx1103）でOllama：ROCm・Vulkan・CPU経路の選び方と2025年に変わったこと780M（gfx1103）でOllamaは何を選ぶべきか。ROCm・Vulkan・CPUの3経路を整理し、2025年に変わった実用上の判断材料をまとめます。→
• BlogOllamaでローカルにチャットを住まわせた記録 — インストールからモデル選びまでOllamaを使ってローカルLLMを動かした実録。インストール手順・VRAM別モデル選び・実際に使って感じた正直な評価まで。RTX 4070 Ti（12GB）環境での体験ベース。→

• 実際の構成を探すなら、GPU 比較ページやローカルLLM向け構成記事もあわせて見ると判断しやすいです。
• ハードウェア候補は用途別の AI 構成ガイドからたどると、単体製品より違和感なく検討できます。