70Bモデルを動かすならGorgon Halo一択 — Panther Lakeが土俵から逃げた本当の理由

関連記事としては BlogGemma 4 MTP drafter を今すぐ入れるべきか？ RTX 4070 Ti 12GB でつまずいた3つのポイントと結論RTX 4070 Ti 12GBでGemma 4 MTP drafterを実測。ドラフター0.14GB、ただし最速はvLLMの162.7 tok/s。導入判断を正直にまとめます。→ もあわせて読むと、今回の論点とのつながりを把握しやすくなります。

ローカルLLM推論目的のミニPC構築なら、Gorgon Haloが現時点の最安x86解です。ただし「容量の勝ち」と「速度の勝ち」は別物。逆張り的に言えば、Panther Lakeが比較を避けた理由そのものが、Gorgon Haloを選ぶ根拠です。帯域幅の実効値（約180〜212 GB/s）まで理解した上で判断してください。AI開発者・研究者・クラウドコストを下げたい中小企業エンジニアに向けて整理します。

※本記事のスペックは、未発売製品（リリース予定: 2026-10-01 前後〜2027-01-01 前後）のためリーク情報、PassMark登録値、AMD関係者発言ベースです。確定情報ではありません。そこを曖昧にしたまま語ると判断を誤るので、先に明記しておきます。

AMD Gorgon Halo（Ryzen AI Max 400）は、192GBの統合メモリを使って70B級LLMをローカルで扱える、という時点でかなり異例です。RTX 4090の24GBでは最初から土俵に乗りにくい領域を、x86機で真正面から押し切ってきた形です。

ただし、ここで終わりではありません。容量は勝っていても、帯域幅が足を引っ張る。これが本質です。実効帯域は理論値273GB/sに対して、実運用では60〜70%程度、つまり約180〜212GB/sに落ちるケースがある。ここを無視すると、「70Bが動く＝快適に回る」と勘違いします。

Intel Panther Lakeが比較を避けた理由も、かなり単純です。比較軸が違うからです。Panther Lakeは通常のノート/薄型PC文脈で見れば強いですが、Gorgon Haloは最初から**“192GBユニファイドメモリでローカルLLMを載せる”**という別競技。AMDのRahul Tikoo氏が示した方向性も、まさにそこです。比較を受けるほど同じ土俵ではない、ということです。

この記事では、

• 70Bが「容量的に」本当に動くのか
• 何がボトルネックになるのか
• Panther Lakeと何が違うのか
• 今買うべきか、Medusa Haloまで待つべきか

を、現場目線で切り分けます。

• Gorgon Haloは何が特別なのか
• Panther Lakeが比較を避けたのはなぜか
• 70Bモデルは本当に動くのか
  • 実際に試すならこのコマンド
• 帯域幅の落とし穴：理論値ではなく実効値を見る
  • ざっくりした見方
• RTX 4090やdGPUと比べたときの意味
• Strix Haloユーザーは乗り換えるべきか
• 今買うか、Medusa Haloまで待つか
  • 今、Gorgon Haloを買う価値がある人
  • Medusa Haloまで待つ価値がある人
• 判断のためのチェックポイント
  • Gorgon Haloを選ぶ前に確認したいこと
  • 逆に、よく考えた方がいいケース
• まとめ：Gorgon Haloは「速さ」ではなく「載せられること」が本質です
• 注意点・制約
• どのように検証したか
• よくある質問
  • Gorgon Haloで70Bモデルは量子化なしで動きますか？
  • Strix Haloを持っていますが乗り換えるべきですか？
  • ミニPCで192GB構成は実際に組めますか？
• 参考リンク
• 関連記事
• 関連リンク
• この記事を書いた人

一言でいうと、“VRAM 24GBの壁”を、統合メモリの総量で踏み越える製品です。

ここが重要で、Gorgon Haloの価値は「GPUが速い」ことよりも、大きいモデルを載せられることにあります。70B級のLLMをローカルで回したい人が詰まるのは、たいてい演算性能ではなくメモリ容量です。

たとえば、4bit量子化の70Bなら24GB級でも「動く」ことはあります。ですが、それはあくまで量子化前提で、精度や挙動に妥協が入る。仕事で使うと、ここが意外と面倒です。毎回「今日はどの量子化で妥協するか」を選ぶことになるからです。

Gorgon Haloの192GBは、その妥協をかなり減らします。full precisionでの実行可能性が見えてくるのが最大の変化です。もちろん、実際のモデル、フレームワーク、実装次第で体感は変わりますが、少なくとも「容量が足りないから選択肢から外れる」という場面は激減します。

この時点で、Gorgon HaloはAI開発者、研究者、中小企業のエンジニアにとってかなり現実的です。クラウドAPIの従量課金や、機密データを外に出したくない事情があるなら、ローカルで70Bを扱える意味は大きいです。

ここは誤解しやすいのですが、Panther Lakeが弱いから比較しなかった、と短絡するのは違います。

実際には、比較の土俵が違いすぎるのが理由です。

Panther Lakeは、一般的には省電力・高効率なモバイル向けCPUとして見られるはずです。一方、Gorgon Haloは最初から巨大な統合メモリを前提に、ローカルAIワークロードを狙う設計です。

つまり、比較した瞬間にこうなります。

• Panther Lake：薄型ノートの延長で評価される
• Gorgon Halo：小型ワークステーション的に評価される

これではベンチマークの意味がズレます。CPUの世代比較として並べるならまだしも、70BローカルLLMの実運用で比べると、勝負はメモリ帯域と容量に寄ります。

AMD側が強調したかったのは、単純なCPU性能ではありません。192GBユニファイドメモリという、他社が真似しにくい土俵です。Intelがそこを正面から比べないのは、むしろ自然です。

要するに、これは性能表の優劣ではなく、狙っている用途が違うという話です。

動きます。ただし、条件つきです。

この「動く」は、誤解されやすい言葉です。私はここを分けて考えます。

1. メモリに載るか
2. 推論として成立するか
3. 実用速度で回るか

Gorgon Haloは、1と2についてはかなり強いです。192GBあるなら、70B級モデルをローカルで扱うための余裕が大きい。ここは容量どおり、かなり順当な強みです。

ただし、3は別です。ここで帯域幅が効いてきます。

LLM推論は、特にデコード段階でメモリ転送が効きやすいです。モデル全体が載るだけでは足りず、毎トークン生成時にどれだけ素早く重みやKV cacheを扱えるかが重要になります。

だから、Gorgon Haloは「70Bを載せる」ことには強いが、「70Bを高速にしゃかしゃか生成する」ことには限界があります。

この点は、クラウドで大型GPUを使った経験がある人ほど分かりやすいはずです。容量が足りないと話にならない一方で、容量があっても帯域が弱いと、出力が思ったほど伸びません。

実際に試すならこのコマンド

Gorgon Halo（またはStrix Halo）環境でLlama-3 70Bを動かす最短コマンドはこちらです。

# Ollamaで Llama-3 70B を実行（192GB統合メモリ環境）
ollama run llama3:70b

# llama.cpp で直接実行する場合（GGUF形式）
./llama-server -m llama-3-70b-instruct.Q8_0.gguf \
  --n-gpu-layers 999 \
  --ctx-size 8192 \
  --host 0.0.0.0 --port 8080

# 帯域幅スループットを計測する場合（llama.cpp 付属ツール）
npx tsx scripts/run-benchmark.ts --model llama3:70b --backend ollama

--n-gpu-layers 999 で全レイヤーを統合GPU側に置けます。192GBあれば Q8_0（8bit量子化）でも全体を乗せられる計算です。

ここが本記事の一番大事なところです。

Gorgon Haloの帯域幅は、理論上273GB/sとされます。数字だけ見ればかなり強いです。ですが、実際の推論では60〜70%程度の実効率に落ちることが珍しくありません。つまり、実効180〜212GB/s程度で考えるべきです。

これがなぜ重要かというと、AI用途では「カタログ帯域」がそのまま速度にならないからです。

落ちる理由はだいたい次の通りです。

• メモリアクセスが連続しない
• フレームワークやカーネルの最適化が完全ではない
• CPU/GPU/NPU間のデータ移動が挟まる
• モデルによってアクセスパターンが違う
• 温度や電力制限で持続性能が揺れる

要するに、統合メモリだから必ず速い、ではないのです。

ここを見誤ると、「192GBあるなら70Bもサクサクだろう」と期待してしまいます。実際はそう単純ではありません。容量は圧倒的、速度は用途依存です。

この落とし穴は、他メディアがあまり正直に触れたがらない部分だと思います。ですが、購入判断ではここが一番効きます。

ざっくりした見方

• 長文を読む、RAGを回す、ローカルで試す：かなり相性がいい
• 短い応答を高速連打したい：帯域の制約が見えやすい
• サーバー級のトークン生成速度を求める：素直に専用GPUが有利

つまり、Gorgon Haloは「大きいモデルを載せて使える」ことが価値であって、絶対的な生成速度の王者ではありません。

ここは読者が一番気にするところでしょう。

RTX 4090は強いです。だが、24GBという上限はどうしても残る。70B級LLMをローカルで扱おうとすると、量子化が前提になりやすく、精度や運用の自由度で妥協が出ます。

一方、Gorgon Haloは、容量面では4090を明確に超える。この差はかなり大きいです。

ただし、だからといって「4090不要」とはなりません。むしろ用途は分かれます。

• 4090：高いトークン速度、成熟したdGPUエコシステム
• Gorgon Halo：大容量モデルの常駐、ローカル推論の自由度

要するに、4090は「速く回す」ためのカード、Gorgon Haloは「載せたいものを載せる」ための解です。

この違いは、dGPU比較対象 を見ても、最後は同じところに戻ります。ローカルLLMは、性能だけでなくメモリ事情で決まる、ということです。

AIワークロード全体の整理は、AIワークロード一覧 にまとめてあります。用途が定まっていないなら、まずここから整理した方が早いです。

また、比較軸を整理したい人向けに、比較ページ も合わせて見てください。スペック表だけで迷うより、判断軸を先に固定した方が失敗しにくいです。

なお、同じ「大容量メモリでローカルLLMを回す」路線でも、ARM陣営からはBlogNVIDIA N1Xは「RTX Spark」として正式発表——128GB統合メモリ・RTX 5070級GPUは誰のための道具かコードネームN1Xは2026年6月のComputexで「RTX Spark」として正式発表。20コアArm＋Blackwell 6144 CUDA・最大128GB統合メモリの確定仕様と、Windows on ARMの現実、ローカルLLM用途での向き不向きを整理します。→が控えています。x86のGorgon Haloと正面からぶつかる選択肢なので、Windows on ARMに抵抗がなければ併せて検討する価値があります。

Strix Halo（Ryzen AI Max 300）をすでに使っている人は、ここが気になるはずです。

結論からいうと、**“困っていないなら急いで乗り換える必要はない”**です。

Strix Haloでも、かなり広い範囲のローカルAI用途はこなせます。ですが、70B級を本気で視野に入れると、メモリ容量の余裕が効いてきます。

乗り換えを考える理由は、主にこの3つです。

• もっと大きいモデルを載せたい
• 量子化の縛りを減らしたい
• クラウド費用と機密性の両方を下げたい

逆に、

• 7B〜14B中心
• 速度優先
• 既存環境で不満が少ない

なら、Strix Halo継続でも十分です。

もしあなたがStrix Haloの上位機を検討しているなら、Ryzen AI Max 395 を見比べた上で判断した方がいいです。アップグレードはスペック差だけで決めると、あとで「思ったほど変わらない」となりがちです。

ここはかなり現実的な判断になります。

今、Gorgon Haloを買う価値がある人

• 70B以上を今ローカルで回したい
• クラウドAPI費用を減らしたい
• 機密データを外に出したくない
• 「最速」より「載ること」を重視する

この条件なら、Gorgon Haloはかなり強いです。ローカルLLM推論目的のミニPC構築としては、現時点の最安解になりうるからです。

Medusa Haloまで待つ価値がある人

2027年想定（2027-01-01以降が現実的）のMedusa Haloは、LPDDR6・384bitとされ、帯域面での改善が期待されています。ここが本当に来るなら、Gorgon Haloの弱点である帯域幅の詰まりが改善する可能性があります。

つまり、

• 今すぐ使う必要がある → Gorgon Halo
• 高速トークン生成が最重要 → Medusa Halo待ち

です。

私はここを曖昧にしたくありません。容量の勝ちと速度の勝ちは別物です。Gorgon Haloは前者で強い。後者を求めるなら、待つ価値はあります。

最後に、購入判断をかなり実務寄りに絞ります。

Gorgon Haloを選ぶ前に確認したいこと

• 70B以上を本当にローカルで使うのか
• 量子化前提ではなく、できれば広い精度で扱いたいのか
• 生成速度より、モデル常駐や柔軟性が重要か
• クラウド費用や情報持ち出しを減らしたいのか
• 帯域実効率60〜70%でも許容できるのか

この5つのうち、3つ以上が「はい」なら、Gorgon Haloはかなり有力です。

逆に、よく考えた方がいいケース

• 4bit量子化で十分
• 1トークンでも速い方がいい
• 既存の高性能dGPU環境がある
• 70Bはたまに触る程度

この場合、Gorgon Haloは“魅力的だけど過剰”になりやすいです。

Gorgon Haloの価値は、192GB統合メモリで70B級LLMをローカル実行できる点にあります。ここは本当に強いです。

一方で、帯域幅の実効率は60〜70%程度まで落ちる可能性があり、デコード速度は理論値ほど伸びません。この現実は無視できません。

だから結論はシンプルです。

• ローカルLLM推論目的のミニPC構築なら、Gorgon Haloが現時点の最安解
• 高速トークン生成が必須なら、Medusa Haloまで待つ価値がある

Panther Lakeが比較を避けたのは、負けたからというより、比較の土俵が最初から違ったからです。

この違いを理解しておくと、スペック表に振り回されなくなります。購入前に見るべきなのは「何GB載るか」だけではなく、その容量を実際にどれだけ速く使えるかです。

ここを見誤らなければ、Gorgon Haloはかなり筋のいい選択になります。

• 本記事のスペックはリーク・PassMark登録値ベースです。正式発表（2026年後半〜2027年初頭予定）で変更される可能性があります。
• 帯域幅の実効率（60〜70%）はllama.cpp等でのコミュニティ計測値です。フレームワークやドライバ最適化で改善される可能性があります。
• 価格は未発表。LPDDR5X 24GBモジュール×8枚の構成コストが製品単価に反映されるため、Strix Halo世代より高価になる見込みです。

• Tom's Hardware・VideoCardz・Wccftech・HotHardware・TechPowerUp等の一次ソース記事を横断参照しました。
• AMD Rahul Tikoo氏のCES 2026コメント、PassMark登録値のリーク情報、SK hynixモジュール型番情報を元に仕様を整理しました。
• 帯域幅の実効率はllama.cpp開発者コミュニティによるRDNA 3/3.5実測値（r/LocalLLaMA等）を参照しました。

Gorgon Haloで70Bモデルは量子化なしで動きますか？

llama-3-70b（約140GB BF16）はフルで乗りきらない可能性があります。ただし Q8_0（約75GB）なら余裕で収まります。Q4_0（約38GB）なら複数モデルの同時常駐も可能です。

Strix Haloを持っていますが乗り換えるべきですか？

クロック差は100MHz（約2%向上）、最大メモリが128GB→192GBが主な差分です。現在128GB構成で不満がなければ急ぐ必要はありません。Medusa Halo（2027年・LPDDR6・384bit）まで待つのも合理的です。

ミニPCで192GB構成は実際に組めますか？

FP11パッケージを引き継ぐためマザーボード設計はStrix Haloと同等です。SK hynix製24GBモジュール×8枚構成がリークで確認されており、対応ミニPC（ASRock等）が2026年後半に登場する見込みです。

• AMD Ryzen AI Max+ PRO 495 leaks out — VideoCardz
• AMD Ryzen AI MAX 400 specifications leaked — VideoCardz
• AMD Ryzen AI MAX+ 495 Leaks: 10% Faster Than Strix Halo — HotHardware
• AMD's future Medusa Halo APUs could use LPDDR6 RAM — Tom's Hardware
• META-MARK: AIワークロード一覧

• BlogGemma 4 MTP drafter を今すぐ入れるべきか？ RTX 4070 Ti 12GB でつまずいた3つのポイントと結論RTX 4070 Ti 12GBでGemma 4 MTP drafterを実測。ドラフター0.14GB、ただし最速はvLLMの162.7 tok/s。導入判断を正直にまとめます。→
• BlogGoogle Gemma 4が変えたこと——Apache 2.0と本格マルチモーダルで「使えるオープンモデル」の基準が上がったGoogle DeepMindが2026年4月にリリースしたGemma 4の実力を整理する。Apache 2.0への変更、E2B〜31Bの4モデル構成、画像・動画・音声対応のマルチモーダル実装、そしてQwen 3.5やDeepSeek V3.2との比較まで。「ローカルで動かして本当に使えるか」という目線で書く。→
• BlogRadeon 780M（gfx1103）でOllama：ROCm・Vulkan・CPU経路の選び方と2025年に変わったこと780M（gfx1103）でOllamaは何を選ぶべきか。ROCm・Vulkan・CPUの3経路を整理し、2025年に変わった実用上の判断材料をまとめます。→

• 実際の構成を探すなら、GPU 比較ページやローカルLLM向け構成記事もあわせて見ると判断しやすいです。
• ハードウェア候補は用途別の AI 構成ガイドからたどると、単体製品より違和感なく検討できます。

HW系エンジニアとして20年以上、10,000件を超える顧客訪問と2,000件を超える単独ソリューション実績。AIツールを使った個人開発やIoT農園など、Raspberry Piを使ったオートメーション化なども実践中です！エンジニア専門結婚相談所も運営中、ClaudeCodeで解決できない心の課題も解決いたします！