メインコンテンツへスキップ
← ブログに戻る
開発ログ2026年8月30日by K.hirano

Gemma 4 26B A4B vs Ornith 1.5、12GBの答えはどちらか

VRAM 12GB の RTX 4070 Ti で Ornith 1.5 9B と Gemma 4 26B A4B を同条件比較。速度 80.0 対 72.9 tok/s、VRAM は 5.9GB 対 11.6GB で Ornith が優位、コーディングは 60点満点で 26B を上回りました。一方 24問テスト総合は 199 対 220 で日本語力に差。長考の末に無回答となる症状は両モデル共通でした。

#ローカルLLM#Gemma#Ornith#llama.cpp#GPU#ornith-1-5-9b#gemma-4

こんにちは。スイカの季節もそろそろおしまいですね。

先に答えを書くと、VRAM 12GB のカードでは Ornith 1.5 9B と Gemma 4 26B A4B は使い分けになりました。コードを書かせるなら Ornith、日本語で相談するなら 26B A4B です。24問テストの合計は 199点対 220点で 26B A4B が上ですが、その差はほぼ日本語力の差で、コーディングでは Ornith が満点を取っています。そして測っている途中で、前回の記事に書いた結論のひとつが間違っていたことにも気づきました。

前回の記事「VRAM 12GBの救世主。Gemma 4 26B は 12B より速くて賢かった」で、VRAM(GPU に載っている作業用メモリ)12GB のカードなら Gemma 4 26B A4B が最適解だと書きました。その翌日に、9B の新しいモデルが出ました。計測はすべて2026年8月29日から30日にかけて、RTX 4070 Ti(VRAM 12GB)の1台で行っています。

9Bが31Bを上回る、という触れ込み

正直なところ、またかと思いました。ローカルLLM(自分の PC で動かす大規模言語モデル)を触っていると、この「翌日に出る」が本当によく起きます。ただ今回は少し事情が違って、Ornith 1.5 という名前のこのモデル、公式が「Gemma 4-31B を大幅に上回る」と書いているのです。9Bが31Bを、と。

しかもサイズが 5.4GB しかありません。12GB のカードなら半分も使いません。前回の 26B A4B は 11.6GB とギリギリまで詰め込んで動かしていたので、もしこれが同じくらい賢いなら、乗り換えるだけで6GBが浮きます。そこで同じ機械に入れて、同じ問題を、同じ採点基準で解かせました。

点数表で見ると、勝敗は分野で割れた

Ornith 1.5 9BGemma 4 26B A4B
生成速度80.0 tok/s72.9 tok/s
VRAM使用5,886 MiB11,644 MiB
積める文脈131,07232,768(速度を譲れば)
意地悪・引っかけ57/6053/60
論理・推論47/6060/60
コーディング60/6057/60
日本語力35/6050/60
合計199/240(A)220/240(S)

日本語で相談したいなら 26B A4B のままがいいです。総合点の差はほぼ日本語力の差で、ここは 15点も開いています。

コードを書かせるなら Ornith 1.5 9B です。コーディング分野は 60点満点、つまり6問すべて完璧で、26B より上でした。9Bのモデルがこの分野で満点を取ったのは、うちの計測では初めてです。

12GB のカードを持っている人にとって地味に大きいのが、VRAMが6GB近く余ることです。うちの環境だと、これは画像生成を同時に立ち上げておける余裕にあたります。片方を落としてから片方を上げる、というあの手間がなくなります。

中身は Qwen3.5、しかも Gemma 4 の子だった

モデルカード(配布元に置かれたモデルの説明書)の設定ファイルを開いて、少し意外な気持ちになりました。アーキテクチャ名が qwen3_5 と書いてあります。Qwen3.5 をベースにしたモデルだったわけです。

さらに公式ブログを読むと、前世代の Ornith-1.0 は「Qwen3.5 と Gemma 4 の上に」継続学習を重ねて作られたとありました。つまり今回の対戦相手は、遠い親戚どころか、片方の親にあたります。この事実は後半でもう一度出てきます。

もうひとつ、config を見ていて目に留まったのが注意機構(文章のどこを参照するかを決める仕組み)の構成です。層が「軽い方式3つ、重い方式1つ」の繰り返しになっていました。4層に1層だけが従来型で、残り3層は文脈が伸びてもコストがあまり増えない方式です。これが何を意味するかは、実測するとはっきりしました。

12GBのカードに13万トークンが載る

文脈(一度に読ませられる文章の長さ)を変えながら起動して、VRAM使用量を見ていきました。

文脈長VRAM起動
8,1925,886 MiB✅
32,7686,678 MiB✅
65,5367,734 MiB✅
131,0729,846 MiB✅
262,144—❌

16倍に伸ばして、増えたのは4GB弱です。 普通の構造のモデルなら、文脈長を16倍にすれば作業メモリも概ね16倍に膨らみます。ここが4層に1層しか効かないので、こうなります。

文脈長を16倍に伸ばしたときのVRAM使用量の比較。カードの容量12GBに対し、文脈が短いときは半分ほど、16倍に伸ばしても8割ほどで収まる

文脈を16倍にしても、埋まり方はここまでしか変わらない。これが軽い注意機構の効きどころ

比べると、26B A4B は文脈を 32,768 に広げようとすると、前回いちばん速かった設定では起動しませんでした。ひとつ譲った設定に戻せば載りますが、速度は 72.9 から 65.3 に落ちます。

長いログを丸ごと投げたい、大きめのソースを読ませたい、という用途なら、この差は点数表よりも効いてきます。

コーディングは満点、日本語は35点

うちで使っている24問のテストは、引っかけ問題・論理パズル・コーディング・日本語力の4分野で、240点満点です。

コーディングは FizzBuzz の拡張、クロージャの罠、SQLインジェクション、再帰の計算量、Pythonの可変デフォルト引数、正規表現。どれも過不足なく答えています。とくに正規表現の問題では、一見不正なメールアドレスが「この正規表現では弾けない」という引っかけに正しく気づいていました。ここは前回 26B A4B も正解していますが、Ornith は説明の切れ味が一段良かったです。

引っかけ問題も 57点で上回りました。「花子がりんごを取りました。りんごの行方は?」という多義性を問う設問で、きちんと「わからない」を選んでいます。断定したがるモデルが多いなかで、これは好印象でした。

一方、日本語力は 35点と苦戦しています。俳句「古池や」の季語を夏と答えました。正解は春です。作者が芭蕉であることは当てているので、知識がないというより日本語圏の常識が薄い印象でした。思考の過程を覗くと全部英語で考えていたので、まあそうなるだろうな、という感じです。

論理・推論の 47点は、少し事情が違います。4問は満点、1問は本文に中国語が混じって7点で、12枚のコインを天秤3回で判定する1問が 0点でした。間違えたのではありません。答えを書かずに力尽きたのです。

前回の記事で、ひとつ間違えていました

前回、26B A4B の弱点として「難しい問題になると内部で延々考え込み、出力の上限に達したところで答えを一文字も書かないまま終わる」と書きました。これは事実です。

今回 Ornith を測り始めたとき、最初の結果ではこの症状が2問しか出ませんでした。それを見て「なるほど、こちらは必ず答えを返すタイプか。失敗の質が正反対だ」と、記事の見出しまで考えていました。

間違いでした。

原因は私の設定です。Ornith には作業領域を 8,192 しか与えていませんでした。前回 26B A4B を測ったときは 32,768 です。つまり4分の1の狭さで戦わせていたわけで、そもそも比較になっていません。しかも狭いせいで早めに打ち切られ、結果として「短いけれど一応の答え」が出ていたのです。

条件を揃えて測り直したら、無回答が2問から4問に増えました。

答えを書けなかった問題
Gemma 4 26B A4BD3・E1・E2・E4
Ornith 1.5 9BB6・D1・D3・E2

考える余地を与えたほうが、答えに辿り着かなくなる。直感に反しますが、実際にそうなりました。あるモデルは思考だけで82,000字を書き連ねた末に、回答欄は空でした。原稿用紙200枚ぶん悩んで白紙で出してくる、と言えば伝わるでしょうか。

そして D3 と E2 が両モデルで重なっています。片方は9Bの新参、片方は26BのMoE(中身を分担する専門家の束から、一部だけを選んで動かす構造)。まったく別の設計に見えて、Ornith は Gemma 4 の血を引いている。他人の空似ではなく、親から受け継いだ癖である可能性のほうが高いと思っています。

新しいモデルだから古い弱点は直っている、とは限らない。 これが今回いちばんの収穫でした。

測り直しは3回、毎回狂っていたのは私の計器

正直に書いておくと、この比較は3回やり直しています。毎回モデルを疑って、毎回自分の計器が狂っていました。

1回目は先ほど書いた作業領域の広さ違いです。2回目は、900秒のタイムアウトを指定したのに4問がぴったり300秒で切れました。調べると、応答を一括で待つ方式だと通信層が300秒で見切りをつける仕様で、長考するモデルは必ずここで落ちます。逐次受信(できた分から少しずつ受け取る方式)に切り替えたら解決しました。ちなみにこの罠、うちの計測スクリプトにコメントで書いてありました。過去の自分が引っかかって、ちゃんとメモまで残していたわけです。

このとき速度も 25.9 tok/s と表示されていました。空転した300秒×4問が分母に入っただけの数字です。あのまま記事にしていたら、Ornith は遅いモデルということになっていました。

「無回答」を実力と判定する前に、それが打ち切りでないことを確かめる。 当たり前のようでいて、3回とも最初はモデルのせいだと思っていました。

用途で入れ替えるのが答え

日本語で壁打ちしたい、文章を直させたい、雑談混じりに相談したい。この用途なら 26B A4B です。日本語力の15点差は、使っていて体感でわかるレベルの差でした。

コードを書かせる、長いファイルを読ませる、VRAMを空けておきたい。この用途なら Ornith 1.5 9B です。コーディング満点・80 tok/s・5.9GB・文脈13万という組み合わせは、12GBのカードでは他に見当たりません。

両方入れても16GB弱です。うちは結局そうしました。用途で切り替えるのがいちばん賢い、という身も蓋もない結論ですが、片方に絞る理由が見つかりませんでした。

なお公式が言う「Gemma 4-31B を大幅に上回る」は、英語のコーディング系ベンチマークでの話です。日本語で負けたことをもって公式が誇張している、という話ではありません。測っている土俵が違うだけで、コーディングに関してはうちの計測でも確かに上回っていました。

そして両方とも、難しい問題では黙り込みます。そこは期待しないでください。

この数字の読み方には限りがある

24問テストはうちで作った独自のセットで、業界標準のベンチマークではありません。日本語での実用感を見るための道具であって、公式が使う Terminal-Bench や SWE-bench とは測っているものが違います。公式の「Gemma 4-31B を上回る」という主張と、この記事の日本語スコアは矛盾しません。

もうひとつ、実行ごとのブレが大きいという制約があります。同じ問題で正答と誤答が入れ替わる場面が実際にありました。1回の結果でモデルの実力を断定するのは危険です。ここに出した数字も、1回の通し計測の結果であることは差し引いて読んでください。

速度は llama.cpp(モデルを動かすソフトのひとつ)で測った値です。Ollama で同じモデルを動かすと数字が変わります。別の実行環境で測った速度と並べて比較しないでください。 同じ 12GB のカードで Ollama と llama.cpp を比べた話は、gemma4:12bはollamaで動かない — 12GB GPUでllama.cpp実測52t/sの最短ルート に書いています。

測った条件と、同じ手順で試す方法

比較はすべて同じ機械・同じ設問・同じ採点基準で行いました。あとから見返せるよう条件を残しておきます。

  • 機体は RTX 4070 Ti(VRAM 12GB)1台、実行環境は llama.cpp。Ornith は Q4_K_M(5.4GB)、Gemma 4 26B A4B は q4_0 QAT
  • 作業領域 32,768・生成上限 24,000トークン・温度 0.3 で両モデルを揃えた(2026-08-30 実施)
  • 速度の 80.0 tok/s は作業領域 8,192・定常状態での3回計測。29問の通し平均は 75.7 tok/s
  • 計測日は 2026-08-29(速度・文脈長)と 2026-08-30(24問テスト本番)

モデルの取得と起動はこれだけです。同じカードをお持ちなら、そのまま試せます。

bash
# GGUF を取得(Q4_K_M・5.4GB)
curl -L -o Ornith-1.5-9B-Q4_K_M.gguf \
  https://huggingface.co/ornith-ai/Ornith-1.5-9B-GGUF/resolve/main/Ornith-1.5-9B-Q4_K_M.gguf

# 文脈13万トークンで起動(VRAM 9.8GB)
llama-server --model Ornith-1.5-9B-Q4_K_M.gguf --ctx-size 131072 -ngl 99

一次情報は 2026年8月30日時点のものです。

ライセンスは MIT、HuggingFace への公開日は 2026年8月18日です。仕様や配布形式は更新される可能性があるので、導入前に上記のモデルカードを見ておくことをおすすめします。

参考リンク

この記事を書いた人

HW系エンジニアとして20年以上、10,000件を超える顧客訪問と2,000件を超える単独ソリューション実績。AIツールを使った個人開発やIoT農園など、Raspberry Piを使ったオートメーション化なども実践中です!エンジニア専門結婚相談所も運営中、ClaudeCodeで解決できない心の課題も解決いたします!

Ollama導入の罠と解決手順——GPU認識・日本語チャットまでの全記録と結論
チュートリアル2026年2月24日

Ollama導入の罠と解決手順——GPU認識・日本語チャットまでの全記録と結論

RTX 4070 Ti搭載の自宅サーバーにOllamaをSSHでセットアップした実録。非対話環境でのインストール罠、バイナリ直接DL、systemdサービス化、qwen2.5:7bでの日本語チャットまで。

#Ollama#ローカルLLM#Ubuntu#GPU#LLM
GEMMA4-12B-CODERは何に使うべきか:コード55/60、総合B評価の実測結論
開発ログ2026年7月1日

GEMMA4-12B-CODERは何に使うべきか:コード55/60、総合B評価の実測結論

GEMMA4-12B-CODERをRTX 4070 Ti 12GBで実測。54.6 tok/s、24問160/240、コード55/60。Gemma 4 12B/E2B/E4Bとの使い分けとMTP可否を整理します。

#gemma4#ローカルLLM#llama.cpp#RTX4070Ti#ベンチマーク
Gemma 4 26B A4B 実測:12GBのGPUで72.9 tok/s、24問テストは過去最高スコア
開発ログ2026年8月30日

Gemma 4 26B A4B 実測:12GBのGPUで72.9 tok/s、24問テストは過去最高スコア

VRAM 12GB の RTX 4070 Ti で Gemma 4 26B A4B を実測。llama.cpp の --cpu-moe を -ncmoe 9 に変えるだけで 35.0 → 72.9 tok/s になり、12B を全部GPUに載せた 58.6 tok/s を上回りました。24問テストは 220/240 でランクS。長考時に空応答を返す弱点もあわせて記録しています。

#ローカルLLM#Gemma#llama.cpp#GPU#gemma-4
MTPの3x高速化は誇大だった—3090/4090/5090で実測した倍率の結論
開発ログ2026年6月8日

MTPの3x高速化は誇大だった—3090/4090/5090で実測した倍率の結論

Gemma4 MTP自己投機デコードを3090/4090/5090で実測。3xではなくGPU次第で1.0〜1.9倍、5090は採択されても伸びませんでした。

#Gemma#mtp#llama.cpp#gpuベンチ#rtx4090

関連AIツール

META-MARK × AI

ローカルAIを動かすGPU、ちゃんと選べていますか?

VRAM・性能・コスパをMetaScoreで数値化。AIアプリ別の推奨ハードウェア要件も確認できます。