GPT-5.4 mini/nanoを同じ24問ベンチマークで測定。ローカル最高峰Qwen3.5:4bの80.8%に対し、miniは92.9%・nanoは79.2%。スコアの読み方と、正直な限界を書きます。
TL;DR: GPT-5.4 mini は24問中92.9%(ランクS)、nano は79.2%(ランクA)。 ローカル最高のQwen3.5:4bは80.8%。20点差は本物か、学習済みの差か——両方正直に書きます。
📋 この記事で使用したテスト問題(全24問)は LLM 24問テストスイート で確認できます。
クラウド側(GPT-5.4 mini / nano)
| 項目 | 内容 |
|---|---|
| エンドポイント | LiteLLM ゲートウェイ → OpenRouter 経由 |
| max_tokens | 4096 |
| temperature | 0.3 |
| 実行日 | 2026年3月18日 |
ローカル側(過去ベンチマーク)
| モデル | 実行環境 |
|---|---|
| Qwen3.5:4b 他 | RTX 4070 Ti + Ollama(SSH トンネル経由) |
テストスイートは共通。A(意地悪問題)・B(論理)・C(コード)・D(日本語)各6問、計24問。各問 0〜10点で採点、満点は240点です。
| カテゴリ | スコア | 寸評 |
|---|---|---|
| A(意地悪) | 50/60 | お墓問題で前提矛盾を指摘できず。月曜問題は実カレンダーで上書き |
| B(論理) | 58/60 | パリティ戦略・川渡り・水差し全問正解。天秤コインが8点 |
| C(コード) | 60/60 | 満点。FizzBuzzJazz・SQLインジェクション・mutableデフォルト引数すべて正確 |
| D(日本語) | 55/60 | 慣用句問題で1問余分に指摘(役不足を誤用扱い)。その他は高精度 |
初めて「ランクS」が出ました。240点満点で93%近いスコアは、このシリーズで最高です。ランクの定義はS(90%以上)・A(75〜89%)・B(60〜74%)・C(45〜59%)・D(45%未満)です。
注目は B と C の安定感です。モンティ・ホール問題、100人の囚人と帽子のパリティ戦略、SQLインジェクションの検出と修正——すべて正確でした。think トークン(reasoning トレース)を毎問消費しており、応答速度は 167.7 tok/s。43秒で24問を完走しました。
24問あたりの API 料金は約 ¥2(出力 7,329 トークン、OpenRouter 経由)。
| カテゴリ | スコア | 寸評 |
|---|---|---|
| A(意地悪) | 43/60 | 医者と息子の問題で母親に気づけず。独自の「別居説」を展開 |
| B(論理) | 47/60 | 100人の囚人問題で「50人」と回答。パリティ戦略���到達できなかった |
| C(コード) | 57/60 | メールアドレス正規表現で4番を見落とし。それ以外は正確 |
| D(日本語) | 43/60 | 慣用句問題で誤り2問を完全に取り違え(1番・4番を見落とし)。D4の軌跡も奇跡と誤答 |
Qwen3.5:4b(80.8%)と比べると、ほぼ同等です。ただしこちらは API 課金で、24問あたり約 ¥1 以下(出力 7,501 トークン)。
B4(囚人の帽子問題)の0点は意外でした。「50人」という答えは問題の構造を正確に把握できていない。この問題は解説記事が多く、mini は正解していたので、モデル規模の差が出た場所だと思います。
医者と息子の問題では「別居していた医師が顔で気づいた」という独自解釈を展開しました。なかなか読んだことのない別居解消の経緯でした。
| モデル | スコア | ランク | 種別 | 24問コスト |
|---|---|---|---|---|
| GPT-5.4 mini | 223/240 (92.9%) | S | クラウドAPI | ¥2 |
| Qwen3.5:4b | 194/240 (80.8%) | A | ローカル | 電気代 ~¥0.2 |
| GPT-5.4 nano | 190/240 (79.2%) | A | クラウドAPI | ¥1 |
| Qwen3:4b | 182/240 (75.8%) | A | ローカル | 電気代 ~¥0.2 |
| Qwen3.5:9b | 180/240 (75.0%) | A | ローカル | 電気代 ~¥0.3 |
| phi4:14b | 175/240 (72.9%) | B | ローカル | 電気代 ~¥0.5 |
| Swallow-Llama3-8b | 121/240 (50.4%) | C | ローカル | 電気代 ~¥0.2 |
| deepseek-r1:7b | 94/240 (39.2%) | D | ローカル | 電気代 ~¥0.2 |
単純に比べれば、クラウドのほうが20点高い。それが今の現実です。
電気代を計算してみたら、RTX 4070 Ti でのローカル推論は24問あたり ¥0.2〜0.5 でした。API の nano(¥1)より安い。GPU購入費を除けば、の話ですが。
「ローカル無料 vs クラウド有料」という構図は、電気代単体ではすでに逆転しています。ただし GPU 購入費(10万円前後)を回収するには膨大な使用量が必要で、ライトユースなら API のほうがトータルで安い——というのが正直なところです。
ここは正直に書きます。
このテストスイートの問題は、ウェブ上に大量に存在する定番問題です。
GPT-5.4 mini がこれらを「推論で解いた」のか「学習データから再現した」のかは、外部から判断できません。数百億パラメータ規模のモデルが、これらの問題を記憶している可能性は十分あります。
同じことはローカルモデルにも言えます。ただし、モデルが大きいほど学習データの量と質が上がるため、「記憶の確実な再現」という意味でも大規模モデルが有利になります。
「推論力」ではなく「引き出しの深さと精度」を測っている——そう理解した上で、このスコアを読むのが正しいと思っています。
今後のベンチマーク改訂では、変形問題(コインの枚数を変える、FizzBuzzの倍数を変えるなど)を取り入れる予定です。
限界を書いた上で言います。
GPT-5.4 mini は今のところ日本語でもっともコスパの良いクラウドLLMの一つです。24問 ¥2 という料金、93%近いスコア、400Kコンテキスト——この組み合わせはローカルでは現時点で出せない。
nano は mini より15ポイント低いですが、分���・データ抽出・定型文生成なら十分な性能です。¥1以下という料金は、大量処理のパイプラインで活きてきます。
ローカルを選ぶ理由がなくなった、とまでは思いません。プライバシー・コスト構造・オフライン動作——ローカルには固有の価値があります。ただ「ローカルのほうが賢い」という時代は、少なくともパラメータ規模が互角になるまで来ないでしょう。
Q. GPT-5.4 mini はローカルLLMより本当に賢いのか?
このベンチマークでは93% vs 80%で20点差があります。ただしテストスイートに定番問題が多く含まれるため、「推論力」ではなく「引き出しの深さと精度」の比較である点に注意が必要です。変形問題を用いた次世代テストスイートを準備中です。
Q. nano と mini はどう使い分けるべきか?
分類・要約・定型文生成など判断が比較的シンプルなタスクには nano(¥1/24問以下)を、複雑な推論・コード生成・多段論理が必要なタスクには mini(¥2/24問)を推奨します。コスト差は2倍ですが、スコア差は13ポイント(93% vs 79%)です。
Q. ローカルLLMをやめてAPIに一本化すべきか?
用途次第です。プライバシー重視・オフライン動作が必要・大量推論でGPUコストが回収できるケースではローカルの優位性が残ります。一方、ライトユース(月数百回程度)ならAPI料金はほぼ無視できる水準で、トータルコストは API が有利なことが多いでしょう。
API を使っている方は mini を一度試す価値があります。nano は大量処理のサブエージェントとして面白い選択肢です。
過去のローカルLLMベンチマーク記録は「
Blog14Bで175点・ランクB——phi4:14bに24問ぶつけた正直な結果phi4:14bに24問テスト。175/240点(72.9%)ランクB。蛙の季語は正解できたが汚名返上をSwallowと同じく誤用と断言した。4.2 tok/s・VRAM 8.3GB使用の詳細な結果を公開。→」「
BlogQwen3.5:4b 24問テスト——thinkingをOFFにしたらスコアが21%上がった話Qwen3.5:4bをOllama上でベンチマーク。thinkingモードが原因で9問が空回答になった。think:falseに切り替えたらスコアが194/240(80.8%)に回復。RTX 4070 Tiで101.5 tok/s出る4Bモデルの実力を24問で徹底検証。→」にまとめています。
モデルの性能曲線を見ている��、年々「これは純粋に楽しめるラインを超えている」と思う瞬間が増えています。¥2で93%というのも、そういう数字のひとつです。仕事に使うしかない、とは思いつつ——少し息苦しい。
この記事はZennにもクロスポストしています → ¥2で93%、電気代¥0.2で80%——GPT-5.4 mini/nano を同じ24問にぶつけた結果
HW系エンジニアとして20年以上、10,000件を超える顧客訪問と2,000件を超える単独ソリューション実績。AIツールを使った個人開発やIoT農園など、Raspberry Piを使ったオートメーション化なども実践中です!エンジニア専門結婚相談所も運営中、ClaudeCodeで解決できない心の課題も解決いたします!
META-MARK × AI
ローカルAIを動かすGPU、ちゃんと選べていますか?
VRAM・性能・コスパをMetaScoreで数値化。AIアプリ別の推奨ハードウェア要件も確認できます。