Ollama + RTX 4070 Ti でQwen3 4Bに24問テスト。論理・引っかけ問題は95%正解も、蛙の季語を夏と断言。4Bモデルのリアルな実力差を数字で見る。
関連記事としては
BlogQwen3:8bは4bより賢いのか?同じ24問で試したら予想外の結果だった前回テストしたQwen3:4b(Rank A・127 tok/s)の上位モデルQwen3:8bを同じ24問で評価。大きいほど賢いはずという期待を、数字が静かに裏切った記録。→ もあわせて読むと、今回の論点とのつながりを把握しやすくなります。
4Bモデルがモンティホール問題を正解する時代が来た。それは本当だった。ただし「蛙は夏の季語です」とも言い切った。同じモデルが。
📋 この記事で使用したテスト問題(全24問)は LLM 24問テストスイート で確認できます。
| 項目 | 値 |
|---|---|
| モデル名 | Qwen3 4B |
| パラメータ数 | 4.0B |
| 量子化 | Q4_K_M |
| 推論フレームワーク | Ollama v0.17.4 |
| CPU | AMD Ryzen 9 5900(24コア) |
| GPU | NVIDIA RTX 4070 Ti(VRAM 12GB) |
| VRAM使用量 | 約3.5GB |
| 推論速度 | 104.8 tok/s(Thinking含む) |
| 1問あたり平均応答時間 | 23.9秒 |
| コンテキスト長(ctx) | 16,384 tokens |
| テスト時 temperature | 0.3(全問固定) |
| テスト日 | 2026-03-08 |
Ollamaで動かすにはSSHトンネル越しにAPIを叩いた。ポート11434はデフォルトでlocalhostバインドなので、外部から接続する場合はひと手間必要になる。このあたりの話は別の記事で書く。
| カテゴリ | スコア | 正答率 | 評価 |
|---|---|---|---|
| A: 意地悪・引っかけ | 57 / 60 | 95% | ほぼ完璧。引っかけに強い |
| B: 論理・推論パズル | 57 / 60 | 95% | 囚人の帽子もパリティ戦略を自力構築 |
| C: コーディング・技術 | 37 / 60 | 62% | C2・C6が空回答。max_tokens問題 |
| D: 日本語力テスト | 31 / 60 | 52% | 文化的常識に弱い |
| 合計 | 182 / 240 | 75.8% | ランク A |
LLM性格診断: 「論理番長・日本語は二軍」
論理パズルで全問正解に近い点数を叩き出す。ところが蛙の季語を「夏」と言い切り、「積ん読」を "Stacked reading" と訳した。考えすぎて回答を忘れるのも面白かった(C2・C6で発生)。
「5円」と即答し、連立方程式で導いた。「10円」という罠に引っかからなかった。判定: 10/10
「4人」と正解し、「3人の姉の弟は全員同じ太郎」という核心を説明した。判定: 10/10
「生きている人にはお墓がないため不可能」と前提矛盾に気づいたが、「問いが成立しない」の明確な宣言と生前墓の言及が抜けた。判定: 7/10
「1番(花子が持っている)」と正解し、「取る=所持を含む動作」と日本語の意味を正確に解釈した。判定: 10/10
「5回」と正解し、1日・8日・15日・22日・29日まで列挙した。判定: 10/10
「担当医は息子の母(女性医師)」と即答し、ジェンダーバイアスにも言及した。判定: 10/10
確率の分析を3ケースで整理し、「変えるべき、ドア2の確率は2/3」と正解。4Bモデルがこれを解くのは正直驚いた。判定: 10/10
「どちらの場合も『Yes』と答える」と即答。両ケースの論理を一文で説明した。判定: 10/10
6ステップの手順を正確に記述。状態追跡を間違えなかった。判定: 10/10
「99人を必ず助けられる」とパリティ戦略を自力で構築した。判定: 10/10
ヤギ→戻る→狼→ヤギ戻す→キャベツ→戻る→ヤギの7ステップを完全記述。判定: 10/10
正しいアプローチで始まりmax_tokens付近で打ち切られた。判定: 7/10
for i in range(1, 31):
result = ""
if i % 3 == 0:
result += "Fizz"
if i % 5 == 0:
result += "Buzz"
if i % 7 == 0:
result += "Jazz"
print(result if result else i)
全ケース(FizzJazz・BuzzJazz含む)を網羅。判定: 10/10
Thinkingで思考しきって回答ゼロ。/no_thinkで改善可能。判定: 0/10
脆弱性を明示しパラメータバインディングで修正。判定: 10/10
O(2^n)を指摘しO(n)イテレーティブ実装で改善。判定: 10/10
[1] / [1, 2] / [1, 2, 3] と正確に予測。理由の説明なし。判定: 7/10
C2と同じ。判定: 0/10
問題は指摘し修正も妥当だが「二重敬語」という核心用語に辿り着かなかった。判定: 5/10
作者=松尾芭蕉は正解。しかし「蛙は夏の季語です」と断言。蛙は春の季語。判定: 3/10
「確信犯」は正しく指摘も、役不足・汚名返上まで間違いと判定した。判定: 3/10
漢字選択は全問正解。軌跡の読みを「ききょく」と誤読。判定: 7/10
積ん読を「Stacked reading」と直訳。「tsundoku」と音写すれば済む話だった。判定: 3/10
5文すべての肯定・否定を正確に判断。日常語の多義性は意外と解けた。判定: 10/10
| カテゴリ | スコア | 正答率 |
|---|---|---|
| A: 意地悪 | 57 / 60 | 95% |
| B: 論理推論 | 57 / 60 | 95% |
| C: コーディング | 37 / 60 | 62% |
| D: 日本語力 | 31 / 60 | 52% |
| 合計 | 182 / 240 | 75.8% |
ランク: A(75〜89%)
論理パズルを4Bで解かせるつもりはなかった。モンティホールとパリティ戦略が正解で返ってきた瞬間は、正直少し驚いた。これはQwen3のThinkingモードが効いている。考えてから答えるというだけで、ここまで変わる。
ただ蛙を夏にしたのは笑った。知識と推論は別物だということが、数字で出た。A・Bカテゴリは論理推論なので思考で補える。D・Cカテゴリは記憶と文化的常識なので、学習データの品質がそのまま出る。
C2・C6の空回答は実用上の問題になり得る。Thinkingモードを有効にしたままだと、複雑な問題で回答が出てこないケースがある。用途に応じて/no_thinkを使うか、シンプルな問題に限定するかの判断が必要だ。
RTX 4070 Ti + Ollama + Qwen3 4Bの組み合わせは、日常の補助ツールとして十分機能する。重要な意思決定の相談役にするには、日本語文化の弱点を理解した上で使うことが前提になる。
HW系エンジニア歴20年超。META-MARKを一人で開発・運営しながら、ローカルLLMを自宅のGPUサーバーで動かして遊んでいる。蛙が夏の季語と言い張るAIを笑いながら、それでも論理パズルの解法には素直に感心した。
META-MARK × AI
ローカルAIを動かすGPU、ちゃんと選べていますか?
VRAM・性能・コスパをMetaScoreで数値化。AIアプリ別の推奨ハードウェア要件も確認できます。