推論に特化したモデルが39%しか取れない理由——deepseek-r1で何が起きたか
RTX 4070 Ti + Ollamaでdeepseek-r1:7bを24問テスト。94/240点(39.2%)ランクDの背景を掘る。6問タイムアウト・日中混合テキスト・論理は強い、という複雑な姿を正直に記録。
deepseek-r1:7bをRTX 4070 Ti + Ollamaで24問テスト。結果は94/240点(39.2%)ランクD。6問がタイムアウト、日本語に中国語が混入。論理パズルは満点だが、日本語用途には向かない。
📋 この記事で使用したテスト問題(全24問)は LLM 24問テストスイート で確認できます。
目次
- deepseek-r1:7bとは何か
- テスト環境
- スコア詳細:カテゴリ別の明暗
- 何が起きたか:問題別に追う
- 他モデルとの比較
- deepseek-r1:7bは使えるか
- よくある質問
- まとめ
- 関連記事
- 関連リンク
- この記事を書いた人
deepseek-r1:7bとは何か
deepseek-r1:7bは、DeepSeek-R1の推論能力をQwen2.5-7Bに蒸留(distill)したモデルです。ベースとなるR1は671Bというとんでもない規模のモデルで、それをどう7Bに「凝縮」したかというと、R1が生成した推論データを使って小さなモデルを再学習させる手法をとっています。
料理でいうと、プロのシェフが何千時間もかけて覚えた「手の動き」を見せて、見習いに真似させたようなもの。上手くいけば本物に近づくし、上手くいかないと「手の動きだけ真似て料理はできない」状態になります。
どちらになったかは、数字を見れば明らかです。
公式リポジトリは deepseek-ai/DeepSeek-R1(GitHub) 、蒸留版の詳細は HuggingFace で確認できます。
テスト環境
| 項目 | 内容 |
|---|---|
| モデル | deepseek-r1:7b(Ollama 経由) |
| ハードウェア | RTX 4070 Ti(AIサーバー) |
| 推論速度 | 7.1 tok/s |
| max_tokens | 8,192 |
| temperature | 0.3 |
| 接続 | SSH トンネル(localhost:11434) |
速度については後述しますが、他モデルより明らかに遅い。thinking(推論ステップ)の出力が多いのが原因です。
スコア詳細:カテゴリ別の明暗
| カテゴリ | スコア | 評価 |
|---|---|---|
| A: 意地悪・引っかけ | 30/60 | 半分しか取れず |
| B: 論理・推論 | 31/60 | まずまず |
| C: コーディング | 20/60 | タイムアウト3問 |
| D: 日本語力 | 13/60 | 壊滅的 |
| 合計 | 94/240(39.2%) | ランクD |
何が起きたか:問題別に追う
思考が止まらなくなる問題
6問がタイムアウト(各180秒)になりました。
- B5: 川渡り問題(農夫・狼・ヤギ・キャベツ)
- C1: FizzBuzz拡張(3・5・7の倍数)
- C4: 再帰フィボナッチの改善
- C6: 正規表現(メールアドレス)
- D1: 敬語の間違い探し
- D2: 俳句の評価(古池や)
共通点があります。「答えが複数候補ある問題」「文脈から判断する問題」でタイムアウトが多い。川渡り問題のthinkingトークン数(推論ステップ)は、完了した問題と比べると数倍に膨らんでいたと推察されます。
これは蒸留モデルの宿命でもあります。R1本体なら、推論を「もう十分」と止めるタイミングを自力で学習しています。7Bに蒸留されたモデルは、「どこで止めるか」が弱い。迷路に入って、出口を見つけられず走り続ける状態です。
日本語が怪しい問題
試した問題の多くで、日本語と中国語が混じった出力が出てきました。
A1(バットとボール問題)の回答から一部を引用します。
「atはボール比我100円安いので、atの値段は x + 100 円となる」
「比我」は中国語の文法です。計算自体は正しく5円と答えていますが、このレベルの混入が全問にわたって発生しています。
理由はシンプルで、ベースモデルであるQwen2.5は中国語データが非常に多い。7Bという規模では、日本語の「文脈切り替え」に使えるパラメータが足りず、Chinese-Japaneseの境界が曖昧になる場面があります。
特に壊滅的だったのはD5(日本語特有表現の翻訳)。「木漏れ日」「積ん読」「物の哀れ」を英訳する問題で、こんな回答が出てきました。
- 木漏れ日 → "Drought Day"(干ばつの日?)
- 積ん読 → "Accumulation of Knowledge"(知識の蓄積)
- 物の哀れ → "Sorrow from Possessions"(所有物からの悲しみ)
全部外れています。木漏れ日がなぜ干ばつの日になったのか、今でも謎のままです。モデルの中で何が起きたのかは、私には追えません。
論理問題だけは強い
面白いことに、数学的な構造がある問題では正答が多かった。
- A1(バットとボール):10/10
- A5(月曜日の回数):10/10
- B1(モンティ・ホール問題):10/10
- B4(囚人と帽子のパリティ戦略):10/10
特にB4は印象的でした。「100人の囚人が、先頭の一人だけをランダムにして、残り99人を必ず助けるパリティ戦略」を正確に説明できていました。これは論理的な構造が数学で記述できる問題です。
推論に使うメカニズムは機能している。ただ、それを「日本語で自然に表現する」能力が7Bという規模では足りていない、ということだと思います。
他モデルとの比較
当サイトでテストしてきたモデルと並べると、差は明確です。
| モデル | スコア | 速度 | ランク |
|---|---|---|---|
| Qwen3.5:4b | 194/240(80.8%) | 101.5 tok/s | A |
| Qwen3:4b | 182/240(75.8%) | 104.8 tok/s | A |
| Qwen3.5:9b | 180/240(75.0%) | 約5 tok/s | A |
| Swallow-Llama3-8b | 121/240(50.4%) | 6.8 tok/s | C |
| deepseek-r1:7b | 94/240(39.2%) | 7.1 tok/s | D |
Qwen3.5:4bの「半分以下」のスコアで、速度も遅い。パラメータ数は7〜8Bクラスなのに、日本語テストでは最下位になりました。
推論特化の蒸留モデルという特性が、英語圏のベンチマーク(MATH-500の92.8%等)では輝く一方で、日本語の文脈理解や表現力では裏目に出てしまいます。
deepseek-r1:7bは使えるか
正直なところを言えば、日本語メインの用途ではQwen3系に軍配が上がります。スコアも速度も。
ただ、こういうモデルの使い所があるとすれば——英語で数学や論理の問題を解かせる、コードのデバッグを英語で指示する、そういった「言語より論理」が求められる用途です。
7Bという規模のモデルが持てる「推論の深さ」という観点では、このモデルは確かに他と違う何かを持っている。ただ、その深さが日本語テストでは「考えすぎて止まる」という形で出てきてしまいました。
今後、ベースモデルの言語バランスが改善された版が出るか、あるいはR2が公開されれば、また別の話になるかもしれません。このベンチマークはあくまで2026年3月時点の7B蒸留版の数字です。
よくある質問
Q. deepseek-r1:7bはOllamaで動かせますか?
A. はい。ollama pull deepseek-r1:7b で取得できます。RTX 4070 Ti(VRAM 12GB)環境では問題なく動作しました。ただし推論速度は7.1 tok/sと他の7Bモデルより遅めです。
Q. thinkingモードはオフにできますか?
A. deepseek-r1:7bのthinkingは、Qwen3系のような think:false フラグでは制御できません。モデル自体が <think> タグを出力する仕様で、Ollamaが自動的に分離処理します。thinking量を減らすには max_tokens を下げるか、より具体的なプロンプトで誘導する方法が現実的です。
Q. 日本語でも使える場面はありますか? A. 日本語のシンプルな計算問題や事実確認(「5円」「5回」など)は正確に答えられています。ただし文化的文脈・語彙・敬語判定が必要な問題は厳しい。英語での数学・コードタスクに絞って使うのが現実的です。
まとめ
| 項目 | 結果 |
|---|---|
| スコア | 94/240(39.2%)ランクD |
| タイムアウト | 6問(複雑な推論・日本語文化問題) |
| 推論速度 | 7.1 tok/s |
| 強み | 数学・論理パズル(モンティ・ホール、パリティ戦略) |
| 弱み | 日本語表現、文化的文脈、タイムアウト多発 |
| 用途適合 | 英語の論理タスク向き。日本語メインは非推奨 |
他のモデルとの比較は、以下の各記事を参照してください。
BlogQwen3.5:4b 24問テスト——thinkingをOFFにしたらスコアが21%上がった話Qwen3.5:4bをOllama上でベンチマーク。thinkingモードが原因で9問が空回答になった。think:falseに切り替えたらスコアが194/240(80.8%)に回復。RTX 4070 Tiで101.5 tok/s出る4Bモデルの実力を24問で徹底検証。→
Blog自殺相談窓口を貼ってくるAI——Qwen3.5:9bに意地悪問題を24問ぶつけた結果ローカルLLM Qwen3.5:9b(9.7B Q4_K_M)に意地悪・論理・コード・日本語の24問テストを実施。180/240点(75%)ランクAの「空気読めない秀才型」。お墓問題で相談窓口を貼ってきた話も含めて正直に報告。→
BlogローカルLLM24問テスト:コード77点・日本語47点——東工大Swallowの意外な素顔東工大の日本語特化モデルSwallow 8Bを24問でテスト。コード77点・日本語47点という反直感的な結果と、「汚名返上を誤用と言った日本語特化AI」の実態を正直に報告します。→
Blog論理パズルは満点、蛙の季語は間違える——Qwen3 4Bのリアルな実力差Ollama + RTX 4070 Ti でQwen3 4Bに24問テスト。論理・引っかけ問題は95%正解も、蛙の季語を夏と断言。4Bモデルのリアルな実力差を数字で見る。→
BlogQwen3:8bは4bより賢いのか?同じ24問で試したら予想外の結果だった前回テストしたQwen3:4b(Rank A・127 tok/s)の上位モデルQwen3:8bを同じ24問で評価。大きいほど賢いはずという期待を、数字が静かに裏切った記録。→
ローカルLLMの実行環境を整えたい場合は、Ollama対応GPUの比較も参考になります。
「推論特化」という言葉は確かに本当のことを言っています。ただ何の推論かは、もう少し慎重に見た方がいい。
関連記事
BlogなぜLeCunはMetaを去りAMI Labsを作ったのか——ローカルLLMとオープンウェイト消滅論を15分で把握するLeCunのAMI Labs設立とMollickのオープンウェイト消滅リスクを整理。ローカルLLM運用者が2026年に何を見直すべきかを実務目線で解説します。→
BlogVRAM12GBで35Bクラスが動く時代、Qwen3.5で確かめた3つの事実Qwen3.5-35B-A3BをRTX 4070 Ti(VRAM 12GB)で動かした記録。Ollama非対応・Q2_K_L不可・IQ2_XSで突破。24問ベンチマーク:170/240 Rank B、113 tok/s。→
Blog14Bで175点・ランクB——phi4:14bに24問ぶつけた正直な結果phi4:14bに24問テスト。175/240点(72.9%)ランクB。蛙の季語は正解できたが汚名返上をSwallowと同じく誤用と断言した。4.2 tok/s・VRAM 8.3GB使用の詳細な結果を公開。→
関連リンク
- 実際の構成を探すなら、GPU 比較ページやローカルLLM向け構成記事もあわせて見ると判断しやすいです。
- ハードウェア候補は用途別の AI 構成ガイドからたどると、単体製品より違和感なく検討できます。
この記事を書いた人
HW系エンジニアとして20年以上、10,000件を超える顧客訪問と2,000件を超える単独ソリューション実績。AIツールを使った個人開発やIoT農園など、Raspberry Piを使ったオートメーション化なども実践中です!エンジニア専門結婚相談所も運営中、ClaudeCodeで解決できない心の課題も解決いたします!
関連記事
Ollama実測:RTX 3060 31.84、RTX 5090 94.18t/s
Ollamaを同一条件で実測。RTX 3060から5090までのtokens/s、VRAM不足による速度低下、予算別の選び方を整理します。
Fable 5 は正解集のバグを見つけて、りんご問題で転んだ——24問実測レポート
Claude Fable 5 を24問で実測。224点でHaiku 4.5(221点)を僅差で上回るが、中身は別物でした。正解集のバグ発見とA4誤答まで公開します。
gemma4:12bがollamaで直った — 0.30.5で3層バグ全解消を実測確認【回避策は不要に】
gemma4:12bのSIGFPE、macOS専用配布、日本語崩れを同一環境で実測。ollama 0.30.5で何が直り、何を捨ててよいかを整理します。
gemma4 12BはどのGPUで動く?実測3点+主要18枚の速度早見表【VRAM 8GBは崖の縁】
gemma4 12Bを手持ちGPUで動かす判断材料を、VRAM別・実測3点・主要18枚の速度早見表で整理。8GBの限界も明確にします。
関連AIツール
META-MARK × AI
ローカルAIを動かすGPU、ちゃんと選べていますか?
VRAM・性能・コスパをMetaScoreで数値化。AIアプリ別の推奨ハードウェア要件も確認できます。
PR広告:開発環境・キャリアまわりのサービス