ローカルLLMの性能上位は中国系（Qwen・DeepSeek・GLM・Kimi）が席巻しています。一方で、「中国系モデルは調達要件・社内ポリシーで選べない」という現場は実在します。では国産（日本製）と非中国系のモデルで、実際どこまでできるのか——Sarashina 2.2・LLM-jp-4・Llama 3.1 Swallow・ELYZA の国産4モデルと、米OpenAIのgpt-oss:20bを、当サイトのRTX A6000（48GB）で自前実測しました。
結論を先に言うと——日本語の文書・チャット用途なら国産は十分実用。ただし「日本語に強い」と「日本語でエージェントが組める」はまったくの別物でした。
結論
- 速度は実用十分: Sarashina 2.2 3Bは180.9 tok/s（A6000・Q4）と3B級最速クラス。8B級の国産3本も106〜112 tok/sで、ベースのLlama 3.1 8B（111.2）と同水準です。
- ツール呼び出し（エージェント化）は国産の弱点: ollama＋公開GGUFでの実測で、Sarashina・ELYZAはツール非対応、Swallow・LLM-jp-4は対応していても日本語ツール正答率16.7%・連鎖0%でした。
- 非中国系でエージェントを組むなら現状はgpt-oss:20b（単発88.9%・連鎖44.4%）が現実解。制約がなければQwen系（単発100%）が引き続き最上位です。
- ライセンスは国産が優秀: Sarashina=MIT、LLM-jp-4=Apache-2.0と、制約の少ないライセンスの選択肢があります。
「中国系を使えない」は思い込みではない — 地政学の現状整理
まず事実関係から。中国系AIをめぐる規制・制限は2025年から急速に広がりました。
- 日本政府は2025年2月、DeepSeekの利用について各省庁に注意喚起を出しました（根拠: 日本経済新聞）。個人情報保護委員会も、データが中国内サーバーに保存され中国法が適用される点を公表しています（根拠: 個人情報保護委員会）。
- イタリア・韓国は国全体でDeepSeekの利用を禁止し、オーストラリア・台湾・カナダ・米国の一部州は政府端末での利用を制限しています（根拠: Codebookまとめ）。
- 民間でも数百社がDeepSeekへのアクセスをブロックしたと報じられています（根拠: GIGAZINE / Armis・Netskope調査）。
ここで技術的に重要な区別があります。上記の規制は主にクラウドサービス（アプリ・API）としての利用が対象で、懸念の中心は「入力データが中国のサーバーに送信・保存されること」です。オープンウェイトのモデルをローカルで動かす場合、そもそも通信が発生しないため、この懸念は構造的に存在しません。当サイトの実測はすべてローカル実行であり、機内モードでも同じ結果になります。
それでも、組織の調達要件・セキュリティポリシーが「中国製AIモデル」を出自ベースで一括除外するケースは現実にあります。また、ローカル実行でも残るモデル固有の論点として、学習データ・アライメント由来の出力傾向（特定トピックでの回答の偏り）、ライセンスや後継モデル供給の継続性があります。本記事は、そうした制約の下でモデルを選ぶ人のための実測ガイドです。中国系を含む開発国横断の比較は開発国×得意分野で選ぶをどうぞ。
国産LLMの系譜 — 「国産」にも2種類ある
ひとくちに国産と言っても、系譜は2つに分かれます。どこまでを「国産」と見なすかは組織のポリシー次第なので、この区別は選定の前提になります。
| モデル | 開発元 | 系譜 | ライセンス |
|---|---|---|---|
| Sarashina 2.2 | SB Intuitions（ソフトバンク） | フルスクラッチ国産 | MIT |
| LLM-jp-4 | 国立情報学研究所（NII） | フルスクラッチ国産（約12兆トークン） | Apache-2.0 |
| PLaMo 3 | Preferred Networks | フルスクラッチ国産 | PLaMo Community License（商用は登録制） |
| Llama 3.1 Swallow | 東京科学大＋産総研 | 米Llama 3.1の継続事前学習 | Llama 3.1 + Gemma Terms |
| Llama-3-ELYZA-JP | ELYZA（KDDIグループ） | 米Llama 3の追加学習 | Llama 3 Community License |
- LLM-jp-4は2026年4月公開の最新世代で、8Bと32B-A3B（MoE）の2構成です（根拠: ITmedia）。
- Swallow v0.5は8B以下のオープンモデルで日本語MT-Bench最上位級を報告しています（根拠: Swallow公式）。
- ELYZAには中国Qwenをベースにした派生（ELYZA-Shortcut-1.0-Qwen-32B）もあり、「国産チューニング×中国系ベース」という座標も存在します（根拠: TDCソフト）。出自を要件にする場合はベースモデルまで確認が必要です。
- PLaMo 3は商用利用が登録制（年商10億円以下は登録の上で無償）という独自ライセンスのため（根拠: PFN公式）、今回は実測対象から外しました。
A6000実測 — 速度・電力
すべてQ4量子化・GPU常駐・ollama 0.31.1での実測です（2回平均・num_predict=256。詳細は計測方法）。参考行として、同クラスの既存実測（当サイト検証DB）を並べています。
| モデル | 系譜 | params | tok/s | 電力W | tok/s/W |
|---|---|---|---|---|---|
| Sarashina 2.2 3B | 🇯🇵 純国産 | 3.4B | 180.9 | 203.9 | 0.89 |
| （参考）Qwen2.5 3B 🇨🇳 | — | 3.1B | 191.3 | 189.4 | 1.01 |
| Llama-3-ELYZA-JP-8B | 🇯🇵 Llama 3系 | 8.0B | 112.2 | 236.4 | 0.47 |
| Llama 3.1 Swallow 8B v0.5 | 🇯🇵 Llama 3.1系 | 8.0B | 111.9 | 254.2 | 0.44 |
| （参考）Llama 3.1 8B 🇺🇸 | — | 8.0B | 111.2 | 240.3 | 0.46 |
| LLM-jp-4 8B（thinking） | 🇯🇵 純国産 | 8.6B | 106.0 | 190.3 | 0.56 |
| gpt-oss 20B（MoE） | 🇺🇸 | 20.9B | 132.8 | 220.8 | 0.60 |
| （参考）Qwen3.6 27B 🇨🇳 | — | 27.8B | 33.5 | 285.6 | 0.12 |
※（参考）のQwen2.5 3Bは研究ライセンスで商用利用不可のため、速度比較の物差しとしてのみ掲載しています（他の参考行はいずれも商用可）。
3つの観察:
- 国産だから遅い、はない。Sarashina 3Bは180.9 tok/sで3B級最速クラス（Qwen2.5 3Bとほぼ同水準）。Swallow・ELYZAはベースのLlama 3.1 8Bと速度・電力ともほぼ一致し、継続学習は速度を変えないことが実測で確認できます。
- gpt-oss 20BはMoEの効きで8B級より速い132.8 tok/s。20.9Bの総パラメータに対しアクティブが一部のためです。
- 全モデル、A6000クラスなら待ち時間のストレスなく動きます。手元の機材での速度目安は動くか診断へ。
日本語エージェント実測 — ここで現実が見える
「日本語で正しくツールを呼べるか」（日本語エージェント信頼性ベンチ: 6タスク×3回・temp0.7）と、ツール結果を受けて次を呼ぶ多ターン連鎖（3タスク×3回）を実測しました。
| モデル | ツールAPI | 日本語FC正答率 | 連鎖成功率 | 失敗の型 |
|---|---|---|---|---|
| Sarashina 2.2 3B | 非対応（error×18） | — | — | チャットテンプレートにツール構文なし |
| Llama-3-ELYZA-JP-8B | 非対応（error×18） | — | — | 同上 |
| Llama 3.1 Swallow 8B | 対応 | 16.7% | 0% | no_call×15（呼ばずに文章で返す） |
| LLM-jp-4 8B（thinking） | 対応 | 16.7% | 0% | no_call×15（同上） |
| gpt-oss 20B 🇺🇸 | 対応 | 88.9% | 44.4% | no_call×2 |
| （参考）Qwen3.6 27B 🇨🇳 | 対応 | 100% | —（35B版で89%） | 完璧 |
発見を整理すると:
- 「日本語に強い」と「日本語でエージェントが組める」は別物。Swallow v0.5は日本語MT-Bench最上位級を報告するモデルですが、ツール呼び出しは16.7%・連鎖0%。失敗はすべてno_call（ツールを呼ぶべき場面で文章で答えてしまう）で、これはMistral系と同じ失敗プロファイルです。
- 国産モデルの多くは、そもそもエージェント用途を設計対象にしていない。Sarashina・ELYZAはollamaのツールAPI自体が通りません。これは「モデルが劣る」のではなく文書・対話特化の設計思想の表れですが、2026年のエージェント時代では大きなギャップです。
- 非中国系でエージェントを組む現実解はgpt-oss。単発88.9%は上位ですが、連鎖では44.4%に落ちます（当サイトの他モデル実測と同じ「単発は横並び・連鎖で開く」パターン）。確実性が要るなら、依然としてQwen系・Gemma系が上です（エージェント実用度インデックス参照）。
- 構造化出力の「形」はここでも壊れない: bad_json・wrong_toolは全モデル0件。失敗は常に「判断」（呼ぶか呼ばないか）で起きます。
用途別の選び方
| 想定 | 推奨 | 理由 |
|---|---|---|
| 日本語の文書・要約・所内チャット | Sarashina 2.2 3B / Swallow 8B / LLM-jp-4 8B | 速度実用・日本語品質は外部評価で上位・ライセンス明快 |
| 完全国産縛り（調達要件） | Sarashina（MIT）/ LLM-jp-4（Apache-2.0） | フルスクラッチ国産＋制約の少ないライセンス |
| 非中国系でエージェント | gpt-oss:20b | 単発88.9%。連鎖は44.4%なので浅いワークフロー向き |
| 制約なしでエージェント | Qwen系 / Gemma4 | 日本語FC 100%の実測（FCベンチ） |
| RAG（社内文書検索） | 国産8B級＋埋め込みモデル | 生成部分はツール呼び出し不要のため国産の弱点が出ない。グラウンディング解説 |
「国産縛りでエージェントも組みたい」場合、現時点ではツール呼び出しをアプリ側のコードで固定し、モデルには文章生成だけをさせる設計（ツール選択をLLMに委ねない）が現実的です。エージェントの足場設計はループ設計の記事で扱っています。
精度等について
- 実測はすべてollama 0.31.1＋公開GGUF（mmnga氏・ELYZA公式等の変換版）での結果です。ツール対応はGGUFのチャットテンプレート実装に依存するため、vLLM等の別ランタイムや公式サービングでは挙動が変わる可能性があります。
- FC・連鎖ベンチは6タスク×3回・3タスク×3回の小規模実測で、方向性指標です（要検証）。
- LLM-jp-4はthinking（推論）版のGGUFを計測しました（非thinking版の公開GGUFが見当たらないため）。思考トークンの分だけ応答オーバーヘッドがあります。
- 本記事が測ったのは速度・電力・ツール呼び出しの信頼性です。日本語の文章品質・知識量は測っていません。品質はSwallow公式リーダーボード等の外部評価を参照してください。
- 「中国系モデルのローカル実行に通信リスクがない」は技術的な一般論であり、個別組織のポリシー判断・法的判断を代替するものではありません。
関連
- 開発国×得意分野で選ぶ — 欧州・UAE・米・中を含む横断比較
- 日本語エージェント信頼性ベンチ / エージェント実用度インデックス
- 士業のローカルAI活用 — 守秘義務×ローカルの実践例
- 数値の全文は検証DB（CC BY 4.0）で公開しています。