広告
GPU搭載PC
RTX A6000 48GB ワークステーション
memory_gb はVRAM容量。自宅GPU上限帯の比較基準として掲載
スペック
| ベンダー | NVIDIA |
|---|---|
| カテゴリ | GPU搭載PC |
| メモリ | 48 GB |
| メモリ帯域 | 768 GB/s |
| AI性能 | — |
| 最大消費電力 | 300 W |
この機材を入手する
価格・在庫は変動します。最新はリンク先でご確認ください。広告
この機材で計測したモデル
- DeepSeek-R1 Distill Qwen 32B32.8B ／ MIT
- Falcon3 7B Instruct7.5B ／ TII Falcon License 2.0
- Gemma 3 1B1B ／ Gemma Terms of Use
- Gemma 3 27B27.4B ／ Gemma
- Gemma 3 4B4.3B ／ Gemma Terms of Use
- Gemma 4 26B (A4B)25.8B ／ Apache-2.0
- Gemma 4 E2B (有効2B / 実5.1B)5.1B ／ Apache-2.0
- Gemma 4 E4B (有効4B / 実8.0B)8B ／ Apache-2.0
- GLM-OCR1.1B ／ MIT
- gpt-oss 20B (MoE)20.9B ／ Apache-2.0
- Granite 3.3 8B Instruct8.2B ／ Apache-2.0
- LFM2.5 1.2B JP1.17B ／ LFM Open License v1.0
- LFM2.5 230M0.23B ／ LFM Open License v1.0
- LFM2.5 8B A1B8.5B ／ LFM Open License v1.0
- Llama-3-ELYZA-JP-8B8.03B ／ Llama 3 Community License
- Llama 3.1 8B Instruct8B ／ Llama 3.1 Community License
- Llama 3.1 Swallow 8B Instruct v0.58.03B ／ Llama 3.1 Community License + Gemma Terms of Use
- Llama 3.2 1B Instruct1.2B ／ Llama 3.2 Community License
- Llama 3.2 3B Instruct3.2B ／ Llama 3.2 Community License
- LLM-jp-4 8B (thinking)8.59B ／ Apache-2.0
- MiniCPM-V 4.61.3B ／ Apache-2.0
- Ministral 3 14B13.9B ／ Apache-2.0
- Ministral 3 3B3.8B ／ Apache-2.0
- Ministral 3 8B8.9B ／ Apache-2.0
- Mistral 7B Instruct v0.37.2B ／ Apache-2.0
- Mistral Nemo (12B)12.2B ／ Apache-2.0
- Mistral Small 3 (24B)23.6B ／ Apache-2.0
- Mixtral 8x7B Instruct (MoE)46.7B ／ Apache-2.0
- Nemotron 3 Nano 4B4B ／ NVIDIA Nemotron Open Model License
- Phi-414.7B ／ MIT
- Phi-4-mini Instruct3.8B ／ MIT
- Qwen2.5 0.5B0.5B ／ Apache-2.0
- Qwen2.5 1.5B Instruct1.5B ／ Apache-2.0
- Qwen2.5 14B14.8B ／ Apache-2.0
- Qwen2.5 32B Instruct32.8B ／ Apache-2.0
- Qwen2.5 3B Instruct3.1B ／ Qwen Research License
- Qwen2.5 7B Instruct7.6B ／ Apache-2.0
- Qwen2.5 Coder 32B Instruct32.8B ／ Apache-2.0
- Qwen2.5 Coder 7B Instruct7.6B ／ Apache-2.0
- Qwen3 1.7B1.7B ／ Apache-2.0
- Qwen3 30B (A3B)30.5B ／ Apache-2.0
- Qwen3-VL 2B2.1B ／ Apache-2.0
- Qwen3-VL 8B8.8B ／ Apache-2.0
- Qwen3.5 0.8B0.8B ／ Apache-2.0
- Qwen3.5 2B2.3B ／ Apache-2.0
- Qwen3.5 4B4.7B ／ Apache-2.0
- Qwen3.6 27B27.8B ／ Apache-2.0
- Qwen3.6 35B (A3B)36B ／ Apache-2.0
- Sarashina 2.2 3B Instruct3.36B ／ MIT
- SmolLM2 1.7B Instruct1.7B ／ Apache-2.0
- Teuken 7B Instruct (EU)7.5B ／ Apache-2.0
全計測データ
| モデル | 量子化 | ランタイム | tok/s | TTFT(ms) | 温度(℃) | 計測日 |
|---|---|---|---|---|---|---|
| GLM-OCR | Q8_0 | ollama 0.31.2 | 473.2 | 104 | 59 | 2026-07-15 |
| MiniCPM-V 4.6 | Q4_K_M | ollama 0.31.2 | 298.7 | 270 | 59 | 2026-07-15 |
| Nemotron 3 Nano 4B | Q4_K_M | ollama 0.31.2 | 166.5 | 229 | 64 | 2026-07-15 |
| Qwen2.5 Coder 7B Instruct | Q4_K_M | ollama 0.31.2 | 115.9 | 165 | 60 | 2026-07-15 |
| Qwen3-VL 8B | Q4_K_M | ollama 0.31.2 | 104.1 | 200 | 56 | 2026-07-15 |
| Gemma 3 4B | Q4_K_M | ollama 0.31.2 | 146.4 | 409 | 61 | 2026-07-14 |
| Qwen2.5 0.5B | Q4_K_M | ollama 0.31.2 | 423.4 | 159 | 50 | 2026-07-14 |
| Qwen2.5 14B | Q4_K_M | ollama 0.31.2 | 64.3 | 178 | 67 | 2026-07-14 |
| Qwen2.5 Coder 32B Instruct | Q4_K_M | ollama 0.31.2 | 29.8 | 205 | 70 | 2026-07-14 |
| Qwen3 30B (A3B) | Q4_K_M | ollama 0.31.2 | 160.6 | 171 | 55 | 2026-07-14 |
| Qwen3 30B (A3B) | Q8_0 | ollama 0.31.2 | 124.3 | 165 | 59 | 2026-07-14 |
| Qwen3.5 2B | Q8_0 | ollama 0.31.2 | 188.9 | 297 | 58 | 2026-07-14 |
| Qwen3-VL 2B | Q4_K_M | ollama 0.31.2 | 268.2 | 180 | 56 | 2026-07-14 |
| Llama-3-ELYZA-JP-8B | Q4_K_M | ollama 0.31.1 | 112.2 | 189 | 64 | 2026-07-07 |
| gpt-oss 20B (MoE) | MXFP4 | ollama 0.31.1 | 132.8 | 331 | 60 | 2026-07-07 |
| LLM-jp-4 8B (thinking) | Q4_K_M | ollama 0.31.1 | 106.0 | 148 | 68 | 2026-07-07 |
| Sarashina 2.2 3B Instruct | Q4_K_M | ollama 0.31.1 | 180.9 | 99 | 61 | 2026-07-07 |
| Llama 3.1 Swallow 8B Instruct v0.5 | Q4_K_M | ollama 0.31.1 | 111.9 | 191 | 68 | 2026-07-07 |
| LFM2.5 1.2B JP | Q4_K_M | ollama 0.30.8 | 448.9 | 81 | 65 | 2026-07-02 |
| LFM2.5 230M | Q8_0 | ollama 0.30.8 | 735.8 | 82 | 60 | 2026-07-02 |
| Ministral 3 14B | Q4_K_M | ollama 0.30.8 | 62.3 | 239 | 64 | 2026-07-02 |
| Ministral 3 3B | Q4_K_M | ollama 0.30.8 | 177.5 | 217 | 53 | 2026-07-02 |
| Ministral 3 8B | Q4_K_M | ollama 0.30.8 | 94.7 | 224 | 59 | 2026-07-02 |
| DeepSeek-R1 Distill Qwen 32B | Q4_K_M | ollama 0.30.8 | 30.4 | 210 | 79 | 2026-06-22 |
| Falcon3 7B Instruct | Q4_K_M | ollama 0.30.8 | 117.4 | 139 | 69 | 2026-06-22 |
| Gemma 3 27B | Q4_K_M | ollama 0.30.8 | 33.0 | 474 | 76 | 2026-06-22 |
| Mistral Nemo (12B) | Q4_0 | ollama 0.30.8 | 81.4 | 202 | 66 | 2026-06-22 |
| Mistral Small 3 (24B) | Q4_K_M | ollama 0.30.8 | 42.9 | 217 | 62 | 2026-06-22 |
| Mixtral 8x7B Instruct (MoE) | Q4_0 | ollama 0.30.8 | 78.8 | 49 | 70 | 2026-06-22 |
| Qwen3.6 27B | Q4_K_M | ollama 0.30.8 | 33.5 | 374 | 78 | 2026-06-22 |
| Teuken 7B Instruct (EU) | F16 | ollama 0.30.8 | 42.3 | 205 | 80 | 2026-06-22 |
| Granite 3.3 8B Instruct | Q4_K_M | ollama 0.30.8 | 102.2 | 83 | 59 | 2026-06-21 |
| Mistral 7B Instruct v0.3 | F16 | ollama 0.30.8 | 28.8 | 76 | 77 | 2026-06-21 |
| Mistral 7B Instruct v0.3 | Q4_K_M | ollama 0.30.8 | 114.8 | 47 | 79 | 2026-06-21 |
| Mistral 7B Instruct v0.3 | Q8_0 | ollama 0.30.8 | 73.7 | 53 | 79 | 2026-06-21 |
| Phi-4 | Q4_K_M | ollama 0.30.8 | 65.6 | 131 | 65 | 2026-06-21 |
| Qwen2.5 32B Instruct | Q4_K_M | ollama 0.30.8 | 30.6 | 195 | 68 | 2026-06-21 |
| Llama 3.1 8B Instruct | F16 | ollama 0.30.8 | 43.1 | 214 | 71 | 2026-06-18 |
| Llama 3.1 8B Instruct | Q4_K_M | ollama 0.30.8 | 111.2 | 199 | 57 | 2026-06-18 |
| Llama 3.1 8B Instruct | Q8_0 | ollama 0.30.8 | 73.6 | 200 | 63 | 2026-06-18 |
| Qwen2.5 7B Instruct | F16 | ollama 0.30.8 | 45.1 | 172 | 69 | 2026-06-18 |
| Qwen2.5 7B Instruct | Q4_K_M | ollama 0.30.8 | 117.4 | 151 | 57 | 2026-06-18 |
| Qwen2.5 7B Instruct | Q8_0 | ollama 0.30.8 | 77.2 | 161 | 62 | 2026-06-18 |
| Gemma 3 1B | Q4_K_M | ollama 0.30.7 | 245.4 | 386 | 55 | 2026-06-16 |
| Gemma 4 E2B (有効2B / 実5.1B) | Q4_K_M | ollama 0.30.7 | 166.5 | 389 | 63 | 2026-06-16 |
| Gemma 4 E4B (有効4B / 実8.0B) | Q4_K_M | ollama 0.30.7 | 110.5 | 398 | 68 | 2026-06-16 |
| Llama 3.2 1B Instruct | Q8_0 | ollama 0.30.7 | 315.8 | 182 | 53 | 2026-06-16 |
| Llama 3.2 3B Instruct | Q4_K_M | ollama 0.30.7 | 201.8 | 193 | 55 | 2026-06-16 |
| Phi-4-mini Instruct | Q4_K_M | ollama 0.30.7 | 166.8 | 205 | 60 | 2026-06-16 |
| Qwen2.5 1.5B Instruct | Q4_K_M | ollama 0.30.7 | 282.1 | 153 | 53 | 2026-06-16 |
| Qwen2.5 3B Instruct | Q4_K_M | ollama 0.30.7 | 191.3 | 154 | 61 | 2026-06-16 |
| Qwen3 1.7B | Q4_K_M | ollama 0.30.7 | 294.2 | 153 | 57 | 2026-06-16 |
| Qwen3.5 0.8B | Q8_0 | ollama 0.30.7 | 266.9 | 283 | 53 | 2026-06-16 |
| SmolLM2 1.7B Instruct | Q8_0 | ollama 0.30.7 | 242.4 | 68 | 63 | 2026-06-16 |
| Gemma 4 26B (A4B) | Q4_K_M | ollama 0.30.7 | 99.6 | 407 | 64 | 2026-06-12 |
| LFM2.5 8B A1B | Q4_K_M | ollama 0.30.7 | 283.9 | 205 | 61 | 2026-06-12 |
| Qwen3.5 4B | Q4_K_M | ollama 0.30.7 | 123.5 | 313 | 60 | 2026-06-12 |
| Qwen3.6 35B (A3B) | Q4_K_M | ollama 0.30.7 | 122.1 | 314 | 67 | 2026-06-12 |
※ 数値はすべて自前機材での実測です（ollama API・2回平均・num_predict=256）。
この機材を使った記事
- 巨大MoEはローカルで動くか【「収まる」と「使える」を実測で線引き】数百B級の巨大オープンMoE（Hy3・MiMo-V2.5）が話題ですが、「動く」論の中身はMoE・GGUF・量子化の3要素。当サイト178件・5機材の自前実測DBで検証し、「メモリに収まる」と「実用速度で使える」の境界を正直に線引きします。
- ローカルLLMが遅い・GPUが使われない時の原因と対処【実測】ローカルLLMが急に遅い/GPUを使わずCPUに落ちる時の切り分けを実測で。まずollama psでGPU%を確認し、VRAM不足・同居プロセス・モデル過大を疑う。JetsonのCPUフォールバックは約3.8 tok/sまで低下した。
- ローカルVLM実測比較：日本語で本当に使えるのは？画像も見るローカルVLMをA6000で実測。qwen3-vl・gemma3/4・moondreamを速度・VRAM・電力＋日本語画像タスクで比較。qwen3-vl:2bが2Bで満点かつ最速、英語専用のmoondreamは日本語で全滅した。
- ローカルLLM 必要VRAM早見表【パラメータ数×量子化】ローカルLLMの必要VRAMをパラメータ数×量子化で早見表化。Q4_K_Mは約0.7GB/B、7Bで約5GB・32Bで約22GB・70Bで約49GB。KVキャッシュとMoEの扱い、手元のGPUで何が載るかまで実測ベースで整理。
- 国産ローカルLLMを実測【地政学リスクと日本語エージェントの現実】Sarashina・LLM-jp-4・Swallow・ELYZAをA6000で実測。中国系モデルを使えない組織のための国産・非中国系ローカルLLM選定ガイド。速度・電力に加え、日本語ツール呼び出しの意外な実態を一次データで示します。
- 士業のローカルAI活用【守秘義務と両立する文書AI】弁護士・税理士・司法書士など守秘義務を負う士業では、依頼者情報をクラウドAIに送る運用が悩みどころです。依頼者情報を事務所の外に出さないローカルLLMの構成と使いどころを、日本語FC・過剰拒否の自前実測を基に整理します。
- MCPでツールを増やすとローカルLLMは壊れるか【5/15/30個を7モデル実測】MCP時代のエージェントはツール定義を数十個モデルに渡します。「ツールが増えると選択精度が落ちる」は日本語ローカルLLMでも本当か——似た名前のトラップを仕込んだ5/15/30個の3条件×7モデル・378試行をA6000で実測しました。
- AIのグラウンディングをローカルで実践【幻覚を抑える3つの接地】ローカルAIの幻覚を抑える「グラウンディング（接地）」を実践解説。RAG・ツール接地・出典付けの3手法を、ローカル埋め込み＋オフラインで自分のデータに接地する方法・必要スペック・限界までまとめます。
- ローカルLLMの生成速度は「メモリ帯域」で決まる【TOPS神話】ローカルLLMの生成速度は演算性能(TOPS)ではなくメモリ帯域でほぼ決まる。自前の機種横断実測と、1000 TOPSのDGX Sparkが70Bで遅い理由を、帯域律速のroofline「載る・動く・使える」で解説します。
- 新世代エッジHWでローカルLLMは速くなるのか【AI PC/NPU/Thor】2026-2027の新世代エッジHW（Copilot+ AI PCのNPU・大容量ユニファイドメモリ機・Jetson Thor）でローカルLLMは本当に速くなるのか。TOPSの誇大とメモリ帯域の現実、結局何を買うべきかを実測の視点で整理します。
- ローカルAIでループエンジニアリング【3機種で総実時間を実測】エージェントの「ループ＝足場」をローカルで設計・運用する実践ガイド。同じ多段ループをA6000・RTX4060ノート・Mac mini M4で実測。成否は機材非依存でも総実時間は機材で激変——暴走ガード・文脈管理・VRAM適合などループ設計の勘所を一次データで示します。
- ローカルAI PoCを成功させる完全ガイド【段階導入・実測・業種別】ローカルAIのPoCは段階的に小さく始め、用途で族を選び、機材に合わせるのが成功の核。自前実測56件（A6000〜Mac〜Jetson〜Pi5）と段階導入・業種別・PoC事例で、投資を最小化しつつ失敗を避ける進め方を示します。
- ローカルLLMを開発国×得意分野で選ぶ【A6000実測・日本語評価】中国勢が席巻するローカルLLM。仏Mistral・UAE Falcon・EU TeukenなどA6000で自前実測し、開発国ごとの違い・実測速度/電力・日本語ファンクションコール能力・VRAM/RAM/量子化の関係まで横断比較します。
- GLM-5.2はローカルで動くか：必要スペックを試算【最新ニュース】Z.aiが2026年6月に公開した753BのオープンモデルGLM-5.2。MITで自由に使えますが、自宅やワークステーションで動かすには何が要るのか。必要メモリを量子化別に試算し、現実的な選択肢を正直に整理します。
- AIの電力問題とローカルAIという答え【tok/s/Wで考える】生成AIのデータセンター電力は2026年に世界の約2%へ急増。ローカルAIは万能ではないが『用途に最小十分なモデル×電力効率の良い機材』で消費を抑える選択肢。tok/s/Wの実測で環境視点の選び方を示します。
- 自宅GPUでローカルAI：RTX 5090・4090・3090・A6000の選び方ローカルLLM用の自宅GPUはVRAMが命。RTX 5090(32GB)・4090(24GB)・中古3090(24GB)・A6000(48GB)を、必要VRAM・帯域・消費電力・2026年6月の日本相場（品薄高騰）・電気代まで含めて選びます。
- ローカルAIの量子化はどれを選ぶ？【Q4/Q8の精度・メモリ・速度】ローカルLLMの量子化（Q4_K_M・Q8_0・fp16）は精度・メモリ・速度のトレードオフ。A6000実測でQ4はQ8の約1.5倍速く精度低下は小さいことを示し、用途別の選び方を整理します。
- エージェント能力はチャット能力と別物【専用評価が要る理由】チャットが得意なモデル＝エージェントが得意、ではありません。本質的な違いは『ループを誰が回すか』。なぜチャット用ベンチがエージェント性能を予測しないのか、外部研究と当サイトの実測で構造化して論証します。
- エッジで動かす小型AI(SLM)実測ランキング【tok/s/W】Jetson・Raspberry Pi 5・Mac mini M4・A6000で小型AI(SLM)を実測。速度(tok/s)だけでなく電力効率(tok/s/W)で並べると、オフライン・低電力で常時稼働させる最適解が見えます。商用可否つきモデル表・再現手順・機材の選び方まで。
- ローカルAIの実力をどう測るか【能力×実行性の2層プロトコル】「速い＝良い」でも「賢い＝使える」でもない。当サイトはモデルの能力(L1)と機材での実行性(L2)を分けて測ります。最終状態での合否判定、能力×実行性マトリクスで、ローカルAI選びの“測り方”そのものを公開します。
- ローカルAIエージェント実用度スコアカード【7軸を実測で総合評価】ローカルAIエージェントに使うなら結局どのモデルが良いか。連鎖成功率・ツール信頼性・速度・文脈長・ライセンスを自前で実測し、総合スコアで一覧化。用途別のおすすめと、悪意あるモデル・エージェントへの対策までまとめます。
- ローカルAI機材の選び方【実測でわかる買うべき1台】ローカルAIを始めるならどの機材を買うべきか。Raspberry Pi 5・Jetson・Mac mini M4・RTX A6000を、自前の実測（生成速度・電力効率・動くモデル範囲）で比較し、予算と用途別に最適な1台を示します。
- ローカルLLMのfunction calling＆連鎖を実測【AIエージェント7モデル】AIエージェントの土台「ツール呼び出し」をローカルLLM7モデルで実測。単発は89〜100%でほぼ横並びでも、前の結果を使うマルチターン連鎖にすると56〜100%へ大きく差が開きます。量子化の影響も含め一次実測で正直にまとめます。
- ローカルLLMの「過剰拒否」を実測【正当な質問に答えるか】ローカルLLMは、医療・法律・防御的セキュリティなど『正当で無害な質問』に、誤って答えを断っていないか（過剰拒否）。7モデルを実測したところ、ほぼ全モデルが過剰拒否ゼロ。唯一の例外と、その意味を正直にまとめます。
- ローカルAIの電力効率（tok/s/W）実測【MoEが省エネ王】ローカルAIの「省電力」は総消費電力だけでは語れない。1トークンあたりのエネルギー効率（tok/s/W）を自前で実測すると、MoEモデルが効率的（実測で約3倍差）で、絶対消費電力の小ささと効率は別物だと分かります。
- 会社にローカルAIを設置して社員で共有する方法【社内AIサーバー入門】機密データを外に出さずに、社員みんなでAIを使う。1台のGPUサーバーにローカルLLMとOpen WebUIを立て、ブラウザから全社共有する構成・必要ハードウェア・コストの損益分岐を、図とグラフでわかりやすく解説します。
- 巨大モデルをローカルで動かす【Kimi K2.7級・大規模AIの現実】Kimi K2.7のような1兆パラメータ級の巨大モデルは、自宅やワークステーションで動くのか。VRAMの壁・量子化の限界・MoEの効きを、必要メモリの現実と自前の実測で正直に整理します。
- ローカルAIでできるデモ【自分の機材で動かす本格7選】ブラウザやクラウドではできない、ローカルAIならではのデモを7つ厳選。大型モデルとの対話・自分の資料へのRAG・自前Copilot・画像生成・無人自動化まで、最小手順と必要スペックを実測ベースで解説します。
- ローカルAIでできること【用途別の必要スペックと機材選び】自宅のPCやエッジ機材でローカルAIは何ができるのか。チャット・コード補助・文字起こし・画像生成など用途別に、必要なメモリ目安とおすすめ機材帯を自前の実測データで整理します。