「ローカルAIを始めたいが、どの機材を買えばいいか」——結論は用途と予算で決まる。カタログ値ではなく、当サイトが同一条件で実測した生成速度・電力効率をもとに、迷わない選び方を示します。数値の出どころは検証DB、手元構成での可否は動くか診断で確認できます。

結論（用途別の早見）

  • まず最安で試す／常時稼働の小さなAI → Raspberry Pi 5（8GB）
  • 省電力で組み込み・カメラ推論も → Jetson Orin Nano Super（8GB）
  • 静音・省電力で“万能な1台”、8Bまで快適 → Mac mini M4（16GB） ← 迷ったらこれ
  • 27〜35Bの大型やMoE・画像生成まで → RTX A6000（48GB）級のGPU

実測で比較（同じ Qwen3.5 4B）

生成速度 tok/s（Qwen3.5 4B・Q4_K_M・自前実測）
  • RTX A6000 48GB124
  • Mac mini M4 16GB29.3
  • Jetson Orin Nano 8GB12.6
  • Raspberry Pi 5 8GB2.2

実用ライン 10 tok/s（黙読に追いつく目安）

「動く」と「快適」は別物。Pi5は4Bだと実用ラインを下回り、2Bモデルなら改善する。

機材価格帯（目安）メモリ生成速度電力効率快適に動く範囲向く人
Raspberry Pi 5 8GB約1.3万円〜8GB約2.2 tok/s0.30 tok/s/W2〜4B（小型）最安・電子工作・常時稼働
Jetson Orin Nano Super 8GB約3.7万円〜8GB約12.6 tok/s0.67 tok/s/W4〜8B省電力GPU・組み込み・カメラ推論
Mac mini M4 16GB約9万円〜16GB約29 tok/s2.38 tok/s/W2〜8B（MoEは約80 tok/s）静音・万能・デスク常設
RTX A6000 48GB高価（WS向け）48GB約124 tok/s0.57 tok/s/W27〜35B・画像生成大型モデル・上限帯の基準

価格は変動します（経験則・要検証）。速度は当サイト実測（ollama API・2回平均・num_predict=256）。電力は機種で測定境界が異なるため tok/s/W は目安（電力効率の記事参照）。

各機材の向き・不向きと購入

Raspberry Pi 5（8GB）— 最安で始める常時稼働機

2〜4Bの軽量モデルでチャット・要約・文字起こしが動きます。生成は控えめ（対話は2Bクラスが快適）ですが、約7.5Wの低消費電力で24時間動かしても安く、GPIO/HATで電子工作と組み合わせられます。「まず数千円で試す」「小さなAIを常駐させる」に最適。

Jetson Orin Nano Super（8GB）— 省電力GPUのエッジ機

4〜8Bを25W級の省電力で、約12.6 tok/s（黙読に追いつく実用域）。CUDA/TensorRTが使え、カメラ推論や組み込み・常設デモに好適。モニタなし初期設定も可能です。

Mac mini M4（16GB）— 迷ったらこれ。万能で効率最高

統合メモリで2〜8Bを高効率に動かせ、MoEのLFM2.5 8Bは約80 tok/s、Qwen3.5 4Bでも約29 tok/sと余裕。**電力効率は当フリート最高（2.38 tok/s/W）**で静音・省電力。普段使いのPCを兼ねつつローカルAIをデスクに常設したい人の最有力です。詳細はMac mini M4の実測へ。

RTX A6000（48GB）級 — 大型モデルの上限帯

27〜35BクラスのMoEや画像生成まで射程に入る、自宅GPUの上限帯の基準。高価でワークステーション向けのため、まずは上記3機種で始め、必要になったら検討する位置づけです。大型モデルの現実はKimi K2.7級・大規模AIの現実に、16GB機で大型が“載らない”実測例もまとめています。

失敗しない買い方の順番

  1. 動かしたいモデルサイズを決める（要約・分類なら4〜8Bで十分なことが多い）
  2. そのモデルがメモリに載るかを動くか診断で確認（理論値の他機材も比較可）
  3. 実測の速度・電力効率を検証DBで確認
  4. 予算と用途で1台を選ぶ（迷ったらMac mini M4、最安はPi5、省電力GPUはJetson）

「高価なGPUが必須」というイメージは誤解で、用途を絞れば数千円〜数万円の機材でも十分実用になります。まず手元の予算で始め、足りなければ上の段へ拡張するのが堅実です。