ローカルAIの入門機としてよく並べられるJetson Orin Nano SuperとRaspberry Pi 5ですが、得意分野ははっきり分かれます。この記事では選定軸を5つに絞ってカタログ値で整理し、用途別にどちらを選ぶべきかをまとめます。実測の比較は2026-07-02計測分(3モデル)をこの記事に追記しました。各機材単体でどこまでできるかはJetson単体の実測・Pi5単体の実測で詳しく扱っています。
結論
- ローカルLLM・VLMを動かすことが主目的なら、Jetson Orin Nano Super。メモリ帯域とGPUの差が決定的です(カタログ値に加え、2026-07-02実測でも3モデル中3モデルでJetsonが約3.2〜4.5倍速いことを確認)
- 常時稼働の小型サーバ・電子工作・カメラ+軽量ビジョン・低予算で始めたいなら、Raspberry Pi 5
- 「Raspberry Pi 5にAIアクセラレータを足せばJetsonの代わりになる」は、LLM用途では成り立ちません(後述)
選定軸5つの比較(カタログ公称値)
| 選定軸 | Jetson Orin Nano Super 8GB | Raspberry Pi 5 8GB |
|---|---|---|
| メモリ帯域 | 102GB/s(LPDDR5・公称) | 約17GB/s(LPDDR4X-4267・理論値) |
| アクセラレータ | Ampere世代GPU(CUDA対応)+公称67 TOPS | なし(CPUは4×Cortex-A76 2.4GHz)。別売AI Kit等でNPU追加可 |
| 電力 | 最大25W(7W/15W/25Wのモード切替) | 公式電源は27W(5V/5A)。実際の消費はそれ以下 |
| エコシステム | JetPack(Ubuntuベース)+CUDA/TensorRT。NVIDIAのAIスタックがそのまま使える | Raspberry Pi OS。コミュニティ・書籍・HAT拡張資産の蓄積は最大級 |
| 価格帯 | メーカー想定249ドル | メーカー想定80ドル(8GBモデル) |
公称値の出典: NVIDIA Jetson Orin 公式/Raspberry Pi 5 公式(2026年6月時点)。実売価格は為替・流通で変動するため、最新の価格は記事末尾の購入リンクから確認してください。
なぜメモリ帯域を最初に見るのか
- Jetson Orin Nano Super102
- Raspberry Pi 5 8GB17
約6倍差。LLMのデコードはメモリ帯域がボトルネックになりやすく、生成速度の差に直結すると予想(実測で確認)。
LLMの文章生成(デコード)は、1トークン生成するたびにモデルの重み全体をメモリから読み出す処理で、計算能力よりメモリ帯域がボトルネックになりやすい性質があります(一般論)。カタログ値で約6倍ある帯域差は生成速度の差に直結すると予想できますが、実測では3モデル平均で約3.8倍でした(帯域差ほど単純には開かない理由や機材ごとの実効率はPi5単体の実測記事で詳しく解説しています。数値は下記「実測で比べる」を参照)。
「AIアクセラレータを足せばいい」の落とし穴
Raspberry Pi 5には別売のAI Kit/AI HAT+(Hailo製NPU)がありますが、対応するのは物体検出・セグメンテーションなどビジョン系モデルが中心です。LLMもHailo純正のGenAI SDKで動かすこと自体は可能ですが、実測ではCPU実行より遅くなります(実測検証)。LLM高速化の目的でRaspberry Pi 5+NPU構成を選ぶのはおすすめできないため、「AI対応」という表記だけで判断しないことをおすすめします。最新世代のAI HAT+ 2(Hailo-10H)による詳しい対決実測はこちらの記事にまとめています。
用途別の選び方
Jetson Orin Nano Superが向いているケース
- 7BクラスのローカルLLM・VLMを実用的な速度で動かしたい
- CUDA前提のフレームワークや、TensorRTでの最適化を試したい
- カメラ推論でも、より大きいモデル・高いフレームレートを狙いたい
Raspberry Pi 5が向いているケース
- 常時稼働のホームサーバ・自動化基盤に、軽いAI処理を載せたい
- GPIOやHATを使った電子工作と組み合わせたい
- 2〜3Bクラスの小型モデルをCPUで試せれば十分/まず低予算で始めたい
どちらもメモリは8GBなので、7BクラスのQ4_K_M量子化(概算4〜5GB)は「容量としては」両機に載ります。差が出るのは速度です。
実測で比べる
2026-07-02に、ランタイムをollama 0.31.1に揃えた条件で3モデル(LFM2.5 1.2B JP・LFM2.5 230M・Ministral 3 3B)を両機で実測しました。ランタイムのバージョンを揃えたのは、新しいモデルアーキテクチャは旧バージョンだとGPU/CPUカーネルが未対応で性能が正しく出ないことがあるためです(詳細)。
| モデル | Jetson decode(tok/s) | Pi5 decode(tok/s) | 速度差(Jetson/Pi5) | Jetson TTFT(ms) | Pi5 TTFT(ms) |
|---|---|---|---|---|---|
| LFM2.5 1.2B JP | 57.46 | 14.98 | 約3.8倍 | 252.9 | 255.3 |
| LFM2.5 230M | 140.54 | 43.84 | 約3.2倍 | 219.1 | 208.7 |
| Ministral 3 3B | 19.29 | 4.24 | 約4.5倍 | 665.8 | 819.8 |
| モデル | Jetson 消費電力(W) | Pi5 消費電力(W) | Jetson 最高温度(℃) | Pi5 最高温度(℃) |
|---|---|---|---|---|
| LFM2.5 1.2B JP | 20.5 | 6.6 | 59.3 | 63.9 |
| LFM2.5 230M | 15.7 | 5.8 | 56.1 | 59.0 |
| Ministral 3 3B | 20.7 | 6.7 | 62.2 | 67.8 |
実測条件: ollama API実測(ウォームアップ後、本計測2回平均・
num_predict=256)。ランタイムは両機ともollama 0.31.1に統一(2026-07-02計測)。入力トークン数はLFM2.5 1.2B JP・LFM2.5 230Mが86、Ministral 3 3Bが638と、モデルにより異なります(各モデルでJetson・Pi5とも同一プロンプト)。温度は計測中の最大値。
速度は3モデルともJetsonが約3.2〜4.5倍速く、公称メモリ帯域の差(102対17GB/s・約6倍)ほどではないものの、帯域の大きいJetsonが優位という結果は選定軸の予想(メモリ帯域律速)と一致します。TTFT(初動)は軽量な2モデルではほぼ互角(Jetson 219〜253ms・Pi5 209〜255ms)ですが、入力が長いMinistral 3 3B(638トークン)ではJetson 666ms・Pi5 820msとやや開きます。消費電力はPi5が5.8〜6.7Wと、Jetson(15.7〜20.7W)の約3分の1に収まり、常時稼働の電気代はPi5が有利です(Pi5の電気代試算/Jetsonの電気代試算)。
機材ごとの最新の実測値は、検証DB(Jetson Orin Nano Super/Raspberry Pi 5 8GB)で随時更新します。
よくある質問
Q. ローカルLLMが目的なら、結局どちらを買えばいいですか?
A. Jetson Orin Nano Superです。メモリ帯域とGPUのカタログ値の差が大きく、2026-07-02実測でも3モデル中3モデルでJetsonが約3.2〜4.5倍速いことを確認しています(詳しくは「実測で比べる」を参照)。Raspberry Pi 5で動かせないわけではありませんが、小型モデルをCPUで試す位置づけになります。
Q. Raspberry Pi 5にAI Kitを足せばJetsonの代わりになりますか?
A. LLM用途ではなりません。AI KitのNPUは物体検出などビジョン系モデル向けで、LLM推論の高速化には現状対応していません。
Q. メモリ8GBで7Bクラスのモデルは動きますか?
A. Q4_K_M量子化なら概算4〜5GBのため、容量としてはどちらの機材にも載ります。実用的な速度で動くかは別問題で、実測値を検証DBで公開していきます。
購入リンク
実売価格は変動するため、最新の価格はリンク先で確認してください。
- Jetson Orin Nano Super 8GB:Amazonで見る広告・Amazon
- Raspberry Pi 5 8GB:Amazonで見る広告・Amazon
迷ったら、目的が「LLMを動かすこと」ならJetson Orin Nano Super、目的がまだ曖昧で「小さく始めて広く試したい」ならRaspberry Pi 5、というのが本記事の結論です。