ローカルAIの入門機としてよく並べられるJetson Orin Nano SuperとRaspberry Pi 5ですが、得意分野ははっきり分かれます。この記事では選定軸を5つに絞ってカタログ値で整理し、用途別にどちらを選ぶべきかをまとめます。実測の比較は2026-07-02計測分(3モデル)をこの記事に追記しました。各機材単体でどこまでできるかはJetson単体の実測Pi5単体の実測で詳しく扱っています。

結論

  • ローカルLLM・VLMを動かすことが主目的なら、Jetson Orin Nano Super。メモリ帯域とGPUの差が決定的です(カタログ値に加え、2026-07-02実測でも3モデル中3モデルでJetsonが約3.2〜4.5倍速いことを確認)
  • 常時稼働の小型サーバ・電子工作・カメラ+軽量ビジョン・低予算で始めたいなら、Raspberry Pi 5
  • 「Raspberry Pi 5にAIアクセラレータを足せばJetsonの代わりになる」は、LLM用途では成り立ちません(後述)

選定軸5つの比較(カタログ公称値)

選定軸Jetson Orin Nano Super 8GBRaspberry Pi 5 8GB
メモリ帯域102GB/s(LPDDR5・公称)約17GB/s(LPDDR4X-4267・理論値)
アクセラレータAmpere世代GPU(CUDA対応)+公称67 TOPSなし(CPUは4×Cortex-A76 2.4GHz)。別売AI Kit等でNPU追加可
電力最大25W(7W/15W/25Wのモード切替)公式電源は27W(5V/5A)。実際の消費はそれ以下
エコシステムJetPack(Ubuntuベース)+CUDA/TensorRT。NVIDIAのAIスタックがそのまま使えるRaspberry Pi OS。コミュニティ・書籍・HAT拡張資産の蓄積は最大級
価格帯メーカー想定249ドルメーカー想定80ドル(8GBモデル)

公称値の出典: NVIDIA Jetson Orin 公式Raspberry Pi 5 公式(2026年6月時点)。実売価格は為替・流通で変動するため、最新の価格は記事末尾の購入リンクから確認してください。

なぜメモリ帯域を最初に見るのか

メモリ帯域 GB/s(公称値)
  • Jetson Orin Nano Super102
  • Raspberry Pi 5 8GB17

約6倍差。LLMのデコードはメモリ帯域がボトルネックになりやすく、生成速度の差に直結すると予想(実測で確認)。

LLMの文章生成(デコード)は、1トークン生成するたびにモデルの重み全体をメモリから読み出す処理で、計算能力よりメモリ帯域がボトルネックになりやすい性質があります(一般論)。カタログ値で約6倍ある帯域差は生成速度の差に直結すると予想できますが、実測では3モデル平均で約3.8倍でした(帯域差ほど単純には開かない理由や機材ごとの実効率はPi5単体の実測記事で詳しく解説しています。数値は下記「実測で比べる」を参照)。

「AIアクセラレータを足せばいい」の落とし穴

Raspberry Pi 5には別売のAI Kit/AI HAT+(Hailo製NPU)がありますが、対応するのは物体検出・セグメンテーションなどビジョン系モデルが中心です。LLMもHailo純正のGenAI SDKで動かすこと自体は可能ですが、実測ではCPU実行より遅くなります(実測検証)。LLM高速化の目的でRaspberry Pi 5+NPU構成を選ぶのはおすすめできないため、「AI対応」という表記だけで判断しないことをおすすめします。最新世代のAI HAT+ 2(Hailo-10H)による詳しい対決実測はこちらの記事にまとめています。

用途別の選び方

Jetson Orin Nano Superが向いているケース

  • 7BクラスのローカルLLM・VLMを実用的な速度で動かしたい
  • CUDA前提のフレームワークや、TensorRTでの最適化を試したい
  • カメラ推論でも、より大きいモデル・高いフレームレートを狙いたい

Raspberry Pi 5が向いているケース

  • 常時稼働のホームサーバ・自動化基盤に、軽いAI処理を載せたい
  • GPIOやHATを使った電子工作と組み合わせたい
  • 2〜3Bクラスの小型モデルをCPUで試せれば十分/まず低予算で始めたい

どちらもメモリは8GBなので、7BクラスのQ4_K_M量子化(概算4〜5GB)は「容量としては」両機に載ります。差が出るのは速度です。

実測で比べる

2026-07-02に、ランタイムをollama 0.31.1に揃えた条件で3モデル(LFM2.5 1.2B JP・LFM2.5 230M・Ministral 3 3B)を両機で実測しました。ランタイムのバージョンを揃えたのは、新しいモデルアーキテクチャは旧バージョンだとGPU/CPUカーネルが未対応で性能が正しく出ないことがあるためです(詳細)。

モデルJetson decode(tok/s)Pi5 decode(tok/s)速度差(Jetson/Pi5)Jetson TTFT(ms)Pi5 TTFT(ms)
LFM2.5 1.2B JP57.4614.98約3.8倍252.9255.3
LFM2.5 230M140.5443.84約3.2倍219.1208.7
Ministral 3 3B19.294.24約4.5倍665.8819.8
モデルJetson 消費電力(W)Pi5 消費電力(W)Jetson 最高温度(℃)Pi5 最高温度(℃)
LFM2.5 1.2B JP20.56.659.363.9
LFM2.5 230M15.75.856.159.0
Ministral 3 3B20.76.762.267.8

根拠: Jetson Orin Nano Super 実測一覧Raspberry Pi 5 8GB 実測一覧

実測条件: ollama API実測(ウォームアップ後、本計測2回平均・num_predict=256)。ランタイムは両機ともollama 0.31.1に統一(2026-07-02計測)。入力トークン数はLFM2.5 1.2B JP・LFM2.5 230Mが86、Ministral 3 3Bが638と、モデルにより異なります(各モデルでJetson・Pi5とも同一プロンプト)。温度は計測中の最大値。

速度は3モデルともJetsonが約3.2〜4.5倍速く、公称メモリ帯域の差(102対17GB/s・約6倍)ほどではないものの、帯域の大きいJetsonが優位という結果は選定軸の予想(メモリ帯域律速)と一致します。TTFT(初動)は軽量な2モデルではほぼ互角(Jetson 219〜253ms・Pi5 209〜255ms)ですが、入力が長いMinistral 3 3B(638トークン)ではJetson 666ms・Pi5 820msとやや開きます。消費電力はPi5が5.8〜6.7Wと、Jetson(15.7〜20.7W)の約3分の1に収まり、常時稼働の電気代はPi5が有利です(Pi5の電気代試算Jetsonの電気代試算)。

機材ごとの最新の実測値は、検証DB(Jetson Orin Nano SuperRaspberry Pi 5 8GB)で随時更新します。

よくある質問

Q. ローカルLLMが目的なら、結局どちらを買えばいいですか?

A. Jetson Orin Nano Superです。メモリ帯域とGPUのカタログ値の差が大きく、2026-07-02実測でも3モデル中3モデルでJetsonが約3.2〜4.5倍速いことを確認しています(詳しくは「実測で比べる」を参照)。Raspberry Pi 5で動かせないわけではありませんが、小型モデルをCPUで試す位置づけになります。

Q. Raspberry Pi 5にAI Kitを足せばJetsonの代わりになりますか?

A. LLM用途ではなりません。AI KitのNPUは物体検出などビジョン系モデル向けで、LLM推論の高速化には現状対応していません。

Q. メモリ8GBで7Bクラスのモデルは動きますか?

A. Q4_K_M量子化なら概算4〜5GBのため、容量としてはどちらの機材にも載ります。実用的な速度で動くかは別問題で、実測値を検証DBで公開していきます。

購入リンク

実売価格は変動するため、最新の価格はリンク先で確認してください。

迷ったら、目的が「LLMを動かすこと」ならJetson Orin Nano Super、目的がまだ曖昧で「小さく始めて広く試したい」ならRaspberry Pi 5、というのが本記事の結論です。