Raspberry Pi 5 8GBは最安・最省電力のローカルAI入門機としてよく挙がりますが、GPUもNPUも持たないCPU単体でどこまで実用になるのでしょうか。AI HAT+ 2などのアクセラレータを足す前の「素のPi5」を、自前実測11件で確かめます（AI HAT+ 2を足した場合の実測は別記事、GPUを積むJetsonとの比較はJetson版にまとめています）。
結論
- 実用ラインは1.5B前後: Qwen2.5 1.5B（Q4_K_M）が10.62 tok/sで、黙読に追いつく目安（約7〜10 tok/s）をちょうど超えます。2B以上は2〜4 tok/s台まで失速し（8B級は2 tok/s未満）、待たされ感が強くなります。
- 最速はLFM2.5 230M（0.23B）: 43.84 tok/s・TTFT 208.7ms。日本語チューニング済みのLFM2.5 1.2B JPも14.98 tok/sと健闘しています。
- 遅さの理由はメモリ帯域（公称約17GB/s）の律速です。演算力ではなく「1トークンごとに読み出す量」で速度が決まるため、モデルが大きいほど比例して遅くなる傾向があります（詳しくは後述）。
- 消費電力は全11件が5.8〜7.9Wと極めて低く、常時稼働に向きます。24時間稼働の電気代は全モデルで月200円未満です。
- VLM（画像対話）・音声対話は当サイトでは未実測（計測プラン参照）。コーディング補助も、生成速度は実測がありますが精度は未計測です。
自前実測11件の全記録
2026年6〜7月に計測した全11件です。速度（tok/s）の速い順に並べています。
| モデル | 量子化 | 速度（tok/s） | TTFT（ms） | 消費電力（W） | 最高温度（℃） | ランタイム | 計測日 |
|---|---|---|---|---|---|---|---|
| LFM2.5 230M | Q8_0 | 43.84 | 208.7 | 5.8 | 59.0 | ollama 0.31.1 | 2026-07-02 |
| LFM2.5 1.2B JP | Q4_K_M | 14.98 | 255.3 | 6.6 | 63.9 | ollama 0.31.1 | 2026-07-02 |
| Gemma 3 1B | Q4_K_M | 10.84 | 1217.1 | 7.3 | 71.6 | ollama 0.24.0 | 2026-06-16 |
| Qwen2.5 1.5B | Q4_K_M | 10.62 | 644.4 | 7.9 | 71.0 | ollama 0.24.0 | 2026-06-16 |
| Llama 3.2 1B | Q8_0 | 7.77 | 675.9 | 6.9 | 68.3 | ollama 0.24.0 | 2026-06-23 |
| Qwen3 1.7B | Q4_K_M | 7.67 | 687.7 | 7.7 | 71.6 | ollama 0.24.0 | 2026-06-16 |
| Ministral 3 3B | Q4_K_M | 4.24 | 819.8 | 6.7 | 67.8 | ollama 0.31.1 | 2026-07-02 |
| Qwen3.5 2B | Q8_0 | 3.73 | 4756.7 | 6.9 | 68.8 | ollama 0.24.0 | 2026-06-14 |
| Gemma 3 4B | Q4_K_M | 3.59 | 1536.7 | 7.5 | 72.7 | ollama 0.24.0 | 2026-06-23 |
| Qwen3.5 4B | Q4_K_M | 2.24 | 11261.1 | 7.5 | 72.7 | ollama 0.24.0 | 2026-06-14 |
| Ministral 3 8B | Q4_K_M | 1.96 | 1102.4 | 6.8 | 68.3 | ollama 0.31.1 | 2026-07-02 |
※ 数値はすべて自前機材での実測です（ollama API・2回平均・num_predict=256）。ランタイムはollama 0.24.0／0.31.1が混在します。Pi5でも0.24.0→0.31.1への更新だけでLFM2.5 230Mが1.64倍（26.73→43.84 tok/s）速くなっており、CPUオンリー機でもランタイムのバージョンが速度に効きます。温度は計測中の最大値、電源は公式27W USB-PD・アクティブクーラー装着で計測しています。
なぜ大きいモデルが遅いか（メモリ帯域律速）
Raspberry Pi 5のメモリはLPDDR4X-4267・公称約17GB/sです（機材データ）。LLMの生成（デコード）は1トークンごとにモデルの重み全体をメモリから読み出す処理で、速度の天井は演算力ではなくメモリ帯域で決まります。この論旨はTOPS神話の検証で実測しているとおりで、詳しい理屈はメモリ帯域律速の解説記事にまとめています。
理論上限は次式で見積もれます（帯域が同じ機材内で、モデルサイズだけを変えた場合の目安）。
理論上限 tok/s ≒ メモリ帯域(GB/s) ÷ モデルサイズ(GB)（実効はこの3〜7割程度。必要VRAM早見表のQ4_K_M目安「パラメータ数×約0.7GB」でサイズを概算）
Pi5実測の4モデルに当てはめると、次のようになります。
| モデル | パラメータ数 | 概算サイズ（Q4_K_M・目安） | 理論上限（tok/s） | 実測（tok/s） | 実効率 |
|---|---|---|---|---|---|
| Gemma 3 1B | 1.0B | 約0.7GB | 24.3 | 10.84 | 45% |
| Qwen2.5 1.5B | 1.5B | 約1.05GB | 16.2 | 10.62 | 66% |
| Qwen3.5 4B | 4.7B | 約3.29GB | 5.2 | 2.24 | 43% |
| Ministral 3 8B | 8.9B | 約6.23GB | 2.7 | 1.96 | 72% |
実効率は45〜72%とばらつきますが、既存記事の「実効はこの3〜7割程度」に近い水準（Ministral 3 8Bは72%とやや上振れ）で、モデルサイズが大きいほど遅くなる傾向がはっきり出ています（目安の概算・経験則/要検証）。ただし厳密には比例ではなく、アーキテクチャによる差もあります。たとえばLlama 3.2 1B（1.2B）はQwen2.5 1.5B（1.5B）よりパラメータ数が少ないのに実測は遅い（7.77 対 10.62 tok/s）——パラメータ数だけでなく設計の効率差も無視できません。
用途別に判定する
実測データがある用途は実測から、ない用途は正直に「未実測」と書きます。
| 用途 | 判定 | 根拠 |
|---|---|---|
| 日本語チャット | ○ | 日本語チューニング済みのLFM2.5 1.2B JPが14.98 tok/s・TTFT 255.3ms。1.5B前後まではおおむね10 tok/s台で黙読に追いつく目安を超えるが、2B以上は2〜4 tok/s台に失速する（8B級は2 tok/s未満） |
| VLM（画像を見て答える） | 未実測 | Pi5でのVLM計測は当サイトではまだない。計測プラン参照 |
| 音声対話（STT→LLM→TTS） | 未実測 | 計測プラン参照 |
| コーディング補助 | 未実測 | 小型モデルは速度自体は十分（最大43.84 tok/s）だが精度は未計測。3B以上は速度も1.96〜4.24 tok/sと不足しがち。計測プラン参照 |
| 常時稼働サーバ | ◎ | 全11件が5.8〜7.9WとJetsonの半分以下の電力で常時稼働できる |
電力効率と電気代（Pi5は激安）
電力効率はtok/s ÷ 消費電力(W)、24時間稼働の電気代は消費電力(W) ÷ 1000 × 24時間 × 31円/kWhで計算しています。
| モデル | 消費電力（W） | tok/s/W | 電気代（円/日） | 電気代（円/月・30日換算） |
|---|---|---|---|---|
| LFM2.5 230M | 5.8 | 7.56 | 4.3 | 129 |
| LFM2.5 1.2B JP | 6.6 | 2.27 | 4.9 | 147 |
| Gemma 3 1B | 7.3 | 1.48 | 5.4 | 163 |
| Qwen2.5 1.5B | 7.9 | 1.34 | 5.9 | 176 |
| Llama 3.2 1B | 6.9 | 1.13 | 5.1 | 154 |
| Qwen3 1.7B | 7.7 | 1.00 | 5.7 | 172 |
| Ministral 3 3B | 6.7 | 0.63 | 5.0 | 150 |
| Qwen3.5 2B | 6.9 | 0.54 | 5.1 | 154 |
| Gemma 3 4B | 7.5 | 0.48 | 5.6 | 167 |
| Qwen3.5 4B | 7.5 | 0.30 | 5.6 | 167 |
| Ministral 3 8B | 6.8 | 0.29 | 5.1 | 152 |
全11件が24時間稼働でも月200円未満です（最大でもQwen2.5 1.5Bの176円）。Jetson Orin Nano Super（実測記事）の月259〜462円と比べても、Pi5の電気代の低さは際立ちます。ただし本試算は生成中の消費電力がそのまま24時間続いた場合の理論上限で、実運用はこれより下がります（経験則/要検証）。
8GBと16GBの考え方
Raspberry Pi 5にはメモリ容量違いの構成がありますが、速度（tok/s）はメモリ容量そのものでは決まりません。前述のとおり生成速度を決めるのはメモリ帯域（LPDDR4X-4267・公称約17GB/s）で、この帯域は容量を増やしても基本的に変わらないと考えられます（当サイトでは容量違いの横並び実測はしておらず、経験則/要検証です）。
容量が増えて変わるのは「載る」モデルの上限です。8GBでは7B級がQ4_K_M概算約5GBにOS・KVキャッシュの余裕を足すとギリギリですが、容量が大きいほどより大きなモデルや長い文脈（KVキャッシュ）が載るようになります。ただし「載る」ことと「実用速度で動く」ことは別問題で、本記事の実測が示すとおりPi5では2B超のモデルはメモリに載っても速度が実用ラインを割り込みます。メモリを増やすより、まず帯域に見合うモデルサイズ（1.5B前後）に絞るほうが効果的というのが実測からの示唆です（必要VRAM早見表）。
購入リンク
- Raspberry Pi 5 8GB：Amazonで見る広告・Amazon
- Raspberry Pi 5 8GB（楽天）：楽天で見る広告・楽天
実売価格は変動するため、最新の価格はリンク先で確認してください。全数値は検証DB、手元の構成で動くかは動くか診断で確認できます。