広告
SBC
Raspberry Pi 5 8GB
アクティブクーラー装着・公式27W USB-PD電源で計測。8GB機の実用上限はメモリと速度——最新世代でも小型モデル（Llama 3.2 1B等）は動くが大型は載らない・遅い。旧ollamaでも最新モデルの取得・実行は可能だが、新アーキはCPUカーネルも版数依存で速度が変わる（LFM2.5 230Mはollama 0.24.0→0.31.1更新のみで1.64倍・2026-07-02実測）。
スペック
| ベンダー | Raspberry Pi |
|---|---|
| カテゴリ | SBC |
| メモリ | 8 GB |
| メモリ帯域 | 17 GB/s |
| AI性能 | — |
| 最大消費電力 | 27 W |
この機材を入手する
価格・在庫は変動します。最新はリンク先でご確認ください。広告
この機材で計測したモデル
- Falcon3 7B Instruct7.5B ／ TII Falcon License 2.0
- Gemma 3 1B1B ／ Gemma Terms of Use
- Gemma 3 4B4.3B ／ Gemma Terms of Use
- Gemma 4 E2B (有効2B / 実5.1B)5.1B ／ Apache-2.0
- GLM-OCR1.1B ／ MIT
- Granite 3.3 8B Instruct8.2B ／ Apache-2.0
- LFM2.5 1.2B JP1.17B ／ LFM Open License v1.0
- LFM2.5 230M0.23B ／ LFM Open License v1.0
- LFM2.5 8B A1B8.5B ／ LFM Open License v1.0
- Llama-3-ELYZA-JP-8B8.03B ／ Llama 3 Community License
- Llama 3.1 8B Instruct8B ／ Llama 3.1 Community License
- Llama 3.1 Swallow 8B Instruct v0.58.03B ／ Llama 3.1 Community License + Gemma Terms of Use
- Llama 3.2 1B Instruct1.2B ／ Llama 3.2 Community License
- Llama 3.2 3B Instruct3.2B ／ Llama 3.2 Community License
- LLM-jp-4 8B (thinking)8.59B ／ Apache-2.0
- MiniCPM-V 4.61.3B ／ Apache-2.0
- Ministral 3 3B3.8B ／ Apache-2.0
- Ministral 3 8B8.9B ／ Apache-2.0
- Mistral 7B Instruct v0.37.2B ／ Apache-2.0
- Nemotron 3 Nano 4B4B ／ NVIDIA Nemotron Open Model License
- Phi-4-mini Instruct3.8B ／ MIT
- Qwen2.5 0.5B0.5B ／ Apache-2.0
- Qwen2.5 1.5B Instruct1.5B ／ Apache-2.0
- Qwen2.5 3B Instruct3.1B ／ Qwen Research License
- Qwen2.5 7B Instruct7.6B ／ Apache-2.0
- Qwen2.5 Coder 7B Instruct7.6B ／ Apache-2.0
- Qwen3 1.7B1.7B ／ Apache-2.0
- Qwen3-VL 2B2.1B ／ Apache-2.0
- Qwen3-VL 8B8.8B ／ Apache-2.0
- Qwen3.5 0.8B0.8B ／ Apache-2.0
- Qwen3.5 2B2.3B ／ Apache-2.0
- Qwen3.5 4B4.7B ／ Apache-2.0
- Sarashina 2.2 3B Instruct3.36B ／ MIT
- SmolLM2 1.7B Instruct1.7B ／ Apache-2.0
全計測データ
| モデル | 量子化 | ランタイム | tok/s | TTFT(ms) | 温度(℃) | 計測日 |
|---|---|---|---|---|---|---|
| Llama-3-ELYZA-JP-8B | Q4_K_M | ollama 0.31.1 | 2.0 | 1020 | 68 | 2026-07-15 |
| Falcon3 7B Instruct | Q4_K_M | ollama 0.31.1 | 2.1 | 864 | 71 | 2026-07-15 |
| GLM-OCR | F16 | ollama 0.31.1 | 6.7 | 388 | 66 | 2026-07-15 |
| Granite 3.3 8B Instruct | Q4_K_M | ollama 0.31.1 | 1.9 | 657 | 68 | 2026-07-15 |
| LFM2.5 8B A1B | Q4_K_M | ollama 0.31.1 | 8.8 | 879 | 66 | 2026-07-15 |
| Llama 3.1 8B Instruct | Q4_K_M | ollama 0.31.1 | 2.0 | 1002 | 68 | 2026-07-15 |
| LLM-jp-4 8B (thinking) | Q4_K_M | ollama 0.31.1 | 1.9 | 906 | 68 | 2026-07-15 |
| MiniCPM-V 4.6 | Q4_K_M | ollama 0.31.1 | 14.5 | 804 | 63 | 2026-07-15 |
| Mistral 7B Instruct v0.3 | Q4_K_M | ollama 0.31.1 | 2.4 | 474 | 70 | 2026-07-15 |
| Nemotron 3 Nano 4B | Q4_K_M | ollama 0.31.1 | 3.1 | 1132 | 68 | 2026-07-15 |
| Qwen2.5 7B Instruct | Q4_K_M | ollama 0.31.1 | 2.2 | 867 | 69 | 2026-07-15 |
| Qwen2.5 Coder 7B Instruct | Q4_K_M | ollama 0.31.1 | 2.2 | 871 | 67 | 2026-07-15 |
| Qwen3-VL 8B | Q4_K_M | ollama 0.31.1 | 2.1 | 1093 | 67 | 2026-07-15 |
| Llama 3.1 Swallow 8B Instruct v0.5 | Q4_K_M | ollama 0.31.1 | 2.0 | 1037 | 68 | 2026-07-15 |
| Gemma 4 E2B (有効2B / 実5.1B) | Q4_K_M | ollama 0.31.1 | 6.3 | 1564 | 68 | 2026-07-14 |
| Llama 3.2 3B Instruct | Q4_K_M | ollama 0.31.1 | 4.5 | 745 | 68 | 2026-07-14 |
| Phi-4-mini Instruct | Q4_K_M | ollama 0.31.1 | 3.9 | 801 | 69 | 2026-07-14 |
| Qwen2.5 0.5B | Q4_K_M | ollama 0.31.1 | 25.1 | 487 | 65 | 2026-07-14 |
| Qwen2.5 3B Instruct | Q4_K_M | ollama 0.31.1 | 5.2 | 598 | 68 | 2026-07-14 |
| Qwen3.5 0.8B | Q8_0 | ollama 0.31.1 | 10.8 | 931 | 65 | 2026-07-14 |
| Qwen3-VL 2B | Q4_K_M | ollama 0.31.1 | 9.4 | 594 | 67 | 2026-07-14 |
| Sarashina 2.2 3B Instruct | Q4_K_M | ollama 0.31.1 | 4.5 | 455 | 68 | 2026-07-14 |
| SmolLM2 1.7B Instruct | Q8_0 | ollama 0.31.1 | 5.3 | 322 | 67 | 2026-07-14 |
| LFM2.5 1.2B JP | Q4_K_M | ollama 0.31.1 | 15.0 | 255 | 64 | 2026-07-02 |
| LFM2.5 230M | Q8_0 | ollama 0.31.1 | 43.8 | 209 | 59 | 2026-07-02 |
| Ministral 3 3B | Q4_K_M | ollama 0.31.1 | 4.2 | 820 | 68 | 2026-07-02 |
| Ministral 3 8B | Q4_K_M | ollama 0.31.1 | 2.0 | 1102 | 68 | 2026-07-02 |
| Gemma 3 4B | Q4_K_M | ollama 0.24.0 | 3.6 | 1537 | 73 | 2026-06-23 |
| Llama 3.2 1B Instruct | Q8_0 | ollama 0.24.0 | 7.8 | 676 | 68 | 2026-06-23 |
| Gemma 3 1B | Q4_K_M | ollama 0.24.0 | 10.8 | 1217 | 72 | 2026-06-16 |
| Qwen2.5 1.5B Instruct | Q4_K_M | ollama 0.24.0 | 10.6 | 644 | 71 | 2026-06-16 |
| Qwen3 1.7B | Q4_K_M | ollama 0.24.0 | 7.7 | 688 | 72 | 2026-06-16 |
| Qwen3.5 2B | Q8_0 | ollama 0.24.0 | 3.7 | 4757 | 69 | 2026-06-14 |
| Qwen3.5 4B | Q4_K_M | ollama 0.24.0 | 2.2 | 11261 | 73 | 2026-06-14 |
※ 数値はすべて自前機材での実測です（ollama API・2回平均・num_predict=256）。
この機材を使った記事
- 巨大MoEはローカルで動くか【「収まる」と「使える」を実測で線引き】数百B級の巨大オープンMoE（Hy3・MiMo-V2.5）が話題ですが、「動く」論の中身はMoE・GGUF・量子化の3要素。当サイト178件・5機材の自前実測DBで検証し、「メモリに収まる」と「実用速度で使える」の境界を正直に線引きします。
- 8GB機でモデル切替は何秒損するか【Raspberry Pi 5・Jetson・RTX 4060 Laptop実測】8GB機3台（Raspberry Pi 5・Jetson Orin Nano Super・RTX 4060 Laptop）でOllamaのモデル切替コストを実測。数十秒かかるコールドロードと、Jetsonで実績あるモデルが4回中4回ロード失敗する断片化リスクを、48試行の実測データで記録します。
- Jetson Orin Nano Super vs Raspberry Pi 5：ローカルAI機材の選び方Jetson Orin Nano SuperとRaspberry Pi 5、ローカルAIにはどちらを選ぶべきか。メモリ帯域・アクセラレータ・電力・エコシステム・価格帯の5軸をカタログ値で整理し、用途別の選び方を解説します。
- Raspberry Pi 5 + AI HAT+ 2 でLLMは速くなるのか【実測で検証】Pi5にAI HAT+ 2（Hailo-10H・40TOPS）を足すとLLMは速くなるか、同一プロンプトの自前実測で検証。生成は7.05対CPU9.72 tok/sとむしろ遅く、電力は2.4Wへ大幅減。プリフィルと生成は別物という結論を実測で示します。
- Raspberry Pi 5（CPUのみ）はどこまでできるか【自前実測11件】Raspberry Pi 5（CPUのみ）は何ができるか。自前実測11件では実用ラインは1.5B前後。帯域17GB/s律速の理由・用途別判定表・電力効率と電気代（月200円未満）を実測データで整理します。
- 建設・測量の現場でローカルAIを使う【通信が細い現場での実践】山間部・造成中の現場・地下構造物など、通信が不安定な建設・測量現場ではクラウドAIが止まります。現場で動くローカルAI機材の構成と、現場日報の要約・マニュアル検索などの使いどころを、当サイトの実測データを基に整理します。
- 警備・防犯カメラをローカルAIで動かす【映像を外に出さない物体検知】防犯・警備カメラの物体検知（人物・車両検知）は、映像を外部に送らずローカルで完結させやすいタスクです。Raspberry Pi 5+AI HAT2+（Hailo-10H）の実測（YOLOv8m 76.25 FPS）を基に、低コストな構成の作り方を整理します。
- TOPS神話の検証【NPUの公称値はローカルLLM速度を予測しない】Hailo-10H（AI HAT2+・40TOPS）でLLMを動かし実測。画像は最大25倍速くなる一方、LLM生成はHailo経由（decode専用計測）でも7.05 tok/sとCPU実行(9.72 tok/s)より遅い結果に。TOPSがLLM速度を予測しない理由をJetson・CPUとの3機材比較で検証します。
- ローカルLLMの生成速度は「メモリ帯域」で決まる【TOPS神話】ローカルLLMの生成速度は演算性能(TOPS)ではなくメモリ帯域でほぼ決まる。自前の機種横断実測と、1000 TOPSのDGX Sparkが70Bで遅い理由を、帯域律速のroofline「載る・動く・使える」で解説します。
- 通信が途絶しても動く 災害・現場のローカルAIキット通信も電力も限られる災害現場・僻地で、手元だけで動くローカルAIキットの構成と選び方。オフライン速度は検証DBの実測、バッテリ駆動時間は実測電力からの理論推定（実機実測は手順付きでこれから）。南極・測量現場の経験から。
- ローカルAI PoCを成功させる完全ガイド【段階導入・実測・業種別】ローカルAIのPoCは段階的に小さく始め、用途で族を選び、機材に合わせるのが成功の核。自前実測56件（A6000〜Mac〜Jetson〜Pi5）と段階導入・業種別・PoC事例で、投資を最小化しつつ失敗を避ける進め方を示します。
- 低スペック機でデジタル格差を埋めるローカルAI通信や電力が不安定でも、月額課金がなくても使えるAIを。Raspberry Piや中古PCで動く小型AI(SLM)の実測から、教育・医療過疎・オフライン環境でローカルAIが格差是正に果たせる役割を考えます。
- AIの電力問題とローカルAIという答え【tok/s/Wで考える】生成AIのデータセンター電力は2026年に世界の約2%へ急増。ローカルAIは万能ではないが『用途に最小十分なモデル×電力効率の良い機材』で消費を抑える選択肢。tok/s/Wの実測で環境視点の選び方を示します。
- エッジで動かす小型AI(SLM)実測ランキング【tok/s/W】Jetson・Raspberry Pi 5・Mac mini M4・A6000で小型AI(SLM)を実測。速度(tok/s)だけでなく電力効率(tok/s/W)で並べると、オフライン・低電力で常時稼働させる最適解が見えます。商用可否つきモデル表・再現手順・機材の選び方まで。
- ローカルAI機材の選び方【実測でわかる買うべき1台】ローカルAIを始めるならどの機材を買うべきか。Raspberry Pi 5・Jetson・Mac mini M4・RTX A6000を、自前の実測（生成速度・電力効率・動くモデル範囲）で比較し、予算と用途別に最適な1台を示します。
- ローカルAIの電力効率（tok/s/W）実測【MoEが省エネ王】ローカルAIの「省電力」は総消費電力だけでは語れない。1トークンあたりのエネルギー効率（tok/s/W）を自前で実測すると、MoEモデルが効率的（実測で約3倍差）で、絶対消費電力の小ささと効率は別物だと分かります。
- ローカルAIでできるデモ【自分の機材で動かす本格7選】ブラウザやクラウドではできない、ローカルAIならではのデモを7つ厳選。大型モデルとの対話・自分の資料へのRAG・自前Copilot・画像生成・無人自動化まで、最小手順と必要スペックを実測ベースで解説します。
- ローカルAIでできること【用途別の必要スペックと機材選び】自宅のPCやエッジ機材でローカルAIは何ができるのか。チャット・コード補助・文字起こし・画像生成など用途別に、必要なメモリ目安とおすすめ機材帯を自前の実測データで整理します。