広告
Jetson
Jetson Orin Nano Super 8GB
8GB機。実用上限はメモリと速度——最新世代でも小型モデル（Llama 3.2 1B等）は動くが大型は載らない・遅い。旧ollamaでも最新モデルの取得・実行は可能だが、新アーキはGPUカーネル対応が版数依存で桁違いに遅くなり得る（LFM2.5はollama 0.21.2→0.31.1更新のみで7.3倍高速化・2026-07-02実測）。
スペック
| ベンダー | NVIDIA |
|---|---|
| カテゴリ | Jetson |
| メモリ | 8 GB |
| メモリ帯域 | 102 GB/s |
| AI性能 | 67 TOPS |
| 最大消費電力 | 25 W |
この機材を入手する
価格・在庫は変動します。最新はリンク先でご確認ください。広告
この機材で計測したモデル
- Gemma 3 1B1B ／ Gemma Terms of Use
- Gemma 3 4B4.3B ／ Gemma Terms of Use
- Gemma 4 E2B (有効2B / 実5.1B)5.1B ／ Apache-2.0
- LFM2.5 1.2B JP1.17B ／ LFM Open License v1.0
- LFM2.5 230M0.23B ／ LFM Open License v1.0
- Llama 3.2 1B Instruct1.2B ／ Llama 3.2 Community License
- MiniCPM-V 4.61.3B ／ Apache-2.0
- Ministral 3 3B3.8B ／ Apache-2.0
- Qwen2.5 0.5B0.5B ／ Apache-2.0
- Qwen2.5 1.5B Instruct1.5B ／ Apache-2.0
- Qwen3 1.7B1.7B ／ Apache-2.0
- Qwen3-VL 2B2.1B ／ Apache-2.0
- Qwen3.5 0.8B0.8B ／ Apache-2.0
- Qwen3.5 4B4.7B ／ Apache-2.0
全計測データ
| モデル | 量子化 | ランタイム | tok/s | TTFT(ms) | 温度(℃) | 計測日 |
|---|---|---|---|---|---|---|
| Gemma 3 4B | Q4_K_M | ollama 0.31.1 | 16.2 | 2019 | 58 | 2026-07-15 |
| Gemma 4 E2B (有効2B / 実5.1B) | Q4_K_M | ollama 0.31.1 | 23.4 | 2046 | 56 | 2026-07-15 |
| MiniCPM-V 4.6 | Q4_K_M | ollama 0.31.1 | 37.9 | 1341 | 52 | 2026-07-15 |
| Qwen3 1.7B | Q4_K_M | ollama 0.31.1 | 36.4 | 742 | 56 | 2026-07-15 |
| Gemma 3 1B | Q4_K_M | ollama 0.31.1 | 34.4 | 1778 | 54 | 2026-07-14 |
| Qwen2.5 0.5B | Q4_K_M | ollama 0.31.1 | 75.7 | 718 | 54 | 2026-07-14 |
| LFM2.5 1.2B JP | Q4_K_M | ollama 0.31.1 | 57.5 | 253 | 59 | 2026-07-02 |
| LFM2.5 230M | Q8_0 | ollama 0.31.1 | 140.5 | 219 | 56 | 2026-07-02 |
| Ministral 3 3B | Q4_K_M | ollama 0.31.1 | 19.3 | 666 | 62 | 2026-07-02 |
| Llama 3.2 1B Instruct | Q8_0 | ollama 0.21.2 | 45.9 | 1266 | 55 | 2026-06-23 |
| Qwen3-VL 2B | Q4_K_M | ollama 0.21.2 | 36.4 | 717 | 58 | 2026-06-23 |
| Qwen2.5 1.5B Instruct | Q4_K_M | ollama 0.21.2 | 35.6 | 1243 | 56 | 2026-06-16 |
| Qwen3.5 0.8B | Q8_0 | ollama 0.21.2 | 21.8 | 1188 | 56 | 2026-06-16 |
| Qwen3.5 4B | Q4_K_M | ollama 0.21.2 | 12.6 | 1536 | 63 | 2026-06-14 |
※ 数値はすべて自前機材での実測です（ollama API・2回平均・num_predict=256）。
この機材を使った記事
- 8GB機でモデル切替は何秒損するか【Raspberry Pi 5・Jetson・RTX 4060 Laptop実測】8GB機3台（Raspberry Pi 5・Jetson Orin Nano Super・RTX 4060 Laptop）でOllamaのモデル切替コストを実測。数十秒かかるコールドロードと、Jetsonで実績あるモデルが4回中4回ロード失敗する断片化リスクを、48試行の実測データで記録します。
- Jetson Orin Nano Super はどこまでできるか【自前実測8件】Jetson Orin Nano Super 8GBは何ができて何ができないか。自前実測8件の全記録・用途別判定表・電力効率と電気代試算を実測データで整理。7〜8B級は外部報告値と今後の実測予定として分けて示します。
- Jetson Orin Nano Super vs Raspberry Pi 5：ローカルAI機材の選び方Jetson Orin Nano SuperとRaspberry Pi 5、ローカルAIにはどちらを選ぶべきか。メモリ帯域・アクセラレータ・電力・エコシステム・価格帯の5軸をカタログ値で整理し、用途別の選び方を解説します。
- ローカルLLMが遅い・GPUが使われない時の原因と対処【実測】ローカルLLMが急に遅い/GPUを使わずCPUに落ちる時の切り分けを実測で。まずollama psでGPU%を確認し、VRAM不足・同居プロセス・モデル過大を疑う。JetsonのCPUフォールバックは約3.8 tok/sまで低下した。
- 建設・測量の現場でローカルAIを使う【通信が細い現場での実践】山間部・造成中の現場・地下構造物など、通信が不安定な建設・測量現場ではクラウドAIが止まります。現場で動くローカルAI機材の構成と、現場日報の要約・マニュアル検索などの使いどころを、当サイトの実測データを基に整理します。
- TOPS神話の検証【NPUの公称値はローカルLLM速度を予測しない】Hailo-10H（AI HAT2+・40TOPS）でLLMを動かし実測。画像は最大25倍速くなる一方、LLM生成はHailo経由（decode専用計測）でも7.05 tok/sとCPU実行(9.72 tok/s)より遅い結果に。TOPSがLLM速度を予測しない理由をJetson・CPUとの3機材比較で検証します。
- ローカルLLMの生成速度は「メモリ帯域」で決まる【TOPS神話】ローカルLLMの生成速度は演算性能(TOPS)ではなくメモリ帯域でほぼ決まる。自前の機種横断実測と、1000 TOPSのDGX Sparkが70Bで遅い理由を、帯域律速のroofline「載る・動く・使える」で解説します。
- 通信が途絶しても動く 災害・現場のローカルAIキット通信も電力も限られる災害現場・僻地で、手元だけで動くローカルAIキットの構成と選び方。オフライン速度は検証DBの実測、バッテリ駆動時間は実測電力からの理論推定（実機実測は手順付きでこれから）。南極・測量現場の経験から。
- ローカルAI PoCを成功させる完全ガイド【段階導入・実測・業種別】ローカルAIのPoCは段階的に小さく始め、用途で族を選び、機材に合わせるのが成功の核。自前実測56件（A6000〜Mac〜Jetson〜Pi5）と段階導入・業種別・PoC事例で、投資を最小化しつつ失敗を避ける進め方を示します。
- 低スペック機でデジタル格差を埋めるローカルAI通信や電力が不安定でも、月額課金がなくても使えるAIを。Raspberry Piや中古PCで動く小型AI(SLM)の実測から、教育・医療過疎・オフライン環境でローカルAIが格差是正に果たせる役割を考えます。
- AIの電力問題とローカルAIという答え【tok/s/Wで考える】生成AIのデータセンター電力は2026年に世界の約2%へ急増。ローカルAIは万能ではないが『用途に最小十分なモデル×電力効率の良い機材』で消費を抑える選択肢。tok/s/Wの実測で環境視点の選び方を示します。
- エッジで動かす小型AI(SLM)実測ランキング【tok/s/W】Jetson・Raspberry Pi 5・Mac mini M4・A6000で小型AI(SLM)を実測。速度(tok/s)だけでなく電力効率(tok/s/W)で並べると、オフライン・低電力で常時稼働させる最適解が見えます。商用可否つきモデル表・再現手順・機材の選び方まで。
- ローカルAI機材の選び方【実測でわかる買うべき1台】ローカルAIを始めるならどの機材を買うべきか。Raspberry Pi 5・Jetson・Mac mini M4・RTX A6000を、自前の実測（生成速度・電力効率・動くモデル範囲）で比較し、予算と用途別に最適な1台を示します。
- ローカルAIの電力効率（tok/s/W）実測【MoEが省エネ王】ローカルAIの「省電力」は総消費電力だけでは語れない。1トークンあたりのエネルギー効率（tok/s/W）を自前で実測すると、MoEモデルが効率的（実測で約3倍差）で、絶対消費電力の小ささと効率は別物だと分かります。
- ローカルAIでできるデモ【自分の機材で動かす本格7選】ブラウザやクラウドではできない、ローカルAIならではのデモを7つ厳選。大型モデルとの対話・自分の資料へのRAG・自前Copilot・画像生成・無人自動化まで、最小手順と必要スペックを実測ベースで解説します。
- ローカルAIでできること【用途別の必要スペックと機材選び】自宅のPCやエッジ機材でローカルAIは何ができるのか。チャット・コード補助・文字起こし・画像生成など用途別に、必要なメモリ目安とおすすめ機材帯を自前の実測データで整理します。
- Jetson Orin Nanoをモニタなしで初期設定する（ヘッドレスセットアップ）モニタ・キーボードを繋がずにJetson Orin Nanoを初期設定する手順。USBデバイスモードのIP固定値とよくあるハマりどころ。