クラウドAIは便利ですが、通信が届かない/電力が限られる現場では使えません。運営者は第60次南極地域観測隊の同行や測量の現場で、まさにそうした環境を経験しています。そこでは「手元で動くAI」が便利ではなく必須になります。本記事は、現場で動くローカルAIキットの構成と選び方を、当サイトの実測値を交えて整理します。オフライン速度は実測、バッテリ駆動時間は実測電力からの理論推定で示し、実機での連続稼働は手順を添えて順次計測します。
なぜオフラインAIか
通信・電力が限られる現場(災害・山間・船上・僻地)では、クラウド前提のAIは止まります。小型のローカルSLM(数B級)を手元の省電力機材で動かせば、通信ゼロでも要約・翻訳・手順確認などの一次的な作業をこなせます。
想定構成(機材 × モデル)
- 機材:Jetson Orin Nano Super/Raspberry Pi 5/Mac mini M4。省電力・小型が条件。選び方は機材の選び方。
- モデル:2B級SLM(例:Qwen3.5 2B)。オフラインで実用ラインを狙う軽量モデル。
- 用途:現場メモの要約・整形/翻訳・やさしい日本語化/一次的な問答・手順確認。
オフラインでの速度(実測)
朗報があります。ローカル推論は通信を一切使わないため、当サイトの検証DBの実測 tok/s は、そのままオフライン(機内モード/LAN遮断)の速度です。機内モードでも数値は変わりません。
| 機材 | モデル | 生成速度(実測) | 推論時電力(実測) |
|---|---|---|---|
| Raspberry Pi 5 | Qwen3.5 2B (Q8) | 3.7 tok/s | 6.9W |
| Raspberry Pi 5 | Gemma 3 1B (Q4) | 10.8 tok/s | 7.3W |
| Jetson Orin Nano Super | Qwen3.5 4B (Q4) | 12.6 tok/s | 18.7W |
| Mac mini M4 | Qwen3.5 2B (Q8) | 42.1 tok/s | 9.2W |
数値の出典は検証DB、手元の構成で動くかは動くか診断で確認できます。
バッテリ駆動の目安(理論推定・要実測)
「モバイルバッテリで何時間動くか」を、上の実測電力から試算します。これは理論推定で、実機での連続稼働の実測はこれからです(手順は次節)。
仮定:20,000mAhのモバイルバッテリ=公称 約74Wh(3.7V換算)。USB-PD出力の変換ロスを見て実用 約65Whとします(要検証)。下表は検証DBの実測電力(単値)で割った連続推論での目安で、実利用はアイドルを挟むためこれより長持ちします。
| 機材 | 推論時電力(実測・単値) | 20,000mAh(≈65Wh)での連続稼働目安 | 給電・備考 |
|---|---|---|---|
| Raspberry Pi 5 | 6.9W(Qwen3.5 2B) | 約9時間 | USB-C PD給電・最もバッテリ向き |
| Jetson Orin Nano Super | 18.7W(Qwen3.5 4B) | 約3.5時間 | USB-C/DC給電可。軽いモデルなら延びる※ |
| Mac mini M4 | 9.2W(Qwen3.5 2B) | ―(AC必須) | USB-C給電に非対応=ポータブル電源が必要 |
※ 軽量モデルほど電力が下がり駆動時間は延びます(例:Jetson Qwen3.5 0.8Bは約11.6W→約5.5時間相当)。
注記:これは実測電力からの算術推定で、実バッテリでの連続稼働は未計測(=要実測)です。実機では電圧変換ロス・温度・アイドル時間で前後します。
実測の手順(あなたの環境で再現)
実バッテリ駆動時間・コールドスタート・発熱は、次の手順で計測できます(数値が出たら本記事に追記します)。
- 完全オフライン化:機内モード+有線LAN抜線。
pingが外部に通らないことを確認。 - 満充電のモバイルバッテリで給電し、ACを切断。
- 連続推論ループを回す(固定プロンプトを一定間隔で投げ続ける)。電力は
tegrastats(Jetson)/vcgencmd(Pi 5)で1秒間隔サンプリング。 - バッテリが切れるまでの時間を記録=実駆動時間。
- コールドスタート:電源オフ→起動→初回応答までの実時間を別途計測。
つなげて読む
- 災害×ローカルAIの実装事例:妖怪ハザードマップQLoRAケーススタディ
- 構想と論点:ハザードマップ×オフラインAI
- 機材選び:機材の選び方/速度の実測:検証DB
限界(要検証)
- バッテリ駆動の数値は実測電力からの理論推定です。実バッテリでの連続稼働・コールドスタート・発熱は未計測で、上記手順で計測後に追記します。
- 推論時電力は当サイトの実測ですが、アイドル電力は別途。実利用の駆動時間は使い方(連続/断続)で大きく変わります(要検証)。
- 防災・人命に関わる用途では、本キットはあくまで補助です。公式の避難情報・気象警報・自治体ハザードマップを必ず優先してください。