クラウドAIは便利ですが、通信が届かない/電力が限られる現場では使えません。運営者は第60次南極地域観測隊の同行や測量の現場で、まさにそうした環境を経験しています。そこでは「手元で動くAI」が便利ではなく必須になります。本記事は、現場で動くローカルAIキットの構成と選び方を、当サイトの実測値を交えて整理します。オフライン速度は実測、バッテリ駆動時間は実測電力からの理論推定で示し、実機での連続稼働は手順を添えて順次計測します。

なぜオフラインAIか

通信・電力が限られる現場(災害・山間・船上・僻地)では、クラウド前提のAIは止まります。小型のローカルSLM(数B級)を手元の省電力機材で動かせば、通信ゼロでも要約・翻訳・手順確認などの一次的な作業をこなせます。

想定構成(機材 × モデル)

  • 機材:Jetson Orin Nano Super/Raspberry Pi 5/Mac mini M4。省電力・小型が条件。選び方は機材の選び方
  • モデル:2B級SLM(例:Qwen3.5 2B)。オフラインで実用ラインを狙う軽量モデル。
  • 用途:現場メモの要約・整形/翻訳・やさしい日本語化/一次的な問答・手順確認。

オフラインでの速度(実測)

朗報があります。ローカル推論は通信を一切使わないため、当サイトの検証DBの実測 tok/s は、そのままオフライン(機内モード/LAN遮断)の速度です。機内モードでも数値は変わりません。

機材モデル生成速度(実測)推論時電力(実測)
Raspberry Pi 5Qwen3.5 2B (Q8)3.7 tok/s6.9W
Raspberry Pi 5Gemma 3 1B (Q4)10.8 tok/s7.3W
Jetson Orin Nano SuperQwen3.5 4B (Q4)12.6 tok/s18.7W
Mac mini M4Qwen3.5 2B (Q8)42.1 tok/s9.2W

数値の出典は検証DB、手元の構成で動くかは動くか診断で確認できます。

バッテリ駆動の目安(理論推定・要実測)

「モバイルバッテリで何時間動くか」を、上の実測電力から試算します。これは理論推定で、実機での連続稼働の実測はこれからです(手順は次節)。

仮定:20,000mAhのモバイルバッテリ=公称 約74Wh(3.7V換算)。USB-PD出力の変換ロスを見て実用 約65Whとします(要検証)。下表は検証DBの実測電力(単値)で割った連続推論での目安で、実利用はアイドルを挟むためこれより長持ちします。

機材推論時電力(実測・単値)20,000mAh(≈65Wh)での連続稼働目安給電・備考
Raspberry Pi 56.9W(Qwen3.5 2B)約9時間USB-C PD給電・最もバッテリ向き
Jetson Orin Nano Super18.7W(Qwen3.5 4B)約3.5時間USB-C/DC給電可。軽いモデルなら延びる※
Mac mini M49.2W(Qwen3.5 2B)―(AC必須)USB-C給電に非対応=ポータブル電源が必要

※ 軽量モデルほど電力が下がり駆動時間は延びます(例:Jetson Qwen3.5 0.8Bは約11.6W→約5.5時間相当)。

注記:これは実測電力からの算術推定で、実バッテリでの連続稼働は未計測(=要実測)です。実機では電圧変換ロス・温度・アイドル時間で前後します。

実測の手順(あなたの環境で再現)

実バッテリ駆動時間・コールドスタート・発熱は、次の手順で計測できます(数値が出たら本記事に追記します)。

  1. 完全オフライン化:機内モード+有線LAN抜線。ping が外部に通らないことを確認。
  2. 満充電のモバイルバッテリで給電し、ACを切断。
  3. 連続推論ループを回す(固定プロンプトを一定間隔で投げ続ける)。電力は tegrastats(Jetson)/vcgencmd(Pi 5)で1秒間隔サンプリング。
  4. バッテリが切れるまでの時間を記録=実駆動時間。
  5. コールドスタート:電源オフ→起動→初回応答までの実時間を別途計測。

つなげて読む

限界(要検証)

  • バッテリ駆動の数値は実測電力からの理論推定です。実バッテリでの連続稼働・コールドスタート・発熱は未計測で、上記手順で計測後に追記します。
  • 推論時電力は当サイトの実測ですが、アイドル電力は別途。実利用の駆動時間は使い方(連続/断続)で大きく変わります(要検証)。
  • 防災・人命に関わる用途では、本キットはあくまで補助です。公式の避難情報・気象警報・自治体ハザードマップを必ず優先してください。