ローカルAIを、実測で選ぶ。
PC・自宅GPU・Jetson・Raspberry PiでローカルAIを動かす人のための実測メディア。すべての数値は自前機材での計測値です。
このサイトでできること
検証DB
機材×モデル×量子化の実測マトリクス。tok/s・TTFT・温度を同条件で比較。
実機再現
デモを手元で動かすための部品表（BOM）・手順・コードを実測ベースで記録。
比較選定
ローカルAI機材の実機比較と購入判断ガイド。カタログ値ではなく実測で選ぶ。
トラブルシュート
JetPack / Hailo SDK / llama.cpp のハマりどころと回避策。
最新の計測
| 機材 | モデル | 量子化 | tok/s | TTFT(ms) | 計測日 |
|---|---|---|---|---|---|
| RTX A6000 48GB ワークステーション | Gemma 4 26B (A4B) | Q4_K_M | 99.6 | 407 | 2026-06-12 |
| RTX A6000 48GB ワークステーション | LFM2.5 8B A1B | Q4_K_M | 283.9 | 205 | 2026-06-12 |
| RTX A6000 48GB ワークステーション | Qwen3.5 4B | Q4_K_M | 123.5 | 313 | 2026-06-12 |
| RTX A6000 48GB ワークステーション | Qwen3.6 35B (A3B) | Q4_K_M | 122.1 | 314 | 2026-06-12 |
| Jetson Orin Nano Super 8GB | Qwen3.5 4B | Q4_K_M | 9.3 | 1322 | 2026-06-12 |
※ 数値はすべて自前機材での実測です（ollama API・2回平均・num_predict=256）。
最新の記事
トラブルシュート2026-06-12
Jetson Orin Nanoをモニタなしで初期設定する（ヘッドレスセットアップ）
モニタ・キーボードを繋がずにJetson Orin Nanoを初期設定する手順。USBデバイスモードのIP固定値とよくあるハマりどころ。