Articles
記事一覧
検証・実機再現・比較選定・トラブルシュートの4型で記事を整理しています。数値・手順はすべて自前機材での実測にもとづきます。
最新記事
最近公開した記事（新しい順）。
比較選定2026-07-21
巨大MoEはローカルで動くか【「収まる」と「使える」を実測で線引き】
数百B級の巨大オープンMoE（Hy3・MiMo-V2.5）が話題ですが、「動く」論の中身はMoE・GGUF・量子化の3要素。当サイト178件・5機材の自前実測DBで検証し、「メモリに収まる」と「実用速度で使える」の境界を正直に線引きします。
検証2026-07-19PR
8GB機でモデル切替は何秒損するか【Raspberry Pi 5・Jetson・RTX 4060 Laptop実測】
8GB機3台（Raspberry Pi 5・Jetson Orin Nano Super・RTX 4060 Laptop）でOllamaのモデル切替コストを実測。数十秒かかるコールドロードと、Jetsonで実績あるモデルが4回中4回ロード失敗する断片化リスクを、48試行の実測データで記録します。
検証2026-07-10PR
Jetson Orin Nano Super はどこまでできるか【自前実測8件】
Jetson Orin Nano Super 8GBは何ができて何ができないか。自前実測8件の全記録・用途別判定表・電力効率と電気代試算を実測データで整理。7〜8B級は外部報告値と今後の実測予定として分けて示します。
比較選定2026-07-10PR
Jetson Orin Nano Super vs Raspberry Pi 5：ローカルAI機材の選び方
Jetson Orin Nano SuperとRaspberry Pi 5、ローカルAIにはどちらを選ぶべきか。メモリ帯域・アクセラレータ・電力・エコシステム・価格帯の5軸をカタログ値で整理し、用途別の選び方を解説します。
比較選定2026-07-10PR
Raspberry Pi 5 + AI HAT+ 2 でLLMは速くなるのか【実測で検証】
Pi5にAI HAT+ 2（Hailo-10H・40TOPS）を足すとLLMは速くなるか、同一プロンプトの自前実測で検証。生成は7.05対CPU9.72 tok/sとむしろ遅く、電力は2.4Wへ大幅減。プリフィルと生成は別物という結論を実測で示します。
検証2026-07-10PR
Raspberry Pi 5（CPUのみ）はどこまでできるか【自前実測11件】
Raspberry Pi 5（CPUのみ）は何ができるか。自前実測11件では実用ラインは1.5B前後。帯域17GB/s律速の理由・用途別判定表・電力効率と電気代（月200円未満）を実測データで整理します。
検証
検証2026-07-19PR
8GB機でモデル切替は何秒損するか【Raspberry Pi 5・Jetson・RTX 4060 Laptop実測】
8GB機3台（Raspberry Pi 5・Jetson Orin Nano Super・RTX 4060 Laptop）でOllamaのモデル切替コストを実測。数十秒かかるコールドロードと、Jetsonで実績あるモデルが4回中4回ロード失敗する断片化リスクを、48試行の実測データで記録します。
検証2026-07-10PR
Jetson Orin Nano Super はどこまでできるか【自前実測8件】
Jetson Orin Nano Super 8GBは何ができて何ができないか。自前実測8件の全記録・用途別判定表・電力効率と電気代試算を実測データで整理。7〜8B級は外部報告値と今後の実測予定として分けて示します。
検証2026-07-10PR
Raspberry Pi 5（CPUのみ）はどこまでできるか【自前実測11件】
Raspberry Pi 5（CPUのみ）は何ができるか。自前実測11件では実用ラインは1.5B前後。帯域17GB/s律速の理由・用途別判定表・電力効率と電気代（月200円未満）を実測データで整理します。
検証2026-07-09
ローカルVLM実測比較：日本語で本当に使えるのは？
画像も見るローカルVLMをA6000で実測。qwen3-vl・gemma3/4・moondreamを速度・VRAM・電力＋日本語画像タスクで比較。qwen3-vl:2bが2Bで満点かつ最速、英語専用のmoondreamは日本語で全滅した。
検証2026-07-07
MCPでツールを増やすとローカルLLMは壊れるか【5/15/30個を7モデル実測】
MCP時代のエージェントはツール定義を数十個モデルに渡します。「ツールが増えると選択精度が落ちる」は日本語ローカルLLMでも本当か——似た名前のトラップを仕込んだ5/15/30個の3条件×7モデル・378試行をA6000で実測しました。
検証2026-07-03PR
TOPS神話の検証【NPUの公称値はローカルLLM速度を予測しない】
Hailo-10H（AI HAT2+・40TOPS）でLLMを動かし実測。画像は最大25倍速くなる一方、LLM生成はHailo経由（decode専用計測）でも7.05 tok/sとCPU実行(9.72 tok/s)より遅い結果に。TOPSがLLM速度を予測しない理由をJetson・CPUとの3機材比較で検証します。
検証2026-06-18
ローカルAIの量子化はどれを選ぶ？【Q4/Q8の精度・メモリ・速度】
ローカルLLMの量子化（Q4_K_M・Q8_0・fp16）は精度・メモリ・速度のトレードオフ。A6000実測でQ4はQ8の約1.5倍速く精度低下は小さいことを示し、用途別の選び方を整理します。
検証2026-06-16
ローカルAIの実力をどう測るか【能力×実行性の2層プロトコル】
「速い＝良い」でも「賢い＝使える」でもない。当サイトはモデルの能力(L1)と機材での実行性(L2)を分けて測ります。最終状態での合否判定、能力×実行性マトリクスで、ローカルAI選びの“測り方”そのものを公開します。
検証2026-06-15
ローカルLLMのfunction calling＆連鎖を実測【AIエージェント7モデル】
AIエージェントの土台「ツール呼び出し」をローカルLLM7モデルで実測。単発は89〜100%でほぼ横並びでも、前の結果を使うマルチターン連鎖にすると56〜100%へ大きく差が開きます。量子化の影響も含め一次実測で正直にまとめます。
検証2026-06-15
ローカルLLMの「過剰拒否」を実測【正当な質問に答えるか】
ローカルLLMは、医療・法律・防御的セキュリティなど『正当で無害な質問』に、誤って答えを断っていないか（過剰拒否）。7モデルを実測したところ、ほぼ全モデルが過剰拒否ゼロ。唯一の例外と、その意味を正直にまとめます。
検証2026-06-14
ローカルAIの電力効率（tok/s/W）実測【MoEが省エネ王】
ローカルAIの「省電力」は総消費電力だけでは語れない。1トークンあたりのエネルギー効率（tok/s/W）を自前で実測すると、MoEモデルが効率的（実測で約3倍差）で、絶対消費電力の小ささと効率は別物だと分かります。
実機再現
実機再現2026-07-08
ローカルAI FT実例②：丸太材積を測る自作YOLO（完全ローカル）
COCO学習のYOLOv8sをP2ヘッド＋データ整備で転移学習し、丸太の断面写真から本数を検出する自作モデルを作った実例。公開データ＋自宅GPUで本数recall95%、完全ローカル（ブラウザ内）で推論。市販ツールとの正直な棲み分けも示します。
実機再現2026-06-23PR
ローカルAIでループエンジニアリング【3機種で総実時間を実測】
エージェントの「ループ＝足場」をローカルで設計・運用する実践ガイド。同じ多段ループをA6000・RTX4060ノート・Mac mini M4で実測。成否は機材非依存でも総実時間は機材で激変——暴走ガード・文脈管理・VRAM適合などループ設計の勘所を一次データで示します。
実機再現2026-06-22
ローカルAI FT実例：妖怪ハザードマップQLoRA（Qwen2.5-14B）
Qwen2.5-14BをQLoRAで14万件学習し、災害リスクを妖怪が説明する構造化JSON出力を99.97%成功させた自前の実例。FTは『振る舞い・形式』に、知識は外部に——という分離の生きたケーススタディです。
実機再現2026-06-15
ローカルAIでAIエージェントを動かす【完全ローカルの自動化】
AIエージェントを自分の機材で動かす方法を、やさしく解説。ツールを自分で使って多段で作業するエージェントは、ローカルなら課金ゼロ・機密も守れます。必要なモデルとスペック、RAG・コーディング・ノーコード自動化の実例まで。
実機再現2026-06-13PR
会社にローカルAIを設置して社員で共有する方法【社内AIサーバー入門】
機密データを外に出さずに、社員みんなでAIを使う。1台のGPUサーバーにローカルLLMとOpen WebUIを立て、ブラウザから全社共有する構成・必要ハードウェア・コストの損益分岐を、図とグラフでわかりやすく解説します。
実機再現2026-06-13
ローカルAIでできるデモ【自分の機材で動かす本格7選】
ブラウザやクラウドではできない、ローカルAIならではのデモを7つ厳選。大型モデルとの対話・自分の資料へのRAG・自前Copilot・画像生成・無人自動化まで、最小手順と必要スペックを実測ベースで解説します。
比較選定
比較選定2026-07-21
巨大MoEはローカルで動くか【「収まる」と「使える」を実測で線引き】
数百B級の巨大オープンMoE（Hy3・MiMo-V2.5）が話題ですが、「動く」論の中身はMoE・GGUF・量子化の3要素。当サイト178件・5機材の自前実測DBで検証し、「メモリに収まる」と「実用速度で使える」の境界を正直に線引きします。
比較選定2026-07-10PR
Jetson Orin Nano Super vs Raspberry Pi 5：ローカルAI機材の選び方
Jetson Orin Nano SuperとRaspberry Pi 5、ローカルAIにはどちらを選ぶべきか。メモリ帯域・アクセラレータ・電力・エコシステム・価格帯の5軸をカタログ値で整理し、用途別の選び方を解説します。
比較選定2026-07-10PR
Raspberry Pi 5 + AI HAT+ 2 でLLMは速くなるのか【実測で検証】
Pi5にAI HAT+ 2（Hailo-10H・40TOPS）を足すとLLMは速くなるか、同一プロンプトの自前実測で検証。生成は7.05対CPU9.72 tok/sとむしろ遅く、電力は2.4Wへ大幅減。プリフィルと生成は別物という結論を実測で示します。
比較選定2026-07-09
ローカルLLM 必要VRAM早見表【パラメータ数×量子化】
ローカルLLMの必要VRAMをパラメータ数×量子化で早見表化。Q4_K_Mは約0.7GB/B、7Bで約5GB・32Bで約22GB・70Bで約49GB。KVキャッシュとMoEの扱い、手元のGPUで何が載るかまで実測ベースで整理。
比較選定2026-07-08
自宅ローカルAIは買うべきか？GPU購入とAPI課金の分かれ目
ChatGPTやClaudeのAPI課金を続けるか、自宅GPUを買ってローカルAIに乗り換えるか。使用量で何ヶ月で元が取れるか、買うべき人と課金を続けるべき人の分かれ目を、実測とROI試算ツールで正直に整理します。
比較選定2026-07-07PR
128GBでローカルLLM【DGX Spark・Ryzen AI Max・Mac Studio】
大型MoE時代の新定番「128GBクラス一体機」3択を比較。DGX Spark・Ryzen AI Max+ 395・Mac Studioの帯域・容量・価格を整理し、当サイトのA6000実測からの理論推定で生成速度の目安を示します（未実測を明示）。
比較選定2026-07-07
国産ローカルLLMを実測【地政学リスクと日本語エージェントの現実】
Sarashina・LLM-jp-4・Swallow・ELYZAをA6000で実測。中国系モデルを使えない組織のための国産・非中国系ローカルLLM選定ガイド。速度・電力に加え、日本語ツール呼び出しの意外な実態を一次データで示します。
比較選定2026-07-07PR
士業のローカルAI活用【守秘義務と両立する文書AI】
弁護士・税理士・司法書士など守秘義務を負う士業では、依頼者情報をクラウドAIに送る運用が悩みどころです。依頼者情報を事務所の外に出さないローカルLLMの構成と使いどころを、日本語FC・過剰拒否の自前実測を基に整理します。
比較選定2026-07-03PR
建設・測量の現場でローカルAIを使う【通信が細い現場での実践】
山間部・造成中の現場・地下構造物など、通信が不安定な建設・測量現場ではクラウドAIが止まります。現場で動くローカルAI機材の構成と、現場日報の要約・マニュアル検索などの使いどころを、当サイトの実測データを基に整理します。
比較選定2026-07-03PR
警備・防犯カメラをローカルAIで動かす【映像を外に出さない物体検知】
防犯・警備カメラの物体検知（人物・車両検知）は、映像を外部に送らずローカルで完結させやすいタスクです。Raspberry Pi 5+AI HAT2+（Hailo-10H）の実測（YOLOv8m 76.25 FPS）を基に、低コストな構成の作り方を整理します。
比較選定2026-07-01
バーチカルAIにローカルAIをどう組み込むか【ローカル×クラウドの使い分け】
バーチカルAI（業界特化AI）を実装する際、本サイトが扱う「ローカルAI」をどう位置づけるかを整理します。全部をローカルに寄せるのではなく、業務ごとにローカルとクラウドを組み合わせるハイブリッドが基本。全部ローカルで完結させたい場合の実例として、自前のQLoRAケースも紹介します。
比較選定2026-06-30PR
AIのグラウンディングをローカルで実践【幻覚を抑える3つの接地】
ローカルAIの幻覚を抑える「グラウンディング（接地）」を実践解説。RAG・ツール接地・出典付けの3手法を、ローカル埋め込み＋オフラインで自分のデータに接地する方法・必要スペック・限界までまとめます。
比較選定2026-06-30PR
ローカルLLMの生成速度は「メモリ帯域」で決まる【TOPS神話】
ローカルLLMの生成速度は演算性能(TOPS)ではなくメモリ帯域でほぼ決まる。自前の機種横断実測と、1000 TOPSのDGX Sparkが70Bで遅い理由を、帯域律速のroofline「載る・動く・使える」で解説します。
比較選定2026-06-30PR
新世代エッジHWでローカルLLMは速くなるのか【AI PC/NPU/Thor】
2026-2027の新世代エッジHW（Copilot+ AI PCのNPU・大容量ユニファイドメモリ機・Jetson Thor）でローカルLLMは本当に速くなるのか。TOPSの誇大とメモリ帯域の現実、結局何を買うべきかを実測の視点で整理します。
比較選定2026-06-23
ハザードマップ×オフラインAI：GIS実務から考える防災の構想
QGIS・測量・衛星測位(QZSS)の実務知見を防災へ。ハザードマップ(GIS)とオフラインのローカルAIを組み合わせ、通信途絶時でも手元でリスク判断を助ける構想と実装論点を、実例(妖怪ハザードマップ)とともに整理します。
比較選定2026-06-23
通信が途絶しても動く 災害・現場のローカルAIキット
通信も電力も限られる災害現場・僻地で、手元だけで動くローカルAIキットの構成と選び方。オフライン速度は検証DBの実測、バッテリ駆動時間は実測電力からの理論推定（実機実測は手順付きでこれから）。南極・測量現場の経験から。
比較選定2026-06-22
ローカルAIの最適化の順序：プロンプト→RAG→ファインチューニング
ローカルAIを賢くしたい時、いきなりファインチューニングは失敗のもと。プロンプト→RAG→FT→蒸留の順で試すのが鉄則です。FTは知識ではなく『振る舞い・形式』に効く——使い分けと判定フローを整理します。
比較選定2026-06-22
ローカルAI PoCを成功させる完全ガイド【段階導入・実測・業種別】
ローカルAIのPoCは段階的に小さく始め、用途で族を選び、機材に合わせるのが成功の核。自前実測56件（A6000〜Mac〜Jetson〜Pi5）と段階導入・業種別・PoC事例で、投資を最小化しつつ失敗を避ける進め方を示します。
比較選定2026-06-22
ローカルLLMを開発国×得意分野で選ぶ【A6000実測・日本語評価】
中国勢が席巻するローカルLLM。仏Mistral・UAE Falcon・EU TeukenなどA6000で自前実測し、開発国ごとの違い・実測速度/電力・日本語ファンクションコール能力・VRAM/RAM/量子化の関係まで横断比較します。
比較選定2026-06-20
GLM-5.2はローカルで動くか：必要スペックを試算【最新ニュース】
Z.aiが2026年6月に公開した753BのオープンモデルGLM-5.2。MITで自由に使えますが、自宅やワークステーションで動かすには何が要るのか。必要メモリを量子化別に試算し、現実的な選択肢を正直に整理します。
比較選定2026-06-19
低スペック機でデジタル格差を埋めるローカルAI
通信や電力が不安定でも、月額課金がなくても使えるAIを。Raspberry Piや中古PCで動く小型AI(SLM)の実測から、教育・医療過疎・オフライン環境でローカルAIが格差是正に果たせる役割を考えます。
比較選定2026-06-19
AIの電力問題とローカルAIという答え【tok/s/Wで考える】
生成AIのデータセンター電力は2026年に世界の約2%へ急増。ローカルAIは万能ではないが『用途に最小十分なモデル×電力効率の良い機材』で消費を抑える選択肢。tok/s/Wの実測で環境視点の選び方を示します。
比較選定2026-06-18PR
自宅GPUでローカルAI：RTX 5090・4090・3090・A6000の選び方
ローカルLLM用の自宅GPUはVRAMが命。RTX 5090(32GB)・4090(24GB)・中古3090(24GB)・A6000(48GB)を、必要VRAM・帯域・消費電力・2026年6月の日本相場（品薄高騰）・電気代まで含めて選びます。
比較選定2026-06-16
エージェント能力はチャット能力と別物【専用評価が要る理由】
チャットが得意なモデル＝エージェントが得意、ではありません。本質的な違いは『ループを誰が回すか』。なぜチャット用ベンチがエージェント性能を予測しないのか、外部研究と当サイトの実測で構造化して論証します。
比較選定2026-06-16PR
エッジで動かす小型AI(SLM)実測ランキング【tok/s/W】
Jetson・Raspberry Pi 5・Mac mini M4・A6000で小型AI(SLM)を実測。速度(tok/s)だけでなく電力効率(tok/s/W)で並べると、オフライン・低電力で常時稼働させる最適解が見えます。商用可否つきモデル表・再現手順・機材の選び方まで。
比較選定2026-06-15
ローカルAIエージェント実用度スコアカード【7軸を実測で総合評価】
ローカルAIエージェントに使うなら結局どのモデルが良いか。連鎖成功率・ツール信頼性・速度・文脈長・ライセンスを自前で実測し、総合スコアで一覧化。用途別のおすすめと、悪意あるモデル・エージェントへの対策までまとめます。
比較選定2026-06-15PR
ローカルAI機材の選び方【実測でわかる買うべき1台】
ローカルAIを始めるならどの機材を買うべきか。Raspberry Pi 5・Jetson・Mac mini M4・RTX A6000を、自前の実測（生成速度・電力効率・動くモデル範囲）で比較し、予算と用途別に最適な1台を示します。
比較選定2026-06-15
ローカルAIの社会的意義【省エネ・プライバシー・格差】
ローカルAIは便利なだけでなく、データセンターの電力問題・データプライバシー・情報の信頼性・AIアクセス格差という社会課題に同時に効きます。市場データと自前の実測をもとに、その意義と限界を中立に整理します。
比較選定2026-06-14
ローカルAIの成果指標と全体最適【ROI試算ツール付き】
ローカルAIは「入れて終わり」では効果が出ない。コスト・処理時間・プライバシー・定着などの成果指標（KPI）の測り方と、クラウドと使い分ける全体最適の進め方を、ROI試算ツール付きで解説します。
比較選定2026-06-13
巨大モデルをローカルで動かす【Kimi K2.7級・大規模AIの現実】
Kimi K2.7のような1兆パラメータ級の巨大モデルは、自宅やワークステーションで動くのか。VRAMの壁・量子化の限界・MoEの効きを、必要メモリの現実と自前の実測で正直に整理します。
比較選定2026-06-13
ローカルAIのおすすめサイト・ツール【2026年版】
ローカルAIを始める・深めるのに役立つサイトとツールを厳選。実行ツール（Ollama/LM Studio等）の使い分け、モデルの選び方、信頼できる情報源を、どんな人に向くかを添えて紹介します。
比較選定2026-06-13
ローカルAIでできること【用途別の必要スペックと機材選び】
自宅のPCやエッジ機材でローカルAIは何ができるのか。チャット・コード補助・文字起こし・画像生成など用途別に、必要なメモリ目安とおすすめ機材帯を自前の実測データで整理します。
トラブルシュート
トラブルシュート2026-07-09
ローカルLLMが遅い・GPUが使われない時の原因と対処【実測】
ローカルLLMが急に遅い/GPUを使わずCPUに落ちる時の切り分けを実測で。まずollama psでGPU%を確認し、VRAM不足・同居プロセス・モデル過大を疑う。JetsonのCPUフォールバックは約3.8 tok/sまで低下した。
トラブルシュート2026-06-20
AIでSSDが壊れる：書き込み寿命の罠とHDD階層化【実体験】
AI学習・生成はSSDを想像以上に酷使します。書き込み寿命（TBW）で“書き潰れる”仕組み、実機を数日で壊した運営者の実体験、そして外付けHDDで階層化してSSDを守る現実的な構成を、出典付きで整理します。
トラブルシュート2026-06-15
「GGUFだから安全」は誤解【ローカルAIモデルのマルウェア対策】
ローカルAIモデルは「GGUFだからコードは実行されない＝安全」と誤解されがちですが、2026年に実際のCVEとHuggingFaceのサプライチェーン汚染で破られています。実例・脆弱性と、安全にモデルを入手するチェックリストを正直にまとめます。
トラブルシュート2026-06-12
Jetson Orin Nanoをモニタなしで初期設定する（ヘッドレスセットアップ）
モニタ・キーボードを繋がずにJetson Orin Nanoを初期設定する手順。USBデバイスモードのIP固定値とよくあるハマりどころ。