ai-local-lab

Local AI troubleshooter

ローカルAI 症状別診断

OOM・GPUが使われない・回答の出始めが遅いの3症状を、OS・機材・ランタイムに合わせて切り分けます。原因を断定するツールではなく、設定を壊しにくい確認順を示す入口です。

操作しなくても分かる、3症状の確認順

まず設定を変えず、発生条件を1つずつ分けます。下の対話診断では、OSとランタイムに合う確認コマンドまで絞り込みます。

MEM

OOM・メモリ不足

症状を分ける
ロード時に落ちるか、長い会話・PDF投入後に落ちるかを分ける
まず確認
実行直前の空きメモリ、モデル名、量子化、Context lengthを記録
疑う順
ロード時ならモデル+既定文脈、途中ならKVキャッシュやRAG投入量
安全な初手
小型Q4モデル、新規の短い会話、投入文書を減らす順で比較
必要VRAM早見表

GPU

GPUが使われない

症状を分ける
アイドル時ではなく、十分な長さを生成している最中に確認する
まず確認
Ollamaはollama ps、NVIDIAはnvidia-smiで実行先とメモリを表示
疑う順
CPU/GPU混在なら容量不足、0%なら監視タイミングや実行経路も確認
安全な初手
小型Q4モデルで比較し、版と起動ログを残してから設定を変える
GPUフォールバックの対処

TTFT

回答の出始めが遅い

症状を分ける
同じ短い質問を続けて2回送り、1回目と2回目を分ける
まず確認
最初の1文字までのTTFTと、その後の生成時間を別々に記録
疑う順
初回だけならモデルロード、長文だけなら入力処理、毎回なら実行経路
安全な初手
新規会話、短い入力、2回目の値で比較して原因範囲を狭める
測定プロトコル

4問症状と環境を選ぶだけ
送信なし回答はブラウザ内だけで処理
安全優先確認コマンドは読み取り専用
01いちばん困っている症状
04どの状態に近いですか

設定変更やコマンド実行は自動では行いません。

この診断が先に行わないこと

原因を狭める前の大きな変更は、別の不具合やデータ損失につながります。そのため、次の操作は自動実行せず、最初の対処にもしていません。

プロセスの強制終了

見覚えのないOSプロセスは止めません

ドライバの削除

版とログを記録してから判断します

モデル・文書の削除

小型モデルとの比較を先に行います

swapの無制限な拡大

遅さを隠す恒久対策にはしません

データと診断範囲

選択内容はブラウザ内で処理し、当サイトへ送信しません。表示するコマンドは状態確認用です。ただし、環境や版によって表示名は異なります。エラーを外部へ共有する場合は、APIキー、ユーザー名、ファイルパス、文書本文を伏せてください。