ai-local-lab

Policy planner

常駐構成とエスカレーション方針を実測で設計する

「このエッジ機材に何を常駐させ、足りないときはどこへ1段だけ上げるか」——機材・用途・品質・制約を入れると、検証DB(実測feasibility・切替計測・生成速度)から常駐モデル構成とエスカレーション方針、切替コストの見積りを組み立てます。

01

機材と制約を入れる

用途・品質・オフライン限定・電力上限など

02

エスカレーション先を選ぶ

オフ/ローカル母艦/クラウドから上限1段だけ

03

実測根拠つきで確認

リスク・不確実フラグ・根拠を折りたたみで表示

この試算はブラウザ内で完結し、入力内容をサーバーへ送信しません。実測に基づく推定であり、実運用の動作を保証するものではありません。個別の1組み合わせだけを素早く確認したい場合は動くか診断もご利用ください。

プリセットから試す:オフライン限定・商用限定・電力上限25W・A6000母艦へ1段エスカレーション

Step 1

機材と条件を入れる

用途

1問1答の対話用途として判定します。

制約
W

空欄で制約なし。機材の最大消費電力と比較します。

モデル

空欄で機材・実測から自動判定します。

上限1段のみ(多段連鎖はしません)。要求を満たせない場合は必ず「L1の回答+不確実フラグ」に収束します。

常駐候補があります

RTX A6000 48GB ワークステーション 上に、実測に基づく常駐モデル構成を提案します。

常駐構成

L1(主モデル)

LFM2.5 230M実測0.23B商用可

量子化 Q8_0・生成速度 736 tok/s (実測)

計測の詳細を見る →

補助(同時常駐)

同時常駐する補助モデルはありません。

エスカレーション(上限1段)

オフです。L1の回答をそのまま使い、不確実な点は下の不確実フラグとして併記します。

最終フォールバックは固定です:どの段でも要求を満たせない場合は「L1の回答+不確実フラグ」で応答します(多段連鎖はしません)。

不確実な点

  • 必要メモリ・速度の見積りはコンテキスト長を考慮していません(経験則)。長い文脈を使う場合は余裕を見てください。
  • 品質ティアの判定に使う日本語エージェント連鎖成功率はRTX A6000・Q4_K_M実測が基準です。他機材では速度が変わりますが、能力(モデル固有の値)としてそのまま使っています。
判定の根拠を見る
  1. L1候補として LFM2.5 230M を選定

    RTX A6000 48GB ワークステーション 上で実測動作確認(feasibility成功実績またはbenchmark実測)かつ制約に適合する候補のうち、品質ティア「balanced」への適合を優先して選定

    実測ベンチマーク: 20260702-a6000-lfm25-230m-q80

個別に1つの組み合わせだけを素早く確認したい場合は動くか診断もどうぞ。