ai-local-lab

計測詳細

Jetson Orin Nano Super 8GB × LFM2.5 1.2B JP

モデル情報

LFM2.5 1.2B JPのモデル情報
パラメータ数1.17B
ライセンスLFM Open License v1.0
商用利用
配布元https://huggingface.co/LiquidAI/LFM2.5-1.2B-JP

計測データ

Jetson Orin Nano Super 8GBにおけるLFM2.5 1.2B JPの計測一覧
量子化ランタイムtok/sTTFT(ms)合計時間(ms)入出力トークン温度(℃)消費電力(W)計測日備考
Q4_K_Mollama 0.31.157.5253470886 / 2565920.52026-07-02ollama API実測(2回平均・num_predict=256・温度は計測中の最大値)

※ 数値はすべて自前機材での実測です(ollama API・2回平均・num_predict=256)。