ai-local-lab

計測詳細

Raspberry Pi 5 8GB × Sarashina 2.2 3B Instruct

モデル情報

Sarashina 2.2 3B Instructのモデル情報
パラメータ数3.36B
ライセンスMIT
商用利用
配布元https://huggingface.co/sbintuitions/sarashina2.2-3b-instruct-v0.1

計測データ

Raspberry Pi 5 8GBにおけるSarashina 2.2 3B Instructの計測一覧
量子化ランタイムtok/sTTFT(ms)合計時間(ms)入出力トークン温度(℃)消費電力(W)計測日備考
Q4_K_Mollama 0.31.14.54555741255 / 256686.42026-07-14ollama API実測(2回平均・num_predict=256・温度は計測中の最大値)

※ 数値はすべて自前機材での実測です(ollama API・2回平均・num_predict=256)。