ai-local-lab

計測詳細

ノートPC RTX 4060 Laptop 8GB(i7-13700H/32GB) × Qwen2.5 14B

モデル情報

Qwen2.5 14Bのモデル情報
パラメータ数14.8B
ライセンスApache-2.0
商用利用
配布元https://ollama.com/library/qwen2.5

計測データ

ノートPC RTX 4060 Laptop 8GB(i7-13700H/32GB)におけるQwen2.5 14Bの計測一覧
量子化ランタイムtok/sTTFT(ms)合計時間(ms)入出力トークン温度(℃)消費電力(W)計測日備考
Q4_K_Mollama 0.30.1012.881020731112 / 2565624.92026-06-23ollama API実測(2回平均・num_predict=256・温度は計測中の最大値)

※ 数値はすべて自前機材での実測です(ollama API・2回平均・num_predict=256)。