計測詳細
ノートPC RTX 4060 Laptop 8GB（i7-13700H/32GB） × LLM-jp-4 8B (thinking)
モデル情報
| パラメータ数 | 8.59B |
|---|---|
| ライセンス | Apache-2.0 |
| 商用利用 | 可 |
| 配布元 | https://huggingface.co/llm-jp/llm-jp-4-8b-thinking |
計測データ
| 量子化 | ランタイム | tok/s | TTFT(ms) | 合計時間(ms) | 入出力トークン | 温度(℃) | 消費電力(W) | 計測日 | 備考 |
|---|---|---|---|---|---|---|---|---|---|
| Q4_K_M | ollama 0.32.0 | 47.3 | 848 | 2898 | 151 / 97 | 45 | 62.6 | 2026-07-16 | ollama API実測（2回平均・num_predict=256・温度は計測中の最大値） |
※ 数値はすべて自前機材での実測です（ollama API・2回平均・num_predict=256）。