計測詳細
RTX A6000 48GB ワークステーション × Mistral 7B Instruct v0.3
モデル情報
| パラメータ数 | 7.2B |
|---|---|
| ライセンス | Apache-2.0 |
| 商用利用 | 可 |
| 配布元 | https://huggingface.co/mistralai/Mistral-7B-Instruct-v0.3 |
計測データ
| 量子化 | ランタイム | tok/s | TTFT(ms) | 合計時間(ms) | 入出力トークン | 温度(℃) | 消費電力(W) | 計測日 | 備考 |
|---|---|---|---|---|---|---|---|---|---|
| F16 | ollama 0.30.8 | 28.8 | 76 | 8965 | 141 / 256 | 77 | 269.6 | 2026-06-21 | ollama API実測（2回平均・num_predict=256・温度は計測中の最大値） |
| Q4_K_M | ollama 0.30.8 | 114.8 | 47 | 2278 | 141 / 256 | 79 | 254.6 | 2026-06-21 | ollama API実測（2回平均・num_predict=256・温度は計測中の最大値） |
| Q8_0 | ollama 0.30.8 | 73.7 | 53 | 3527 | 141 / 256 | 79 | 265.8 | 2026-06-21 | ollama API実測（2回平均・num_predict=256・温度は計測中の最大値） |
※ 数値はすべて自前機材での実測です（ollama API・2回平均・num_predict=256）。