計測詳細
RTX A6000 48GB ワークステーション × Qwen2.5 3B Instruct
モデル情報
商用利用不可ライセンス（Qwen Research License）：このモデルのライセンスは商用利用を許可していません。業務利用の前に必ず配布元のライセンス条項を確認してください。
| パラメータ数 | 3.1B |
|---|---|
| ライセンス | Qwen Research License |
| 商用利用 | 不可 |
| 配布元 | https://huggingface.co/Qwen/Qwen2.5-3B-Instruct |
計測データ
| 量子化 | ランタイム | tok/s | TTFT(ms) | 合計時間(ms) | 入出力トークン | 温度(℃) | 消費電力(W) | 計測日 | 備考 |
|---|---|---|---|---|---|---|---|---|---|
| Q4_K_M | ollama 0.30.7 | 191.3 | 154 | 1492 | 112 / 256 | 61 | 189.4 | 2026-06-16 | ollama API実測（2回平均・num_predict=256・温度は計測中の最大値） |
※ 数値はすべて自前機材での実測です（ollama API・2回平均・num_predict=256）。