GPU搭載PC
ノートPC RTX 4060 Laptop 8GB（i7-13700H/32GB）
ノートPC実機（GeForce RTX 4060 Laptop GPU 8GB VRAM・Intel Core i7-13700H・システムRAM32GB）。2026-06-22 SSH経由でA6000と同一プロトコル（ollama API・2回平均・num_predict=256）で実測。VRAM8GB超のモデル（14B級〜）はRAMオフロードで低速化。帯域・TGPは公称値（TGPは機種で可変）。
スペック
| ベンダー | NVIDIA |
|---|---|
| カテゴリ | GPU搭載PC |
| メモリ | 8 GB |
| メモリ帯域 | 256 GB/s |
| AI性能 | — |
| 最大消費電力 | 115 W |
この機材で計測したモデル
全計測データ
| モデル | 量子化 | ランタイム | tok/s | TTFT(ms) | 温度(℃) | 計測日 |
|---|---|---|---|---|---|---|
| Qwen2.5 3B Instruct | Q4_K_M | ollama 0.30.10 | 104.6 | 838 | 59 | 2026-06-22 |
| Qwen2.5 7B Instruct | Q4_K_M | ollama 0.30.10 | 51.9 | 823 | 57 | 2026-06-22 |
※ 数値はすべて自前機材での実測です（ollama API・2回平均・num_predict=256）。