ai-local-lab

計測詳細

Mac mini M4 16GB × Ministral 3 8B

モデル情報

Ministral 3 8Bのモデル情報
パラメータ数8.9B
ライセンスApache-2.0
商用利用可
配布元https://huggingface.co/mistralai/Ministral-3-8B-Instruct-2512

計測データ

Mac mini M4 16GBにおけるMinistral 3 8Bの計測一覧
量子化ランタイムtok/sTTFT(ms)合計時間(ms)入出力トークン温度(℃)消費電力(W)計測日備考
Q4_K_Mollama 0.30.819.418213404638 / 256—12.42026-07-15ollama API実測(2回平均・num_predict=256・温度は計測中の最大値)

※ 数値はすべて自前機材での実測です(ollama API・2回平均・num_predict=256)。

TTFT は同一プロンプトを繰り返す計測でプロンプトキャッシュが効いた状態の値です。機材をまたぐ TTFT の比較は、キャッシュを無効化した再計測(cache-busted-v2)が揃うまで保留しています。