ai-local-lab

計測詳細

Mac mini M4 16GB × gpt-oss 20B (MoE)

モデル情報

gpt-oss 20B (MoE)のモデル情報
パラメータ数20.9B
ライセンスApache-2.0
商用利用
配布元https://huggingface.co/openai/gpt-oss-20b

計測データ

Mac mini M4 16GBにおけるgpt-oss 20B (MoE)の計測一覧
量子化ランタイムtok/sTTFT(ms)合計時間(ms)入出力トークン温度(℃)消費電力(W)計測日備考
MXFP4ollama 0.30.824.727410627156 / 25610.22026-07-15ollama API実測(2回平均・num_predict=256・温度は計測中の最大値)

※ 数値はすべて自前機材での実測です(ollama API・2回平均・num_predict=256)。