生成AIの便利さの裏で、電力消費が世界的な問題になっています。データセンターの電力は2026年に世界の約2%(500〜1,050 TWh)に達する見込みで、「国」に例えるなら日本とロシアの間、世界第5位の電力消費に相当します。本記事は、その逆風に対してローカルAIがどう「答え」になりうるかを、当サイトの電力効率(tok/s/W)実測から考えます。

AIの電力は、どれくらい増えているのか

主要な推計をまとめると、伸びは急です。

  • データセンターの電力は2024年の世界1.5%→2026年に約2%へ。年率約12%で成長し、これは総電力の伸びの4倍速です。根拠: Carbon Brief / TTMS
  • 米国は2025→2028年で80→150GWとほぼ倍増の見通し。電力の約56%が化石燃料由来で、1億トン超のCO2eを排出。根拠: Pew Research
  • アイルランドでは国の電力の**21%→32%(2026推計)**がデータセンター向け。根拠: Carbon Brief

クラウドの巨大モデルは便利ですが、その裏で電力・水・排出が積み上がっています。

ローカルAIは「万能の解決策」ではない

先に正直に言うと、ローカルに切り替えれば環境問題が解決するわけではありません。

  • ローカル機材も電力を使います(GPUは数百W)。24時間稼働なら相応のCO2が出ます。
  • クラウドとローカルの電力を公平に比較するのは困難です(クラウド側の消費電力は非公開で按分しづらい)。本記事も優劣を断定しません(経験則・要検証)。

それでもローカルAIには、**個人・組織が電力を「選べる」**価値があります。鍵は2つ——用途に最小十分なモデルと、電力効率の良い機材です。

tok/s/W:ローカルAIの「燃費」

当サイトは全機材で消費電力を実測し、**tok/s/W(1ワットあたり何トークン生成できるか)**を出しています。これはAIの「燃費」にあたります。

① 絶対消費電力 W(Qwen3.5 4B・同一条件で実測)
  • Raspberry Pi 5(CPU)7.5
  • Mac mini M4(Metal)12.3
  • Jetson Orin Nano(GPU)18.7
  • RTX A6000(GPU)218
② 電力効率 tok/s/W(同上・大きいほど高効率)
  • Raspberry Pi 5(CPU)0.30
  • Mac mini M4(Metal)2.38
  • Jetson Orin Nano(GPU)0.67
  • RTX A6000(GPU)0.57

効率トップは Mac mini M4(Apple SiliconのSoC)、次いで専用GPUのJetson。CPU推論のPi5は絶対電力が最小でも効率は最下位。※電力の測定境界は機種で異なる(Mac=SoC全体 / A6000=GPUのみ / Jetson=モジュール / Pi5=基板)ため横断比較は目安・要検証。

実測からの要点:

  • MoEモデルは省エネ:実行時の活性パラメータが少なく、同じ仕事を少ない電力で回せます。
  • Apple Silicon(Mac)が効率王:SoCが10〜13Wと低く、tok/s/Wでトップ級。
  • 量子化を強めると燃費も良い:A6000の Qwen2.5 7B は Q4_K_M 0.47 / Q8_0 0.30 / F16 0.17 tok/s/W(量子化の記事)。Q4はfp16の約2.8倍の燃費です。
  • 「絶対電力が小さい=エコ」ではない:Raspberry Pi 5 は消費7.5Wと最小ですが、出せる量も小さく効率は最下位でした。

詳しい順位は電力効率の実測、全数値は検証DB(tok/s/Wで並べ替え可)にあります。

環境を考えるなら、こう選ぶ

  • 用途に最小十分なモデルを選ぶ(要約・分類に35Bは過剰。4〜8Bで足りることが多い)。
  • 電力効率(tok/s/W)の良い機材を選ぶ(常時稼働ほど効く)。
  • **強めの量子化(Q4_K_M)**でメモリも電力も節約(精度低下は小さい)。
  • 必要なときだけ動かし、常時起動の電力を意識する。

「大きいモデルをクラウドで富豪的に回す」のではなく、「用途に足る小さなモデルを、手元で効率よく」。これは性能・コストだけでなく、環境の観点でも理にかなった選択です。手元の機材で何が動くかは動くか診断、ローカルAIの社会的意義は省エネ・プライバシー・格差にもまとめています。

データセンターの数値は2024〜2026年の各推計で、出典により幅があります(上記リンク参照)。クラウド/ローカルの電力比較は前提に依存するため、本記事は「最小十分なモデルを効率よく」という方向性を示すにとどめます(経験則・要検証)。