この記事の結論
この記事で比べたL4・L40S・H100の最大消費電力は72W〜700Wですが、電源と電気代はサーバー全体の電力で見積もります。DGX H100/H200は最大10.2kWで、PUE1.54を掛けると施設全体で約15.7kWです。オンプレとクラウドのどちらが安いかは、稼働率で決まります。
GPUの電力の基本:TDPと最大消費電力の違い

NVIDIAの仕様表に載っているGPUの電力は、すべて上限値です。表記は型番によって「Max TDP」と「Max Power Consumption」に分かれます。電気代はkWhで計算するため、電力(kW)と電力量(kWh)は分けて考えます。
GPUの仕組みは、GPUの基本を解説した記事が詳しいです。
用語 | 意味 | 仕様表での表記 | 見積もりでの使い方 |
|---|---|---|---|
TDP(熱設計電力) | 仕様表に書かれた電力の上限 | Max TDP(H100・L4) | 電源と冷却の容量を決める |
最大消費電力 | GPUが使う電力の上限 | Max Power Consumption(L40S) | TDPと同じく上限値で使う |
実際の消費電力 | 負荷で変わる電力 | 仕様表にない(nvidia-smiで確認) | 電気代の実績に使う |
出典:NVIDIA H100、L40S、L4(2026年11月10日確認)
TDP(熱設計電力)と最大消費電力の違い
TDP(熱設計電力)は、NVIDIAの仕様表で「Max Thermal Design Power」と書かれる電力の上限値です。L40SのMax Power Consumptionも上限値です。電源と冷却の容量は上限値で決め、電気代の実績は実際の消費電力で把握します。
kW(電力)とkWh(電力量)の違い
kWはその瞬間の電力、kWhは電力×時間で求める電力量です。最大10.2kWのサーバーが最大電力で1時間動くと10.2kWhで、電気代はkWhに単価(円/kWh)を掛けて出します。
「設定変更可」と書かれたGPUの電力の読み方
H100の仕様表では、H100 SXMが「最大700W(configurable=設定変更可)」、H100 NVLが「350〜400W(設定変更可)」です。電力上限は、root権限でnvidia-smiを使い、GPUごとのMin〜Max Power Limitの範囲で変えられます。電源と冷却は、範囲の上限(H100 NVLなら400W)で見積もってください。
出典:NVIDIA『NVIDIA H100 Tensor Core GPU』製品ページ、NVIDIA『nvidia-smi documentation』(2026年11月10日確認)
ポイント:
仕様表に載っているGPUの電力は上限値です。電源と冷却は上限値(kW)で、電気代は電力量(kWh)で考えます。
業務用GPUの消費電力を型番別に比較

NVIDIA公式の仕様では、L4の最大TDPは72W、L40Sの最大消費電力は350W、H100 NVLは350〜400W、H100 SXMは最大700Wです。最小のL4と最大のH100 SXMでは、約9.7倍(700W÷72W)の差があります。電力1Wあたりの性能(TFLOPS/W)で比べると、L4(約3.4)がH100 SXM(約2.8)を上回ります。
型番別の最大消費電力(L4・L40S・H100)
型番 | 形状 | 最大消費電力(仕様表の表記) | GPUメモリ | FP16 Tensor Core(スパース性あり) | TFLOPS/W(目安) |
|---|---|---|---|---|---|
L4 | 1スロット・ロープロファイルのPCIe | 72W(Max TDP) | 24GB | 242 TFLOPS | 約3.4 |
L40S | デュアルスロット | 350W(Max Power Consumption) | — | — | — |
H100 NVL | PCIe(デュアルスロット・空冷) | 350〜400W(Max TDP、設定変更可) | 94GB | 1,671 TFLOPS | 約4.2(400W時) |
H100 SXM | SXM | 最大700W(Max TDP、設定変更可) | 80GB | 1,979 TFLOPS | 約2.8 |
出典:NVIDIA H100 Tensor Core GPU、NVIDIA L40S、NVIDIA L4 Tensor Core GPU(2026年11月10日確認)
表の「—」は、この記事で値を掲載していない項目です。仕様は変わる場合があるため、導入前に各型番のNVIDIA公式ページで確認してください。
電力あたりの性能(TFLOPS/W)で比べる
TFLOPS/Wは、FP16 Tensor Coreの性能を最大TDPで割った、電力1Wあたりの理論性能の目安です。H100 SXMは1,979÷700=約2.8、H100 NVLは1,671÷400=約4.2、L4は242÷72=約3.4です。
性能の値はスパース性(計算を省ける構造)ありの値で、スパース性なしの場合は半分になります。実際の処理速度はモデルやデータで変わるため、比べるときは条件をそろえてください。
SXMとPCIe(H100 NVL)の違いと消費電力
NVIDIAの仕様表では、H100のForm Factor(形状)として、SXMと、PCIe(デュアルスロット・空冷)のH100 NVLの2種類が載っています。同じH100でも、最大TDPはH100 NVLの350〜400WからH100 SXMの最大700Wまで違います。
出典:NVIDIA『NVIDIA H100 Tensor Core GPU』製品ページ(2026年11月10日確認)
形状ごとの性能の差は、H100の仕様を比べた記事が詳しいです。
ポイント:
この記事で比べたL4・L40S・H100の最大消費電力は72W〜700Wです。電力1Wあたりの性能では、L4(約3.4)がH100 SXM(約2.8)を上回ります。
GPUサーバーの電力はGPUの合計より大きい

NVIDIA DGX H100/H200の最大消費電力は10.2kWで、H100 SXMの最大TDP700Wで8基分を計算した5.6kWの約1.8倍です。DGX H100/H200には、GPU 8基のほかに、CPU 2基、システムメモリ2TB、NVMe SSD、電源ユニット6台が入っています。GPUの枚数×TDPだけで見積もると、DGX H100/H200では約4.6kW少なく見積もってしまいます。
DGX H100/H200は最大10.2kW(H100 SXM 8基分は5.6kW)
NVIDIA DGX H100/H200は、H100またはH200のGPUを8基搭載したサーバーで、システムの最大消費電力は10.2kWです(出典:NVIDIA『NVIDIA DGX H100/H200 User Guide』2026年11月10日確認)。
H100 SXMの最大TDP700Wで8基分を計算すると5.6kWになり、10.2kWとの差は約4.6kWです。DGX H100/H200のユーザーガイドにはGPUの形状の記載がないため、5.6kWはH100 SXMの値で計算した目安として扱ってください。
電源と受電設備の容量は、メーカーが公表しているシステム全体の最大消費電力で決めるのが確実です。
電源ユニットと入力電圧(200〜240V・16A)
項目 | DGX H100/H200の値 |
|---|---|
電源ユニットの台数 | 6台 |
1台あたりの定格 | 3,300W |
入力電圧・電流 | 200〜240V、16A |
冗長構成 | 4+2(6台のうち2台は予備) |
出典:NVIDIA DGX H100/H200 User Guide:Introduction to NVIDIA DGX H100/H200 Systems(2026年11月10日確認)
DGX H100/H200の電源ユニットは、4台の定格の合計13,200W(3,300W×4)が最大消費電力10.2kWを上回る構成です。電源ユニットの入力電圧は200〜240Vのため、設置場所には200V系の電源が必要です。
ポイント:
GPUサーバーの電力は、GPUの合計ではなくシステム全体の最大消費電力で見積もります。DGX H100/H200なら最大10.2kWで、200〜240Vの電源が前提です。
GPUサーバーの設置場所全体の電力はPUEで見積もる

PUEは施設全体の電力が、IT機器の電力の何倍かを表す指標で、Uptime Instituteの2025年の調査(回答681件)では平均1.54でした。GPUサーバーを動かすと、冷却設備や電源設備も電力を使います。サーバーの電力にPUEを掛ければ、設置場所全体の電力が分かります。
PUEの計算式と意味
PUE=施設全体のエネルギー使用量(kWh)÷IT機器のエネルギー使用量(kWh)で、値が1に近いほど設備が使う電力は少なくなります(出典:資源エネルギー庁『データセンター業におけるベンチマーク制度』2026年11月10日確認)。
PUE1.54なら、サーバーの電力の54%分を冷却などの設備が使います。最大10.2kWのDGX H100/H200なら、施設全体で10.2kW×1.54=15.708kWが必要になります。
国の目標PUE1.4以下と調査平均1.54
資源エネルギー庁のベンチマーク制度は、データセンター業だけで年間のエネルギー使用量が原油換算1,500kl以上などの条件に当たる事業者に、2030年度までにPUE1.4以下を目指す水準として示しています。
出典:資源エネルギー庁『データセンター業におけるベンチマーク制度』(発表年月の記載なし。2026年11月10日確認)
Uptime Instituteの調査では、2025年の平均は1.54(回答681件)で、6年連続でほとんど変わっていません(出典:Uptime Institute『Uptime Institute Global Data Center Survey 2025』2025年7月)。Uptime Instituteは、地域や拠点によるPUEの差が大きいとも報告しています(出典:Uptime Institute『Mapping PUE trends』2025年10月)。
設置先のPUEが分からない場合は、1.4と1.54の2通りで計算します。DGX H100/H200なら、施設全体の電力は14.28kW(10.2kW×1.4)から15.708kW(10.2kW×1.54)の範囲です。
冷却方式と電力の関係
Uptime Instituteは、古い設備や、地域によって効率のよい冷却方式を選べない制約が、PUEの改善を妨げていると報告しています(出典:Uptime Institute『Uptime Institute Global Data Center Survey 2025』2025年7月)。
ポイント:
設置場所全体の電力は「サーバーの電力×PUE」で求めます。PUEの目安は、国の目標が1.4以下、Uptime Instituteの2025年の調査の平均が1.54です。
GPUサーバーの電気代の計算方法

GPUサーバーの年間電気代は、「サーバーの消費電力(kW)×年間稼働時間(h)×PUE×電力量単価(円/kWh)」で計算します。DGX H100/H200を稼働率100%、PUE1.54で動かすと、年間の電力量は約137,602kWhです。最大消費電力で計算した値は、実際より大きく出る上限側の目安です。
電気代の計算式と各数値の調べ方
電気代の計算式に入れる4つの数値は、次の方法で調べます。
サーバーの消費電力:メーカーが公表しているシステム全体の最大消費電力(DGX H100/H200なら10.2kW)
年間稼働時間:1年の8,760時間に稼働率を掛けた時間
PUE:設置先の実績値。分からない場合は1.4と1.54の2通りで計算する
電力量単価:自社の電気料金の契約書や請求書に書かれた単価
電力量単価は契約と使用量で変わります。東京電力エナジーパートナーの低圧メニュー「スタンダードS」なら、2026年11月1日以降の税込単価は120kWhまで29円85銭、300kWh超は40円54銭で、燃料費調整額が別に加わります(出典:東京電力エナジーパートナー『スタンダードプラン』2026年11月10日確認)。
契約アンペアが10〜60Aの小規模向けメニューで、10kW級のサーバーとは前提が合わないため、試算は電力量(kWh)までとしました。
DGX H100/H200の稼働率別の年間電力量
稼働率 | 年間稼働時間 | サーバーの電力量 | PUE1.54込みの電力量 |
|---|---|---|---|
25% | 2,190h | 22,338kWh | 約34,401kWh |
50% | 4,380h | 44,676kWh | 約68,801kWh |
75% | 6,570h | 67,014kWh | 約103,202kWh |
100% | 8,760h | 89,352kWh | 約137,602kWh |
出典:DGX H100/H200 User Guide(2026年11月10日確認)、Uptime Institute調査(2025年7月)をもとに計算
年間電気代は、表の電力量に自社の電力量単価を掛けて求めます。稼働率100%の場合、単価が1円/kWh違うだけで、年間電気代は約13万7,602円変わる計算です。
最大消費電力での試算は「上限側の目安」
最大消費電力10.2kWで出した電気代は、実際より大きい上限側の目安です。
GPUの実際の消費電力は、nvidia-smiのAverage Power Draw(過去1秒間のボード全体の平均電力)で確認できます。ただし、nvidia-smiで分かるのはGPUボードの電力で、CPUや冷却ファンを含むサーバー全体の電力ではありません。
出典:NVIDIA『nvidia-smi documentation』(2026年11月10日確認)
ポイント:
年間電気代は「サーバーの電力×稼働時間×PUE×単価」で計算します。DGX H100/H200を稼働率100%・PUE1.54で動かすと、年間の電力量は約137,602kWhです。
GPUの電力制限を設定する方法(nvidia-smi)

NVIDIAのGPUは、root権限で「nvidia-smi -pl <ワット数>」を実行すると電力上限を設定できます。設定できる範囲は、「nvidia-smi -q」で表示されるMin Power LimitからMax Power Limitまでです。手順は公式ドキュメント「nvidia-smi documentation」(2026年11月10日確認。リリース番号の記載なし)に沿っています。
現在の電力と設定できる範囲を確認する
電力の情報を表示する:GPUを搭載したサーバーで、次のコマンドを実行します。
nvidia-smi -q電力の項目を読む:「GPU Power Readings」のAverage Power Draw(過去1秒間の平均電力)、Instantaneous Power Draw(最新の電力)、Min/Max Power Limit(設定できる最小値と最大値)を見ます。
Average Power Drawが表示されるのは、Ampere世代以降のGPU(GA100を除く)です。
出典:NVIDIA『nvidia-smi documentation』(2026年11月10日確認)
nvidia-smi -plで電力上限を設定する
電力上限を設定する:root権限で、Min〜Max Power Limitの範囲のワット数(整数または小数)を指定します。
nvidia-smi -pl <ワット数>設定後の値を確認する:もう一度「nvidia-smi -q」を実行し、電力上限が変わったかを確かめてください。
電力上限を下げるときの注意点
注意:
nvidia-smiによる電力上限の設定には、root権限が必要です。使えるのはKeplerファミリー以降の対応デバイスで、値はGPUごとのMin Power LimitからMax Power Limitまでの範囲に限られます。
GPUの電力が上限に達すると、GPUはクロックを要求値より下げて電力を抑えるため、処理性能が下がる可能性があります(出典:NVIDIA『nvidia-smi documentation』のSW Power Capの説明、2026年11月10日確認)。下がり幅は型番や処理の内容で変わるため、本番の処理で消費電力と処理時間を比べて値を決めてください。
ポイント:
GPUの電力上限は「nvidia-smi -q」で範囲を確認し、「nvidia-smi -pl」で設定します。設定値は、本番の処理で消費電力と処理時間を比べて決めてください。
稼働率別に見るGPUサーバーの損益分岐

オンプレのGPUサーバーは使わない時間も固定費がかかり、従量課金のGPUクラウドは使った時間に応じて料金がかかるため、どちらが安いかは稼働率しだいです。損益分岐は「月額固定費÷(クラウドの時間単価−オンプレの1時間あたり電気代)」で出る月間利用時間で判断できます。
電気代を含めた損益分岐の計算式
月額固定費をF、月間利用時間をH、電力量単価をP、クラウドの時間単価をCとし、DGX H100/H200(PUE1.54)の1時間あたりの電力量15.708kWh(10.2kW×1.54)で計算します。
オンプレの月額=F+15.708×H×P
クラウドの月額=C×H
損益分岐の月間利用時間H=F÷(C−15.708×P)
損益分岐の稼働率=H÷730時間(1か月の平均時間=8,760時間÷12)
Fには機器の償却費、保守費、設置工事や冷却設備の月割りを入れます。CがP×15.708以下なら、オンプレが安くなる稼働率はありません。待機時の電力が分かる場合は、Fに足してください。
稼働率25〜100%の損益分岐の早見表
稼働率 | 25% | 50% | 75% | 100% |
|---|---|---|---|---|
月間利用時間 | 182.5h | 365h | 547.5h | 730h |
オンプレの月額 | F+約2,867kWh×P | F+約5,733kWh×P | F+約8,600kWh×P | F+約11,467kWh×P |
クラウドの月額 | C×182.5h | C×365h | C×547.5h | C×730h |
出典:DGX H100/H200 User Guide(2026年11月10日確認)、Uptime Institute調査(2025年7月)をもとにPUE1.54で計算
F・C・Pに自社の値を入れ、月額が逆転する稼働率を探します。GPUの種類と枚数は、そろえて比べてください。
オンプレ設置前に確認する電力・設備の条件
比べる点 | オンプレ | クラウド(従量課金) |
|---|---|---|
電源・冷却 | 200〜240Vの電源(DGX H100/H200の場合)と冷却設備を自社で用意 | 設備は事業者のデータセンター側にある |
費用のかかり方 | 使わない時間も機器の固定費がかかる | 使った時間に応じて料金が増える |
出典:DGX H100/H200 User Guide(2026年11月10日確認)
稼働率が月ごとに大きく変わるなら、低い月ほど固定費の割合が大きくなります。
GPU環境をクラウドで用意する方法
GPUサーバーを買わない方法の1つが、国内のGPUクラウドです。株式会社HelloCloudのHelloCloudは、東京の2拠点(JPTY01/JPTY02)でGPUインスタンスとサーバーレスGPU実行環境を提供しています。GPUは従量課金で初期費用は不要、申し込みの当日から使えます。
GPUクラウドの仕組みと使い方は、GPUクラウドの基本を解説した記事で説明しています。
GPUインスタンス | VRAM | RAM | vCPU | 参考価格(1インスタンスあたり) |
|---|---|---|---|---|
RTX 6000 | 96GB | 96GB | 16 | ¥380/時間 |
B300 | 288GB | 384GB | 24 | ¥1,480/時間 |
出典:HelloCloud公式サイト(2026年11月5日確認)。税込・税別の記載なし
HelloCloudの公式サイトには、次の導入事例が載っています。
株式会社ラス恋(CEO 山口様):会員の個人情報を扱うため推論も国外のサーバーに出せない前提で、処理を国内に閉じられる点が決め手になり、申し込んだ日のうちに検証を始め、レコメンドのモデルを本番に載せている
Aimy株式会社(CEO 平野様):AIキャラクターとの対話サービスで推論を常時動かしながら、同じ環境でモデルの学習も進めている
出典:HelloCloud公式サイト(2026年11月5日確認)
料金表にない費用や条件は、資料請求で確認できます。
他社との比べ方は、国内のGPUクラウドの料金を比較した記事にまとめました。
オンプレと比べて検討している方へ
HelloCloudの特徴と料金、導入の進め方がわかる資料を配布しています。GPUは従量課金で、初期費用はかかりません。
資料請求(HelloCloudの特徴と料金)
ポイント:
損益分岐は、月額固定費と月間利用時間で決まります。GPUの種類と枚数をそろえ、自社の稼働率の見通しと比べてください。
GPUの電力に関するよくある質問

GPUは常に最大電力で動いているのか
GPUは常に最大電力で動くわけではなく、実際の消費電力は計算の負荷によって変わります。実際の値は、nvidia-smiのAverage Power Draw(過去1秒間のボード全体の平均電力)で確認できます。
GPUの電力上限は何Wまで下げられるのか
GPUの電力上限は、GPUごとに決まっているMin Power Limitまで下げられます。Min Power Limitの値は「nvidia-smi -q」の出力にあり、設定にはroot権限が必要です。
GPUサーバーは100Vのコンセントで動くのか
DGX H100/H200の電源ユニットの入力電圧は200〜240Vで、100Vは仕様の範囲外です。ほかのGPUサーバーも、導入前にメーカーの仕様書で入力電圧を確認してください。
GPUの電源容量はどう決めればよいのか
GPUサーバーの電源容量は、GPUの合計ではなく、システム全体の最大消費電力で決めます。DGX H100/H200の場合、H100 SXMの最大TDPで計算したGPUの合計5.6kWに対して、システム全体の最大消費電力は10.2kWです。
まとめ:GPUの電力は4段階で見積もる

GPUの電力は、次の4段階で見積もります。
型番の最大消費電力を調べる:この記事で比べたL4・L40S・H100は72W〜700W
サーバー全体の値を使う:DGX H100/H200は最大10.2kW
PUEを掛ける:目安は1.4〜1.54
稼働率と単価で比べる:電気代と損益分岐の稼働率を出す
GPUの電力や設備の条件から、クラウドも比べたい方へ
HelloCloudの特徴と料金、導入の進め方がわかる資料を配布しています。LLM推論・モデル学習・バッチ処理での活用方法も掲載しました。
資料請求(HelloCloudの特徴と料金)
HelloCloud編集部 国内GPUクラウド「HelloCloud」を提供する株式会社HelloCloudの編集部です。GPUクラウドの仕組みや料金の見方、LLMの推論・学習に使う環境づくり、データの保存先や契約条件の確かめ方を、AI開発に関わるエンジニアや導入を判断する方に向けて解説しています。記事は調査会社や省庁の発表、各社の公式な料金ページ・利用規約などの一次情報をもとに作成し、料金や仕様の変更にあわせて内容を更新しています。



