「1メガワットで何トークン返せるか」がAIの原価になった — NVIDIAの「30倍」を第三者が計測、条件次第で2.1倍から62.9倍

「レビュー待ち」と書かれた数字に、答えが返ってきた

2026年8月24日、NVIDIAは新世代のAIサーバー「Vera Rubin NVL72」について、前世代のGB300 NVL72と比べて「1メガワットあたりのAIファクトリー・スループットが最大30倍」「100万トークンあたりのコストが最大35分の1」という数字を公表した。AIの性能発表としては、かなり大きな数字である。

ただしこの発表には、めずらしい但し書きが付いていた。「以下のVera Rubin NVL72の結果はNVIDIAがSemiAnalysisのAgentXワークロードで計測したものであり、SemiAnalysisのレビュー待ちである」。自社で他社のベンチマークを回し、その他社の検証がまだ済んでいないと、自分から書いたわけだ。

そのレビューが、2026年9月14日に出た。SemiAnalysisが「Vera Rubin NVL72 Agentic Inference: 67x better Performance per Dollar」と題した計測結果を公開し、AgentXというエージェント型の推論ベンチマークを、DeepSeek V4 Pro 1.6Tというモデルで回した実測値を並べた。比較対象はVera Rubin NVL72、GB300（推論エンジンはDynamo TRTLLMとDynamo SGLangの2種）、B200、MI355X、H200である。

結論から言えば、Vera Rubinは確かに速い。だが「何倍速いか」は、ひとつの数字では言えないことも同時に分かった。

30倍の正体は「対話速度」だった

先に、いちばん大事な種明かしをしておく。「30倍」は作り話ではない。ただし、誰が使っても30倍になる数字でもない。

鍵は「対話速度」だ。AIが1人のユーザーに対して1秒あたり何トークン返すか、という運用の設定である。速く返せと要求するほど、計算機は同時に処理できる件数を減らして応答を急ぐことになり、効率は落ちる。そして、その落ち方が世代によって違う。

NVIDIA自身が8月24日の発表でこの条件を明記していた。1ユーザーあたり110トークン/秒なら2倍、130トークン/秒なら10倍、そして160トークン/秒で30倍。つまり「30倍」は、かなり速い応答を要求したときの数字である。前世代がそこで急激に苦しくなるのに対し、新世代は粘る。その差が倍率として現れている。

ここは誤解されやすいので、はっきり書いておく。速い応答を求めない使い方をしている限り、電気代あたりの処理量が一夜で30倍になるわけではない。

第三者計測の実数 ― 5,940万 対 2,850万

では、独立計測の実数を見る。対話速度を抑えた運用点では、Vera Rubin NVL72は1メガワットあたり毎秒5,940万トークンを返した。同じ条件のGB300 NVL72は、推論エンジンDynamo SGLangで2,850万、Dynamo TRTLLMで2,110万である。SGLangとの比で、およそ2.1倍だ。

そこから対話速度を上げていくと、差は開く。150トークン/秒ではVera Rubinが約3,700万トークン/秒/MWで、GB300 SGLangの7.2倍。170トークン/秒まで上げると、GB300 TRTLLM比で62.9倍という数字が出る。ただしこの領域は、GB300側が測定の限界に近づいている点に注意がいる。相手が止まりかけているときの倍率は、割り算としては大きく出る。

記事の見出しにある「67倍」も同じ性質のものだ。SemiAnalysisはその出どころを明示していて、170トークン/秒・TRTLLM NVFP4 Denseという同条件比較での「TCOあたりのスループット」である。

もう一点、公平のために書いておく。SemiAnalysisは、今回の計測に使ったソフトウェアが「早期のプレリリース版」であり、今後さらに改善する見込みだとしている。また同社は、NVIDIAはむしろ控えめに言う傾向があるとも指摘している。GTC 2026でジェンセン・フアンCEOが示したスライドは電力あたり3倍だったが、実測では最大7倍が出た、という具合である。

お金に直すと、差は穏やかになる

投資家にとって意味があるのは、電力あたりの処理量よりも、投じた金額あたりの処理量である。SemiAnalysisはそこも計算していて、60〜100トークン/秒という現実的な運用点では、Vera Rubin NVL72のTCOあたりスループットはGB300の1.4倍から3倍だとしている。

2.1倍や1.4倍という数字は、30倍や67倍に比べると地味に見える。だが、データセンターという装置産業で、1世代で総保有コストあたり1.4〜3倍というのは、十分に大きい。ここで効いてくるのは「置き換えれば得か」ではなく「同じ電力契約で、どれだけ売上を立てられるか」だ。

その延長で、SemiAnalysisはモデル上の収益も置いている。75トークン/秒・稼働率60%という前提で、送電まで含めた1ギガワットあたり年間1,595億ドルの売上、モデル上の利益1,499億ドル。これはあくまで前提を置いた試算であって、誰かの実績ではない。ただ、なぜ各社が「電力を何ギガワット押さえたか」を競って発表するのかは、この数字を見れば腑に落ちる。

なぜ「メガワットあたり」が原価の単位になったのか

数年前まで、AIの性能競争はチップ1枚の速さで語られていた。それが「1メガワットあたり」に移ったのには、はっきりした理由が二つある。

ひとつは、需要側が重くなったことだ。NVIDIAが引用するOpenRouterのデータによれば、エージェント型の処理は単純なチャットの15倍のトークンを消費する。AIに「調べて、比べて、まとめて、実行する」までやらせれば、裏側で動く量は桁で変わる。機能を足したつもりが、原価構造を変えていた、ということが起きる。

もうひとつは、供給側の制約が電力に移ったことだ。買えるGPUの枚数ではなく、契約できる電力で処理能力の上限が決まる局面に入っている。だからこそNVIDIAは、同じメガワット枠により多くのGPUを詰め込む技術（DSX MaxLPS）で最大40%増やせる、という言い方をする。枠が固定なら、枠の中身の密度を上げるしかない。

電力がボトルネックになると、そこに新しい商売が生まれる。同じ9月14日には、AIチップ同士をつなぐネットワーク技術のCornelis Networksが、IAG Capital Partnersを主導役として2億500万ドルを調達したことが明らかになった。2020年にIntelから分かれた会社で、「GPUがデータの到着を待って遊んでいる時間」を減らすという、まさに枠の中身の密度を上げる話である。

同じ週、ワシントンの答えは「減速はさせない」

効率が上がれば電力需要は減る、とは限らない。同じ枠でより多く処理できるなら、枠そのものを増やしにいく投資が続くからだ。そしてこの1週間、その意思がはっきり言葉になった。

9月14日、ロサンゼルスで開かれたAll-In Summitに登壇していたNVIDIAのジェンセン・フアンCEOのもとに、トランプ大統領から電話が入った。壇上で話題になっていたのは、AnthropicのCEOダリオ・アモデイが提案した「AI開発のペースを落とそう」という議論である。

大統領は電話口でこう言った。「You're not going to let that happen. It's a hoax.（そんなことはさせないだろう。あれはデマだ）」。フアンCEOの答えは「You're right. We're not going to let that happen, sir（おっしゃるとおりです。させません）」だった。データセンターについては大統領も「少しは慎重にならないといけない」と付け加えているが、続けて「だからといって、ひとつの産業を止めるわけではない」と述べている。

ここで押さえておきたいのは、これが政策文書ではなく、イベント中の電話でのやり取りだという点だ。ただ、減速提案に同調したイーロン・マスク氏やサム・アルトマン氏と、計算基盤を売る側のトップの立場が、公開の場で分かれたこと自体は動かない。

電気を使うのは、誰かの隣町である

ここまでは、メガワットを買う側の話だった。だが電気を使う場所には、必ず誰かが住んでいる。

ギャラップが2026年3月2日から18日にかけて米国の成人1,000人に聞いた調査（誤差±4ポイント）では、自分の地域にAIデータセンターが建つことに71%が反対している。内訳は強く反対が48%、やや反対が23%。賛成は27%にとどまった。参考までに、同じ調査で原子力発電所の建設に反対したのは53%である。データセンターのほうが、反対が多い。

反対理由も具体的だ。資源の消費を挙げたのが50%、水が18%、電力が18%、汚染が16%。生活の質への影響が22%、光熱費や物価といった経済的な負担が20%で、そのうち電気代の上昇をはっきり挙げたのが15%だった。一方、賛成する人の3分の2は経済効果を理由にしており、55%は雇用を挙げている。

この調査は3月に行われたもので、今週の出来事ではない。それでも、電力効率の議論がどこに着地するのかを考えるうえで外せない数字である。1メガワットあたりの効率が改善しても、総量が増え続ける限り、送電網と電気料金の話は消えない。

投資と生活に、どう効いてくるか

まず投資の側から。AI関連の決算や発表を読むときは、「何倍になった」という見出しの倍率を、その下にある運用条件とセットで読むのが正しい。今回はNVIDIA自身が条件を開示していたため、第三者計測と突き合わせて読むことができた。条件を書いていない倍率は、その時点で情報量が落ちる。

見るべき数字は三つに絞れる。ひとつ、対話速度。何トークン/秒で使う前提なのか。ふたつ、稼働率。効率改善で空いた枠を実際に埋められるのか（SemiAnalysisの収益モデルも稼働率60%という前提を置いている）。みっつ、電力契約。何メガワット押さえたのか。この三つが、AIインフラ銘柄の収益の分母と分子をほぼ決めている。

次に生活の側。1トークンあたりのコストが下がっても、AIの利用料金がそのまま下がるとは限らない。エージェント型の使い方が単純なチャットの15倍のトークンを消費する以上、単価が下がった分を使用量が食う可能性は十分にある。安くなるのは「1回の処理」であって、「1か月の請求」ではないかもしれない、ということだ。

そして電気代。効率が上がっても総需要が増え続ければ、送電網への投資と料金の議論は続く。米国では地元でのデータセンター建設に71%が反対し、15%が電気代の上昇を理由に挙げている。日本でも、大規模なデータセンターの立地と電力調達の話は、これから同じ質問に向き合うことになる。

今日の記事の要点はひとつだ。AIの原価は「1メガワットで何トークン返せるか」という単位に移った。そして、その倍率は条件で大きく変わる。数字を見たら、まずその下の条件を探す。それだけで、読み違えはかなり減る。

出典・参考情報

• SemiAnalysis「Vera Rubin NVL72 Agentic Inference: 67x better Performance per Dollar」2026年9月14日 — newsletter.semianalysis.com
• NVIDIA 開発者ブログ「NVIDIA Vera Rubin and Blackwell Set a New Standard for Agentic AI Performance per Watt」2026年8月24日 — developer.nvidia.com
• NVIDIA ブログ「Up to 30x More Work Per Watt: NVIDIA Vera Rubin NVL72 Sets a New Efficiency Standard for AI Agents」2026年8月24日 — blogs.nvidia.com
• TechCrunch「Nvidia CEO Jensen Huang tells Trump we are not going to let an AI slowdown happen」2026年9月14日 — techcrunch.com
• Gallup「Americans Oppose AI Data Centers in Their Area」2026年3月2〜18日実施・成人1,000人・誤差±4ポイント — news.gallup.com
• TechCrunch「AI infrastructure company Cornelis raises $205M to chip away at Nvidia's dominance」2026年9月14日 — techcrunch.com

※本記事の数値はすべて上記出典に基づく。1ギガワットあたりの年間売上・利益はSemiAnalysisが前提条件（75トークン/秒・稼働率60%）を置いたモデル値であり、実績値ではない。