AIデータセンターは今やチップの納品ではなく送電線を待っている

Oracleがウィスコンシン州に計画するAIデータセンターは遅延しており、その理由はシリコンではない。このプロジェクトは系統接続の規制承認待ちで、2027年の顧客向け納入が危ぶまれている。ほぼ同じ時期に、8億ドル超の新規容量が系統接続または計画の承認を通過した。フィンランドのPyhajokiで地元の反対を覆した250メガワットのキャンパス、エジプトの2億7000万ドルプロジェクト、ポーランドのEU資金4億100万ユーロ、フランスの8000万ユーロだ。これらのプロジェクトはいずれも、チップ供給ではなく電力インフラに依存している。

この2年間、AIインフラの議論はアクセラレータを中心に展開してきた。だが、それは変わりつつある。データセンターが予定通りに開業できるかを左右する制約は、サーバーラックの上流に存在する。

ラックが建物の容量を超えた

AI向けに最適化されたラックは現在、30キロワットから100キロワット超を要求し、一部の導入では150キロワットを超える。従来のエンタープライズラックの消費電力はそのほんの一部だ。これは既存の電気室や冷却ループで吸収できる小幅な増加ではない。新しい変電所、新たな変圧器容量、そして多くの場合、床に配管される液冷が必要になる。

電力側の数字は、国家規模で影響を与えるほど大きい。米国のデータセンター消費電力は現在約180テラワット時で、信頼できる予測では2030年までに400～600テラワット時になるとされている。これは、電力会社を交渉力を持つパートナーに変え、系統連系待ち行列をスケジュールリスクに変える種類の需要増加だ。

Oracleのウィスコンシンでの遅延は最も明確な例だ。同社は2027年のコミットメントを持つAI顧客向けに建設を進めているが、送電承認は数四半期単位でずれ込む可能性があり、チップベンダーの誰もそれを助けることはできない。

事業者はエネルギー企業になりつつある

対応は垂直統合だ。データセンター事業者は今や電力購入契約を結び、発電に投資し、場合によっては接続設備自体を建設する。フィンランドのEnetronプロジェクトは用途地域の変更を必要とした。250メガワットの負荷が地域系統の計画を支配するほど大きくなると、こうしたことが起きる。

これはデータセンターの経済性を見落としがちな形で変える。歴史的に、立地選定では土地代、光ファイバールート、税制優遇が最適化されてきた。電力は公共料金の請求書にすぎなかった。今では電力の可用性がスケジュールの関門であり、人口集中地域の近くにある最も安い土地は、系統がすでにひっ迫しているため、しばしば最悪の建設地になる。

だからこそ新しいプロジェクトは現在の場所に集まっている。北欧には水力発電容量と冷涼な空気がある。エジプトには安価な発電と、欧州・中東の需要に近いという利点がある。ポーランドとフランスは公的資金を使って接続を迅速化している。このパターンは技術の問題ではない。電気と熱の問題だ。

メモリがもう一つの不足要因だった

業界が電力に注目する一方で、第二の制約が厳しさを増した。高帯域幅メモリ（HBM）は、ラック内で最も希少な投入要素になっている。MicronのHBM4は、重量あたりの単価で標準DRAMの約15倍で取引されている。これはサプライチェーンを再編させるほど強い価格シグナルだ。HBMは、供給が逼迫したときに安価な部品に差し替えられるようなコモディティではないからだ。

歴史的な不均衡は際立っている。AIチップの演算スループットは業界の歴史の中で約100万倍に成長したが、メモリ帯域幅の成長は約40倍にとどまる。アクセラレータは、メモリが供給できるよりもはるかに速く演算を実行できる。だからこそ回避策がこれほど重要になる。FP8およびFP4量子化はモデルのメモリフットプリントをそれぞれ半分と4分の1にし、mixture-of-expertsのような手法はトークンごとにパラメータのごく一部を活性化するため、総パラメータ数が数兆規模のモデルでもすべてを同時に常駐させる必要がない。

これらの手法は、余剰容量がある場合に適用する最適化ではない。ワークロードがそもそも収まるようにする理由であり、どのモデルアーキテクチャが実用的に展開できるかを制約する。2つのモデルから選ぶチームは今や、ベンチマークスコアと同じ重みで、トークンあたりのメモリ帯域幅を考慮する。

メモリが出荷されるアーキテクチャを決める

メモリの制約は供給を制限するだけではない。何が構築されるかを形作る。

非常に大きなコンテキストウィンドウを持つモデルは、推論中に大きなキー・バリューキャッシュを保持する必要があり、そのキャッシュは同じメモリをめぐって重みと競合する。紙の上では効率的に見えたアーキテクチャも、キャッシュだけでデバイスに収まる容量を超えると非現実的になる。だからこそ、キャッシュをホストメモリにページングしたり圧縮したりするなど、計算をメモリと引き換えにする手法が、研究上の珍品から標準的な構成要素へと移ってきた。

その結果、アーキテクチャの決定は、その逆ではなく、メモリの可用性に従うことがますます多くなっている。より長いコンテキストを求めるチームは、精度の向上がメモリコストに見合うかどうかを決めなければならず、その答えは多くの場合、実際に入手できるアクセラレータの世代に依存する。これはモデル設計の衣をまとったサプライチェーンの決定である。

高帯域幅メモリは、供給元が少ない専門製品であるため、この問題をより鋭くする。標準DRAMは幅広く調達でき、代替もできる。HBMは一握りのメーカーによって生産され、固定されたスタックで提供され、かなり前から割り当てられる。不足は、より多く支払うことでは解消しない。待つことによって解消する。

なぜこれが競争地図を変えるのか

チップが制約だったときは、最高のアクセラレータを持つ企業が優位に立ち、買い手は列をなした。電力とメモリが制約になると、優位性はメガワットとメモリ割り当てを確保できる者に移り、これはバランスシート、長期的な電力会社との関係、発電を建設する忍耐力を持つ企業に有利だ。

それは異なる勝者たちだ。20年間の電力契約を結ぶ十分な資本を持つクラウドプロバイダーは、エンジニアリングチームがより優れたカーネルで対抗できない優位性を持つ。また、電気は地域的であり、メモリ工場は少数しかないため、地理が再び重要になる。

二次的効果もある。系統連系の待ち行列が長く続けば、既存容量をより効率的に使う圧力が高まる。これは量子化や投機的デコーディングのような手法を有利にし、まだ変電所を待っているハードウェアではなく、すでに設置済みのハードウェアで提供できる小規模モデルを有利にする。

注目すべき点

系統連系の待ち行列。大規模負荷の承認が来年、今年より長くかかるなら、さらに多くのプロジェクトがずれ込み、スケジュールリスクは不意打ちではなく計画上の前提になる。

メモリ価格曲線。標準DRAMに対するHBM価格は、買い手が帯域幅にどれだけのプレミアムを払うかを示す。プレミアムが縮小すれば、供給が追いついたことになる。拡大すれば、不足がロードマップのより多くを決めている。

事業者が発電を買い続けるかどうか。エネルギー企業になるデータセンターはすべて、電力業界の顧客リストを変える。少数の大手事業者が意味のある発電容量を所有するなら、次のAI容量は、電力がすでにある場所ではなく、彼らが電力を作れる場所に建設されるだろう。

チップの物語は続くが、もはや期限を決めるものではない。2027年に予定通り開業するプロジェクトは、接続とメモリ割り当てを最初に解決したものになり、そこで搭載するアクセラレータは簡単な部分になるだろう。