Les centres de données d'IA attendent désormais les lignes électriques, pas les livraisons de puces

Le centre de données d'IA d'Oracle prévu dans le Wisconsin est retardé, et la raison n'est pas le silicium. Le projet attend l'approbation réglementaire pour un raccordement au réseau, ce qui met en péril la livraison aux clients en 2027. À peu près au même moment, plus de 800 millions de dollars de nouvelles capacités ont franchi les étapes d'approbation du réseau ou de la planification : un campus de 250 mégawatts à Pyhäjoki, en Finlande, qui a passé outre l'opposition locale, un projet de 270 millions de dollars en Égypte, 401 millions d'euros de financement de l'UE en Pologne et 80 millions d'euros en France. Chacun de ces projets dépend des infrastructures électriques, et non de l'approvisionnement en puces.

Pendant deux ans, la conversation sur l'infrastructure d'IA a porté sur les accélérateurs. Cela est en train de changer. La contrainte qui décide désormais si un centre de données ouvre dans les délais se situe en amont du rack de serveurs.

Le rack a dépassé le bâtiment

Un rack optimisé pour l'IA exige désormais de 30 kilowatts à plus de 100, et certains déploiements dépassent les 150 kilowatts. Un rack d'entreprise traditionnel consomme une petite fraction de cela. Ce n'est pas une augmentation marginale qui peut être absorbée par les salles électriques et les boucles de refroidissement existantes. Cela nécessite de nouvelles sous-stations, une nouvelle capacité de transformation et, dans de nombreux cas, un refroidissement liquide raccordé au sol.

Les chiffres du côté de l'électricité sont suffisamment importants pour compter à l'échelle nationale. La consommation des centres de données aux États-Unis est d'environ 180 térawattheures aujourd'hui, et des prévisions crédibles la situent entre 400 et 600 térawattheures d'ici 2030. C'est le type de croissance de la demande qui transforme un service public en partenaire doté d'un pouvoir de négociation, et qui transforme une file d'attente d'interconnexion en risque de calendrier.

Le retard d'Oracle dans le Wisconsin en est l'illustration la plus claire. L'entreprise construit pour des clients d'IA avec des engagements pour 2027, et une approbation de transport peut être repoussée de plusieurs trimestres sans que personne chez le fournisseur de puces puisse aider.

Les opérateurs deviennent des entreprises d'énergie

La réponse a été de s'intégrer verticalement. Les opérateurs de centres de données signent désormais des contrats d'achat d'électricité, investissent dans la production et, dans certains cas, construisent eux-mêmes le raccordement. Le projet Enetron en Finlande a nécessité une dérogation d'urbanisme, ce qui se produit lorsqu'une charge de 250 mégawatts est suffisamment importante pour dominer la planification d'un réseau local.

Cela change l'économie d'un centre de données d'une manière facile à manquer. Historiquement, la sélection des sites optimisait le coût du terrain, les routes de fibre optique et les incitations fiscales. L'électricité était une facture de services publics. Aujourd'hui, la disponibilité de l'électricité est un verrou sur le calendrier, et le terrain le moins cher près d'un centre de population est souvent le pire endroit où construire parce que le réseau est déjà chargé.

C'est pourquoi les nouveaux projets se regroupent là où ils le font. Les pays nordiques disposent d'une capacité hydroélectrique et d'air frais. L'Égypte bénéficie d'une production bon marché et d'une proximité avec la demande européenne et moyen-orientale. La Pologne et la France utilisent de l'argent public pour accélérer les raccordements. Le schéma n'est pas technologique. Il concerne l'électricité et la chaleur.

La mémoire s'est avérée être l'autre pénurie

Alors que l'industrie surveillait l'électricité, une deuxième contrainte s'est resserrée. La mémoire à bande passante élevée est devenue l'intrant le plus rare du rack. Le HBM4 de Micron se négocie à environ 15 fois la valeur unitaire de la DRAM standard au poids. C'est un signal de prix suffisamment fort pour réorganiser les chaînes d'approvisionnement, car le HBM n'est pas une marchandise que l'on peut remplacer par une pièce moins chère lorsque la disponibilité est tendue.

Le déséquilibre historique est frappant. Le débit de calcul des puces d'IA a été multiplié par environ un million au cours de la vie de l'industrie, tandis que la bande passante mémoire a été multipliée par un facteur d'environ 40. Les accélérateurs peuvent exécuter de l'arithmétique bien plus vite que la mémoire ne peut les alimenter, c'est pourquoi les contournements comptent autant. La quantification FP8 et FP4 divise par deux et par quatre l'empreinte mémoire d'un modèle, et des techniques comme le mélange d'experts activent une petite tranche de paramètres par token afin qu'un modèle avec des milliers de milliards de paramètres au total n'ait pas besoin de tous les résidents en même temps.

Ces techniques ne sont pas des optimisations que l'on applique si l'on a de la capacité en réserve. Elles sont la raison pour laquelle les charges de travail tiennent tout court, et elles limitent les architectures de modèles qu'il est pratique de déployer. Une équipe qui choisit entre deux modèles pèse désormais la bande passante mémoire par token aussi lourdement que les scores de référence.

La mémoire décide quelles architectures sont livrées

La contrainte de mémoire ne fait pas que limiter l'offre. Elle façonne ce qui est construit.

Un modèle avec une très grande fenêtre de contexte doit conserver un grand cache clé-valeur pendant l'inférence, et ce cache est en concurrence avec les poids pour la même mémoire. Les architectures qui semblaient efficaces sur le papier deviennent impraticables lorsque le cache seul dépasse ce qui tient sur un appareil. C'est pourquoi les techniques qui échangent du calcul contre de la mémoire, notamment la pagination du cache vers la mémoire hôte ou sa compression, sont passées de curiosités de recherche à composants standard.

Le résultat est que les décisions d'architecture suivent de plus en plus la disponibilité de la mémoire plutôt que l'inverse. Une équipe qui veut un contexte plus long doit décider si le gain de précision justifie la facture de mémoire, et la réponse dépend souvent de la génération d'accélérateur qu'elle peut réellement obtenir. Ce sont des décisions de chaîne d'approvisionnement déguisées en conception de modèle.

La mémoire à bande passante élevée rend cela plus aigu parce qu'il s'agit d'un produit spécialisé avec une petite base de fournisseurs. La DRAM standard peut être approvisionnée largement et substituée. Le HBM est produit par une poignée de fabricants, se présente en piles fixes et est alloué bien à l'avance. Une pénurie ne se résout pas en payant plus. Elle se résout en attendant.

Pourquoi cela change la carte de la concurrence

Lorsque les puces étaient la contrainte, l'entreprise dotée du meilleur accélérateur avait l'avantage, et les acheteurs faisaient la queue. Lorsque l'électricité et la mémoire sont la contrainte, l'avantage se déplace vers celui qui peut sécuriser des mégawatts et des allocations de mémoire, ce qui favorise les entreprises avec des bilans solides, des relations durables avec les services publics et la patience de construire des capacités de production.

C'est un ensemble différent de gagnants. Un fournisseur de cloud bien capitalisé qui signe un contrat d'électricité de 20 ans dispose d'un avantage qu'une équipe d'ingénierie ne peut égaler avec un meilleur noyau. Cela signifie aussi que la géographie compte à nouveau, car l'électricité est locale et les usines de mémoire sont peu nombreuses.

Il y a un effet de second ordre. Si les files d'attente d'interconnexion restent longues, la pression pour utiliser plus efficacement la capacité existante augmente. Cela favorise des techniques comme la quantification et le décodage spéculatif, et cela favorise les modèles plus petits qui peuvent être servis sur du matériel déjà installé plutôt que sur du matériel qui attend encore une sous-station.

Ce qu'il faut surveiller

La file d'attente d'interconnexion. Si les approbations pour les grosses charges prennent plus de temps l'année prochaine que cette année, davantage de projets glissent, et le risque de calendrier devient une hypothèse de planification plutôt qu'une surprise.

La courbe des prix de la mémoire. Le prix du HBM par rapport à la DRAM standard vous indique la prime que les acheteurs sont prêts à payer pour la bande passante. Si la prime se comprime, l'offre a rattrapé la demande. Si elle s'élargit, la pénurie détermine davantage la feuille de route.

Si les opérateurs continuent d'acheter des capacités de production. Chaque centre de données qui devient une entreprise d'énergie modifie la liste des clients de l'industrie des services publics. Si quelques grands opérateurs possèdent une capacité de production significative, la prochaine vague de capacité d'IA sera construite là où ils peuvent produire l'électricité plutôt que là où l'électricité se trouve déjà.

L'histoire des puces continue, mais elle ne fixe plus la date limite. Les projets qui ouvriront à temps en 2027 seront ceux qui auront résolu le raccordement et l'allocation de mémoire en premier, et l'accélérateur qu'ils livreront sera la partie facile.