Amazon paie des milliards pour des GPU Nvidia restés inutilisés à cause de retards d'alimentation électrique et d'infrastructure, signe d'une tendance des « GPU sombres » dans la course à l'IA.
Les serveurs inutilisés d'Amazon
Des courriels internes consultés par Business Insider laissent penser qu'Amazon Web Services (AWS), une division d'Amazon, devait recevoir pour environ 5 milliards de dollars de baies serveurs Nvidia GB300 en août, puis pour 3 milliards de dollars supplémentaires chaque mois par la suite.Les difficultés de déploiement des serveurs
Certaines de ces baies serveurs restent éteintes, car plusieurs centres de données d'AWS aux États-Unis ne disposent pas d'une alimentation électrique suffisante pour les installer. Les serveurs attendent la fin des travaux dans des entrepôts « intermédiaires », qui servent à stocker les équipements avant leur déploiement.Qu'est-ce que les baies GB300 ?
Les GB300 sont des baies serveurs complètes vendues par Nvidia, équipées de processeurs graphiques (GPU). Elles servent à faire fonctionner des modèles d'intelligence artificielle. Avant la vague de l'IA, AWS ne devenait propriétaire d'une baie qu'une fois celle-ci assemblée et livrée dans un centre de données.La stratégie d'Amazon pour réserver les équipements
Aujourd'hui, Amazon paie des milliards à l'avance pour réserver les équipements plus tôt. Une équipe d'Amazon a exprimé ses inquiétudes face à l'absence de calendrier précis quant au moment où tous ces GPU seront installés dans ses serveurs, ce qui met en lumière la complexité du processus de déploiement.Le problème plus large des « GPU sombres »
Le phénomène des GPU inutilisés d'Amazon n'est pas un cas isolé. Le site américain TechSpot, qui a détaillé la question le 24 octobre, l'a classé sous le nom de « GPU sombres », désignant les GPU mis hors tension faute d'électricité.Des difficultés qui dépassent l'alimentation électrique
Les géants du cloud achètent tout le matériel qu'ils peuvent et laissent une grande partie de celui-ci prendre la poussière sur les étagères, tandis que le reste du secteur doit se contenter des restes. Cependant, il est assez facile de blâmer le réseau électrique ou les autorisations de construire. Même si l'électricité arrivait demain, un centre de données a besoin de béton, d'acier, de câbles en cuivre, d'électriciens et de techniciens pour assembler les serveurs.Les investissements continus d'Amazon
Amazon continue d'acheter pour environ 3 milliards de dollars de baies serveurs Nvidia par mois, soit près de 36 milliards de dollars sur un an. Amazon qualifie cette pratique de « meilleure pratique ». Un porte-parole de l'entreprise a décrit le stockage des baies finies dans des entrepôts comme une « meilleure pratique commerciale ».Attentes à long terme et impact financier
Andy Jassy, PDG d'Amazon, a rappelé qu'AWS a déjà connu une situation similaire. Par ailleurs, l'entreprise compte sur de larges retours financiers à long terme, convaincue que l'IA représente une opportunité unique qu'aucun acteur technologique ne peut se permettre de manquer. En attendant, la facture apparaît déjà dans les comptes.Les conséquences financières pour Amazon
Le flux de trésorerie disponible d'Amazon, c'est-à-dire l'argent restant une fois les investissements payés, est devenu négatif au deuxième trimestre sur douze mois glissants, une première depuis 2023. Le groupe prévoit environ 220 milliards de dollars de dépenses d'investissement cette année et s'attend à ce que ce flux de trésorerie reste négatif pendant un certain temps.
