L’association des dernières générations de processeurs et du refroidissement liquide (ou par immersion) est l’avenir du calcul intensif en général, et de l’IA en particulier. Et avec l’arrivée du nouveau Dell PowerEdge XE9680L, on peut même déjà en parler au présent !
Le PowerEdge XE9680 (sans le « L » donc), est l’un des serveurs qui affiche la croissance la plus rapide depuis le lancement de la gamme PowerEdge il y a maintenant 30 ans. Pensé pour prendre en charge les workloads les plus complexes (HPC, ML/DL, GenAI…), ses 8 GPU NVIDIA HGX H100 lui permettent de gérer des modèles et jeux de données extrêmement volumineux.
Le PowerEdge XE9680L va permettre de franchir un nouveau cap en matière de performances, mais aussi d’efficacité énergétique.
Un serveur, 8 GPU, 2 CPU, 12 emplacements PCIe
Ce nouveau modèle reprend la recette qui a fait le succès de son prédécesseur. Dans un format compact de 4U, il embarque 8 GPU et 2 CPU. Mais les GPU NVIDIA H100 laissent ici la place à une nouvelle génération de puces, les NVIDIA Blackwell B200, qui font plus que doubler le nombre de transistors (208 milliards contre 80 milliards) et promettent de très hauts niveaux de performance, notamment pour l’entraînement des grands modèles de langages (LLM). Côté CPU, le PowerEdge XE9680L intègre les dernières générations de processeurs Intel® Xeon®, dotés d’accélérateurs dédiés à l’IA et au Deep Learning,
Du nouveau également côté connectivité, avec pas moins de 12 emplacements PCIe 5.0 FHHL (full height, half length). Ce qui signifie deux fois plus de débits et d’E/S pour les flux réseau nord-sud1, pour l’intégration d’accélérateurs, ou pour la connectivité GDS (GPUDirect Storage), disponible sur les plateformes Dell PowerScale (pour rappel, le GDS permet un transfert direct des données entre les supports NVMe de la baie de stockage et les GPU du serveur).
Le refroidissement liquide qui fait la différence
Mais l’autre grand changement apporté par cette plateforme n’est pas à chercher du côté des composants. Le PowerEdge XE9680L offre en effet un système de refroidissement liquide. La technologie Direct Liquid Cooling (DLC) fait circuler dans le serveur un fluide qui capte et évacue la chaleur émise par les puces. Outre les économies d’énergie liées à la réduction des besoins en ventilation, le refroidissement liquide offre une plus grande densité puisqu’il permet de récupérer tout l’espace normalement consacré à la circulation de l’air.
Et la capacité d’extraction thermique de l’eau, quatre fois supérieure à celle de l’air, permet de mieux exploiter les capacités des CPU, sans craindre le phénomène de Thermal Throttling (réduction automatique de la fréquence du processeur pour éviter que celui-ci ne monte trop en température).
72 GPU dans un seul rack
Concrètement, le niveau de densité offert par le PowerEdge XE9680L à refroidissement liquide permet d’intégrer jusqu’à 72 GPU dans un seul rack. De quoi offrir une puissance de calcul considérable, mais aussi une très grande évolutivité, notamment pour les organisations qui débutent leur adoption de l’IA.
Et si vous souhaitez accélérer cette adoption, il est d’ailleurs possible d’opter pour la livraison d’un rack clé en main. Nos équipes se chargent alors d’intégrer le serveur et tous les composants liés à l’alimentation, au refroidissement ou à la fabric réseau pour vous fournir une infrastructure complète et pré-validée, bénéficiant d’un support unique.
1 Basé sur les conseils de configuration Dell pour 8 emplacements PCIe Gen 5 FHHL 1:1 alloués aux 8 GPU des XE9680 et XE9680L. Le XE9680 dispose de 10 emplacements PCIe Gen 5 FHHL tandis que le XE9680L dispose de 12 emplacements PCIe Gen 5 FHHL.
