Le serveur Dell PowerEdge XE9680 est l’un des serveurs qui affiche la croissance la plus rapide depuis le lancement de la gamme PowerEdge il y a maintenant 30 ans. Il est aujourd’hui une des plateformes clés dans l’adoption et l’accélération des workloads d’intelligence artificielle, d’IA générative (GenAI) et de HPC chez nos clients.
Et un nouveau cap va bientôt être franchi ! Dans la deuxième moitié de l’année, le PowerEdge XE9680 pourra être déployé avec le nouvel accélérateur d’IA Intel® Gaudi® 3. Cette introduction va marquer une avancée significative en termes de performance et de TCO, mais va également permettre d’adresser une liste plus étendue de cas d’usage.
Construire une plateforme IA personnalisée
Le Dell PowerEdge XE9680 se distingue sur le marché grâce à sa capacité d’embarquer 8 GPU dans une architecture x86 en rack. L’intégration de l’accélérateur Intel Gaudi3 amplifie encore ses capacités et offre aux entreprises la possibilité d’adapter encore plus finement leur configuration à leurs besoins spécifiques, et particulièrement en matière d’IA générative.
Les utilisateurs pourront choisir jusqu’à 32 emplacements DIMM de mémoire DDR5, 16 disques de stockage EDSFF E3 et huit emplacements PCIe Gen 5.0. Associées à deux processeurs Intel® Xeon® Scalable de 4e génération, qui peuvent intégrer jusqu’à 56 cœurs chacun, ces configurations font du XE9680 un système taillé pour l’exécution des charges de travail les plus exigeantes d’IA et de Machine Learning.
Un accélérateur pétaflopique
L’accélérateur Intel Gaudi 3 apporte en effet des capacités importantes pour la GenAI, et notamment ses 64 cœurs TPC (Tensor Processor Core) de 5ème génération, entièrement programmables et spécifiquement optimisés pour l’IA. Gaudi 3 profite également de 128 Go de mémoire HBM2 (High Bandwidth Memory), de 3,7 TB/s de bande passante et de 96 Mo de mémoire SRAM). Des caractéristiques qui le font exceller dans les tâches d’entraînement et d’inférence de l’IA, avec 1,8 PFlops de puissance de calcul en précision FP8 et BF16, soit plus de 14 PFlops dans un système à 8 puces comme le PowerEdge XE9680.
Gaudi 3 introduit également de nouvelles capacités réseau grâce à six ports OSFP 800GbE. Ces liens permettent des connexions directes à des accélérateurs externes, sans qu’il soit nécessaire de placer des cartes réseau externes (NIC, Network Interface Card) dans le système. Cela contribue non seulement à réduire la complexité de l’infrastructure, mais aussi à réduire le coût total de possession.
L’accélérateur va par ailleurs faciliter la mise en œuvre de cas d’usage spécifiques. Il intègre par exemple des décodeurs multimédias spécialement conçus pour les applications de Computer Vision. Ces derniers sont capables de gérer de nombreuses tâches de prétraitement pour accélérer notamment les opérations de transcription de vidéos en texte.
Une gravure 5 nm pour une meilleure efficacité énergétique
Contrairement à son « cousin », le PowerEdge XE9680L à refroidissement liquide, le XE9680 est refroidi par air. Mais sa conception lui permet de fonctionner dans des environnements jusqu’à 35 °C afin de limiter son impact énergétique. Et contrairement à son prédécesseur, Gaudi 2, gravé en 7 nm, Gaudi 3 bénéficie du nouveau procédé de gravure en 5 nm, ce qui lui offre davantage de densité et renforce là encore son efficacité énergétique.
L’intégration de l’accélérateur Intel dans la plateforme PowerEdge permet ainsi de répondre aux nouveaux besoins de performance des entreprises dans leur voyage vers l’IA, tout en limitant l’empreinte environnementale de cette transformation.
