Les entreprises font face à un défi de taille : accélérer l’adoption de l’intelligence artificielle et, dans le même temps, minimiser leur empreinte environnementale. Alors que les besoins en puissance de calcul montent en flèche, la consommation d’énergie augmente en conséquence, et avec elle, l’empreinte carbone de l’organisation.
Une situation qui appelle à mettre en œuvre de nouvelles infrastructures capables de combler ce fossé entre performance et durabilité.
Du stockage ET de la puissance de calcul
Nous savons que la densité est un point clé pour obtenir le meilleur ratio performance/consommation. Nous l’avons récemment démontré avec les baies de stockage PowerStore ou avec les serveurs PowerEdge. Nous continuons sur cette voie avec la nouvelle plateforme PowerScale F910.
Le F910 est le nœud PowerScale 100 % flash à la plus haute densité. Cela réduit l’empreinte spatiale du matériel d’IA et minimise l’énergie nécessaire au refroidissement et à la maintenance.
Mais nous avons également conçu notre système pour qu’il intègre une grande puissance de calcul, afin d’offrir toutes les ressources nécessaires à l’IA, sans avoir à déployer une infrastructure physique de grande ampleur.
Disons-le tout de suite, le PowerScale F910 offre une densité 20 % supérieure à celle du F7101 que nous avons lancé il y a trois mois, il est 2,2 fois plus rapide pour délivrer des informations basées sur des workloads d’IA2 et il peut réduire la consommation énergétique de 35 %3.
Mais regardons plus en détail comment nous sommes parvenus à ce résultat.
Une densité augmentée de 20 %
Le panneau frontal du F910 cache 24 supports SSD NVMe, qui peuvent chacun contenir jusqu’à 30,7 To de données, soit 737 To dans un format compact de 2U.
Dans le cas d’un nouveau cluster, les entreprises devront déployer un minimum de 3 nœuds F910 (les organisations disposant déjà d’un cluster F900 pourront ajouter des nœuds F910 à l’unité). Dans une configuration en rack de 6U avec 3 nœuds donc, la capacité brute du F910 ira de 276,5 To minimum à un maximum de 2,16 Po. Votre cluster pourra ensuite évoluer jusqu’à un maximum de 252 nœuds, soit près de 186 Po.
Et la réduction des données, qui intègre à la fois la compression et la déduplication, étant activée par défaut sur la plateforme, cela augmente encore davantage la capacité et donc la densité.
Des performances plus que doublées
Sur le plan matériel, le F910 exploite une plateforme PowerEdge bi-socket équipée avec des processeurs Intel® Xeon® Gold 6442Y. Grâce à ses 24 cœurs et à ses technologies dédiées aux traitements de données, comme Intel® Deep Learning Boost ou Intel® Data Streaming Accelerator, ce CPU est particulièrement adapté aux applications IA et son efficience énergétique permet des scénarios de consolidation des infrastructures avec des ratios pouvant atteindre 15 pour 1.
Le F910 adopte également la technologie PCIe 5.0 et intègre 512 Go (16 x 32 Go) de mémoire RAM DDR5, ce qui lui permet de doubler la bande passante et de réduire la latence par rapport à la génération précédente, offrant ainsi des transferts de données plus rapides et une meilleure exploitation des accélérateurs.
En plus de ces upgrades matériels, les versions 9.7 et 9.8 de OneFS ont apporté des optimisations, notamment au niveau des processus de sharding (partitionnement des données) et de parallélisation, qui améliorent significativement les performances pour les charges de travail lourdes en écriture, telles que l’inférence de l’IA générative ou l’entraînement des modèles. Le PowerScale F910 offre ainsi des performances en hausse de 127 % sur les opérations de streaming.
Si l’on replace cela dans un contexte d’IA, cette association entre l’utilisation de composants de pointe et les optimisations logicielles signifie que l’apprentissage d’un modèle d’IA pourrait se faire en 4,55 heures au lieu de 10 heures. Vous économisez donc 5,45 heures, qui peuvent être utilisées pour d’autres modèles d’IA, et bénéficiez d’une performance/watt deux fois supérieure à la précédente génération PowerScale.4
Une consommation réduite de plus d’un tiers
Maintenant que nous connaissons les spécifications de cette nouvelle baie, revenons à ce qui nous intéresse ici, à savoir l’empreinte environnementale du stockage, avec un comparatif concret.
On l’a vu, le F910 offre 20 % de densité en plus par rapport au F710. Mais si on le compare au F810, le gain est de 55 %. Si l’on prend un scénario dans lequel un datacenter disposerait de 10 racks remplis à pleine capacité, avec un gain de 55 % en densité par unité de rack, nous pouvons désormais intégrer 55 % de ressources de calcul et de stockage en plus dans chaque rack par rapport à la configuration précédente. Ce qui signifie que l’organisation peut consolider 10 racks sur 6,5 racks.
Et parce qu’une image vaut mille mots :
Dans un tel scénario, la réduction des besoins en espace physique se traduit par une réduction de la consommation énergétique de 35 %.
En résumé, à mesure que la densité par unité de rack (RU) augmente, le coût total de possession (TCO) de la solution diminue, ainsi que l’empreinte carbone de l’entreprise.
1 Basé sur la disponibilité des lecteurs par U, en comparant le F910 au F710. Avril 2024.
2 Basé sur des tests internes, comparant l’écriture en streaming de F910 sur OneFS 9.8 à l’écriture en streaming de F900 sur OneFS 9.5. Les résultats réels peuvent varier. Avril 2024.
3 Accelerating AI Innovation and Sustainability: The High-Density, High-Performance Dell PowerScale F910, Aqib Kazi, 24 mai 2024 – https://infohub.delltechnologies.com/nl-nl/p/accelerating-ai-innovation-and-sustainability-the-high-density-high-performance-dell-powerscale-f910/
4 Basé sur des tests internes des chiffres d’écriture en streaming pour obtenir un pourcentage d’augmentation des performances par watt du F910 sur OneFS 9.8 et du F900 sur OneFS 9.5. Les résultats réels peuvent varier. Avril 2024.
