Article écrit par Varun Bawa, Savitha Pareek et Ashish K Singh du HPC and AI Innovation Lab en avril 2019

Paramètres du processeur :

• Prérécupération de la ligne suivante du cache : Le mécanisme de prérécupération de la ligne de cache adjacente permet une prérécupération automatique du matériel, il fonctionne sans intervention du programmeur. Lorsque cette option est activée, elle peut accueillir deux lignes de cache de 64 octets dans un secteur de 128 octets, que la ligne de cache supplémentaire ait été demandée ou non.
• Prérécupérateur de logiciel : Il évite le blocage en chargeant les données dans le cache avant qu’elles ne soient nécessaires. Exemple : Pour prérécupérer les données de la mémoire principale vers le cache N2 bien avant l’utilisation avec une instruction de prérécupération N2, puis prérécupérer les données du cache N2 vers le cache N1 juste avant l’utilisation avec une instruction de prérécupération N1. Ici, lorsque cette option est activée, le processeur prérécupérera une ligne de cache supplémentaire pour chaque demande de mémoire.
• SNC (cluster sous-numa) : L’activation de SNC revient à diviser le socket unique en deux domaines NUMA, chacun doté de la moitié des cœurs physiques et de la moitié de la mémoire du socket. Si cela vous semble familier, son utilitaire est similaire à celui de l’option Cluster-on-die , disponible pour les processeurs Intel Xeon E5-2600 v3 et v4. SNC est implémenté différemment de COD, et ces modifications améliorent l’accès aux sockets distants dans Cascade Lake par rapport aux générations précédentes, qui utilisaient l’option Cluster-on-Die. Au niveau du système d’exploitation, un serveur à deux sockets avec SNC activé affiche quatre domaines NUMA. Deux des domaines seront plus proches l’un de l’autre (sur le même socket), et les deux autres seront plus éloignés, de l’autre côté de l’UPI vers le socket distant. Cela peut être observé à l’aide d’outils de système d’exploitation tels que : numactl –H et est illustré à la figure 1.

Profils système :

• Performances
• Performances par wattDAPC
• Performances par wattOS

Tableau 1 : Applications et analyses comparatives

Tableau 2 : Configuration du serveur

• Stream : score de triade tel que rapporté par l’analyse comparative des flux.
• HPL : GFLOP/seconde.
• Fluent : évaluation du solveur telle que rapportée par Fluent.
• WRF – Pas de temps moyen calculé sur les 719 derniers intervalles pour Conus 2,5 km

Analyses comparatives et résultats d’application

Abréviations de notation graphique :

Profils système :

Perf – Performance OS – PerformancePerWattOS DAPC – PerformancePerWattDAPC
Sub-NUMA Clustering : SNC = 0 (SNC = Désactivé) : SNC = 1(SNC = Activé : Formaté comme agrégé par bandes dans les graphiques)
SW – Software Prefetcher : SW = 0 (SW = Disabled) : SW = 1 (SW = Activé)

• Différence de performances HPL inférieure à 1 % due à la prérécupération logicielle.
• Pas d’effet majeur du SNC sur les performances HPL (0,5 % meilleur avec SNC = Disabled).
• Le profil système Performance est jusqu’à 6 % plus performant que le système d’exploitation et le DAPC.

 

• Jusqu’à 3 % d’amélioration de la bande passante de la mémoire avec SNC=activé.
•  Peu d’écart dans les performances dû à la prérécupération logicielle sur la bande passante de la mémoire STREAM. 
•  Aucun écart entre les profils système.

  

La Figure 4 représente le score de bande passante de la mémoire Stream Triad dans une telle configuration. La bande passante totale de la mémoire système est de ~220 Go/s. Lorsque 20 cœurs d’un socket local accèdent à la mémoire locale, la bande passante de la mémoire est de ~ 109 Go/s, soit la moitié de la bande passante totale du système. La moitié de ce nombre, ~56 Go/s, correspond à la bande passante de la mémoire de 10 threads sur le même nœud NUMA accédant à leur mémoire locale et sur un nœud NUMA accédant à la mémoire appartenant à l’autre nœud NUMA sur le même socket. Il y a une baisse de 42 % de la bande passante de la mémoire à ~33 Go/s lorsque les threads accèdent à la mémoire distante via le lien QPI sur le socket distant. Cela nous indique qu’il y a une pénalité de bande passante significative en mode SNC lorsque les données ne sont pas locales.

• 2 % d’amélioration des performances avec SNC=Activé.
•  Aucune différence de performances entre l’option Activé et Désactivé pour la prérécupération logicielle.
•  Le profil de performances est 1% supérieur aux profils PerformancePerWattDAPC

 

• Performances jusqu’à 4 % supérieures avec SNC=Activé.
• Aucun effet de la prérécupération du logiciel sur les performances.
• Jusqu’à 2 % d’amélioration des performances avec le profil Performance par rapport aux profils DAPC et OS.

Conclusion

• La prérécupération logicielle n’a pas d’impact significatif sur les performances des jeux de données qui ont été testés. Par conséquent, nous vous recommandons de conserver le prérécupérateur de logiciel par défaut, c’est-à-dire Activé
• Avec SNC = Activé Augmentation des performances de 2 à 4 % dans Fluent et Stream, environ 1 % dans WRF par rapport à SNC = Désactivé. Par conséquent, nous recommandons que SNC soit activé pour atteindre de meilleures performances.
• Le profil de performances est de 2 à 4 % plus performant que les performances par wattDAPC et PerformancePerWattOS. Par conséquent, nous recommandons le profil de performances pour HPC .