Artigo escrito por Varun Bawa, Savitha Pareek e Ashish K Singh, do Laboratório de Inovação em HPC e IA, em abril de 2019

Configurações do processador:

• Pré-busca de linha de cache adjacente: O mecanismo Adjacent Cache-Line Prefetch permite a pré-busca automática de hardware, ele opera sem intervenção do programador. Quando habilitado, ele acomoda duas linhas de cache de 64 bytes em um setor de 128 bytes, independentemente de a linha de cache adicional ter sido solicitada ou não.
• Pré-busca de software: Ele evita a paralisação carregando os dados no cache antes que sejam necessários. Exemplo: Para pré-buscar dados da memória principal para o cache L2 muito antes do uso com uma instrução de pré-busca L2 e, em seguida, pré-buscar dados do cache L2 para o cache L1 pouco antes do uso com uma instrução de prefetch L1. Aqui, quando definido como ativado, o processador fará a pré-busca da linha de cache extra para cada solicitação de memória.
• SNC (Sub-Numa Cluster): Habilitar o SNC é semelhante a dividir o soquete único em dois domínios NUMA, cada um com metade dos núcleos físicos e metade da memória do soquete. Se isso parecer familiar, é semelhante em utilidade à opção Cluster-on-Die que estava disponível nos processadores Intel Xeon E5-2600 v3 e v4. O SNC é implementado de modo diferente do COD, e essas alterações melhoram o acesso remoto ao soquete no Cascade Lake em comparação com as gerações anteriores, que usavam a opção Cluster-on-Die. No nível do sistema operacional, um servidor de soquete duplo com SNC ativado exibirá quatro domínios NUMA. Dois dos domínios estarão mais próximos um do outro (no mesmo soquete) e os outros dois estarão a uma distância maior, atravessando a UPI até o soquete remoto. Isso pode ser visto usando ferramentas do sistema operacional, como: numactl –H e é ilustrado na Figura 1.

Perfis do sistema:

• Desempenho
• DesempenhoPerWattDAPC
• DesempenhoPerWattOS

Tabela 1: Aplicativos e referências de desempenho

Tabela 2 Configuração do servidor

• Stream – pontuação da tríade, conforme relatado pela referência de desempenho de fluxo.
• HPL – GFLOP/segundo.
• Fluent — classificação do Solver conforme relatado pelo Fluent.
• WRF – Etapa de tempo médio computada nos últimos 719 intervalos para Conus 2.5km

Benchmarks e resultados de aplicativos

Abreviações de notação gráfica:

Perfis do sistema:

Perf — Performance OS — PerformancePerWattOS DAPC — PerformancePerWattDAPC
Sub-NUMA Clustering: SNC = 0(SNC = desativado): SNC = 1(SNC = ativado: Formatado como Distribuído em gráficos)
SW – Software Prefetcher: SW = 0 (SW = Desativado): SW = 1 (SW = Ativado)

• Menos de 1% de diferença no desempenho de HPL devido à pré-busca de software.
• Nenhum efeito importante do SNC no desempenho da HPL (0,5% melhor com SNC=Disabled).
• O perfil do sistema de desempenho é até 6% melhor em comparação com o sistema operacional e o DAPC.

 

• Largura de banda de memória até 3% melhor com SNC=enabled.
•  Não há muitos desvios no desempenho devido à pré-busca de software na largura de banda da memória STREAM. 
•  Sem desvios entre os perfis do sistema.

  

A Figura 4 plota a pontuação de largura de banda da memória Stream Triad em tal configuração. A largura de banda total da memória do sistema é de ~220 GB/s. Quando 20 núcleos em um soquete local acessam a memória local, a largura de banda da memória é de ~109 GB/s — metade da largura de banda total do sistema. Metade disso, ~56 GB/s, é a largura de banda da memória de 10 threads no mesmo nó NUMA acessando sua memória local e em um nó NUMA acessando a memória pertencente ao outro nó NUMA no mesmo soquete. Há uma queda de 42% na largura de banda da memória para ~33 GB/s quando os threads acessam a memória remota através do link QPI no soquete remoto. Isso nos informa que há uma penalidade significativa de largura de banda no modo SNC quando os dados não são locais.

• 2% de melhora no desempenho com SNC=Ativado.
•  Nenhuma diferença de desempenho para Software Prefetch Enabled vs Disabled.
•  O perfil Performance é 1% melhor do que os perfis PerformancePerWattDAPC

 

• Desempenho até 4% melhor com SNC=Ativado.
• Nenhum efeito da pré-busca de software no desempenho.
• Desempenho até 2% melhor com o perfil Performance em comparação com perfis DAPC e sistema operacional.

Conclusão

• A pré-busca de software não tem impacto significativo no desempenho dos conjuntos de dados que foram testados. Portanto, recomendamos que o Software Prefetcher permaneça como padrão, ou seja, Enabled
• Com SNC = ativado Aumento de desempenho de 2% a 4% no Fluent e Stream, aproximadamente 1% no WRF em comparação com SNC = Desativado. Assim, recomendamos que o SNC seja habilitado para obter melhor desempenho.
• O perfil Performance é de 2 a 4% melhor do que o PerformancePerWattDAPC e o PerformancePerWattOS. Portanto, recomendamos o perfil de desempenho para HPC.