Dell PowerEdge 14G: ESXi zwraca komunikat „Failed to initialize NVML: Unknown Error” w przypadku karty graficznej NVidia

Opis

W trakcie instalacji karty graficznej NVIDIA (np. M10) do obsługiwanego serwera 14G (R740 i R740XD) po zainstalowaniu pliku VIB sterownika, podczas próby wykonania polecenia nvidia-smi może pojawić się następujący błąd:

[root@localhost:~] nvidia-smi
Failed to initialize NVML: Unknown Error

W sekcji /var/log/vmkernel.log pliku nvidia-bug-report.log są wyświetlane zdarzenia podobne do następujących:

2017-11-02T18:28:19.707Z cpu45:66263)NVRM: loading NVIDIA UNIX x86_64 Kernel Module  384.73  Mon Aug 21 15:16:25 PDT 2017
2017-11-02T18:28:19.710Z cpu3:66145)NVRM: This is a 64-bit BAR mapped above 16 TB by the system
NVRM: BIOS or the VMware ESXi kernel. This PCI I/O region assigned
NVRM: to your NVIDIA device is not supported by the kernel.
NVRM: BAR1 is 256M @ 0x382fe00$

 

---

Rozwiązanie

Sprzęt działa prawidłowo. Aby rozwiązać ten problem, należy zmienić ustawienie Memory Mapped I/O Base na 512 GB (domyślnie 56 TB) lub 12 TB (jeśli serwer ma mniej niż 512 GB pamięci RAM):




Ten problem został udokumentowany w instrukcji obsługi serwera R740:

Pamięć zmapowana we/wy powyżej 4 GB – włącza lub wyłącza obsługę urządzeń PCIe, które wymagają dużych ilości pamięci. Tę opcję należy włączać tylko w przypadku 64-bitowych systemów operacyjnych. Jest ona domyślnie włączona.

Pamięć zmapowana we/wy powyżej wartości bazowej – jeśli ustawiono na 12 TB, system zmapuje wartość bazową MMIO do 12 TB. Tę opcję należy włączać dla systemu operacyjnego, który wymaga 44-bitowego adresowania PCIe.
W przypadku ustawienia 512 GB system ustawi wartość bazową pamięci zmapowanej we/wy na 512 GB i obniży maksymalną wielkość obsługiwanej pamięci do wartości niższej od 512 GB. Tę opcję należy włączać tylko w przypadku problemu DGMA z 4 GPU. Domyślnie ta opcja jest ustawiona na 56 TB.

http://topics-cdn.dell.com/pdf/poweredge-r740_owner's%20manual_en-us.pdf (strona 52)

 

 

Po zmianie tego ustawienia i ponownym uruchomieniu systemu polecenie nvidia-smi powinno wyświetlać wyniki podobne do:

-

-