ブログ原稿 https://www.dell.com/en-us/blog/dell-poweredge-xe9680-ai-acceleration-announcements-at-nvidia-gtc/
筆者： Robert McNeal | 2024年3月18日
『NVIDIA GPU Technology Conference（GTC）』は、AIイノベーター、AIデベロッパー、AIに高い関心を寄せているお客様を対象に、NVIDIAが開催するイベントです。デル・テクノロジーズは、AIインフラストラクチャー分野におけるリーダーの1社であり、NVIDIAとのテクノロジー コラボレーションをベースとする最新の成果を同イベントで紹介しました。
展示会ブースとオンラインのバーチャル セッションで、「Dell Generative AI Solutions with NVIDIA」や、お客様のデータ環境でAIを活用できるように考えられたプロフェッショナル サービスのデモを公開しました。
デル・テクノロジーズの主力サーバー「Dell PowerEdge XE9680」は、生成AIトレーニング、モデルのカスタマイズ、大規模推論に対応する8-way GPUアクセラレーテッド サーバーです。「PowerEdge XE」製品群では、空冷式または超高密度な水冷式のいずれかの構成を自由に選択できます。また、「PowerEdge XE」サーバーでは、パワフルなNVIDIA Tensor コア H100を8基搭載した「PowerEdge XE9680」、NVIDIA H100 HGXを4基搭載したアクセラレーテッド サーバー「PowerEdge XE9640」と「PowerEdge XE8640」など、アクセラレーテッド コンピューティングのためのさらに幅広い選択肢を提供しています。「PowerEdge XE」サーバーはNVIDIA認定システムで、先進のNVIDIA Quantum-2 InfiniBandとSpectrum-X Ethernetネットワーク ソリューション、NVIDIA AI Enterpriseソフトウェアを搭載しています。
「PowerEdge XE9680」は、卓越した柔軟性を提供し、3世代にわたりNVIDIA GPUをサポートしています。「XE9680」は、リリース時にNVIDIA Ampereアーキテクチャーを基盤にするNVIDIA A100 Tensor コア GPUと、NVIDIA Hopper アーキテクチャーを基盤にするNVIDIA H100 Tensor コア GPUをサポートしていました。このたび、デル・テクノロジーズは、新たにAIアクセラレーションのためのBlackwellアーキテクチャーを基盤にしたNVIDIA GPUのサポートの開始と、以下のアップデートを発表しました。
「PowerEdge XE9680」が、NVIDIA HGX H200をサポート
「PowerEdge XE9680」のサポート対象に、NVIDIA H200 Tensor コア GPUとBlueField-3 SuperNICが加わりました。新たなNVIDIA HGX H200は、NVIDIA HGX H100搭載の「PowerEdge XE9680」と同じNVIDIA Hopper 8-way GPUアーキテクチャーを基盤にしており、HBM3eメモリが強化されています。「PowerEdge XE 9680」は、メモリがGPUあたり141GBに拡張されており、同じ空冷式の6RU構成で、トレーニングと推論のためのより多くのAIモデル パラメーターをサポートしながら、TCO（総所有コスト）を削減できます。NVIDIA BlueField-3 SuperNICは、大規模AIモデルでは一般的なクラスタ ネットワーク トラフィックの高速化とオフロードを実現するとともに、GPU間の直接通信を可能にし、ソリューションが導入価値を発揮するまでの期間を短縮できます。
NVIDIA HGX B100搭載の空冷式「PowerEdge XE9680」
「PowerEdge XE9680」は、NVIDIA BlackwellファミリーのHGX B100と、生成AIのための次世代8-way GPUを搭載し、TDP 700WのNVIDIA HGX H100を上回る処理能力を提供します。NVIDIA HGX B100 GPU搭載の空冷式「PowerEdge XE9680」は、合計1.54 TBという膨大なNVIDIA NVLink相互接続HBM3e GPUメモリを提供し、数兆のパラメーターを有するモデルから、精度の高い生成AIのインサイトを引き出すことが可能になります。
デル・テクノロジーズ初の水冷式「PowerEdge XE9680」構成：NVIDIA HGX B200
デル・テクノロジーズは、初の水冷式「PowerEdge XE9680」サーバー構成を発表しました。「DLC PowerEdge XE9680」は、NVIDIA HGX B200を搭載し、NVIDIA HGX H100を搭載の場合と比較して、25倍の推論パフォーマンス、20分の1のTCO、20分の1の電力消費を実現することが見込まれています。
デル・テクノロジーズのNVIDIA GB200 NVL72マルチノード スケールアップ サーバー アーキテクチャーは、最大72基のNVLink相互接続GPUで、8GPUサーバーの大規模AIモデルを上回るパフォーマンスを実現
NVIDIA GB200 Superchipの投入、すなわち、デル・テクノロジーズ初のARM CPUの採用も発表しました。NVIDIAとのコラボレーションにより、Blackwell マイクロアーキテクチャー B200 GPUをオンチップで統合させた、NVIDIAハイブリッドGrace ARM CPUを基盤とする次世代コンピュート プラットフォームを提供します。
今回の新たなアーキテクチャーは、数兆のパラメーターを有する最大規模のAIモデルの推論とトレーニングにおける新たなリーダーになるでしょう。GB200 NVL72マルチノード スケールアップ サーバー アーキテクチャーは、1ラックで超高密度な72基のNVIDIA NVLink相互接続GPUを提供します。
「PowerEdge」がNVIDIA BlueField-3イーサネット アダプタをサポート
「PowerEdge」は、NVIDIA Spectrum-Xハイパフォーマンス イーサネット AIファブリック向けのNVIDIA BlueField-3 SuperNICsのサポートにより、これまで以上に幅広い選択肢を提供します。ハイパフォーマンス ファブリックは、NVIDIA OVXとNVIDIA HGXリファレンス アーキテクチャーの一部として、NVIDIA Spectrum-4スイッチとBlueField-3 SuperNICsを組み合わせたもので、NVIDIA OmniverseおよびNVIDIA AI Enterpriseワークロードを強化します。
デル・テクノロジーズとNVIDIAが、どのようにお客様のAI導入に向けた歩みを加速させるのか、バーチャル セッションは、こちらでご覧いただけます。
「Dell AI Factory with NVIDIA」の詳細は、『NVIDIA GTC』におけるデル・テクノロジーズの発表に関するブログをご覧ください。また、製品の最新情報および「Dell Generative AI Solutions」の発表の詳細は、デル・テクノロジーズのプレスリリースをご覧ください。