新聞稿 Dell Technologies 擴展 Dell AI Factory with NVIDIA,加快 AI 採用速度

焦點案例

  • Dell PowerEdge XE9680L 伺服器提供直接液體冷卻和八個 NVIDIA Blackwell Tensor 核心 GPU,能以精巧的外型規格實現快速處理
  • Dell 提供業界最密集且節能的一站式機架規模解決方案,可加速大型 Blackwell GPU 部署
  • Dell NativeEdge 是第一個可自動化交付 NVIDIA AI Enterprise 軟體 (包括 NVIDIA NIM) 的邊緣協調平台
  • 採用 NVIDIA 技術的 Dell 解決方案和服務可加快 AI 應用程式部署和數位助理實作速度


拉斯維加斯 – 2024 年 5 月 20 日 — Dell Technologies (NYSE:DELL) 擴大 Dell AI Factory with NVIDIA,納入全新的伺服器、邊緣、工作站、解決方案和服務進展,以加速 AI 的採用和創新。

Dell Technologies 創辦人暨執行長 Michael Dell 表示:「組織正在迅速行動,把握 AI 商機,所以我們與 NVIDIA 的合作相當重要。」「我們 Dell AI Factory with NVIDIA 的擴展,延續了彼此共同的使命,也就是讓組織能輕鬆實作 AI,大膽邁向下一場技術革命。」

NVIDIA 創辦人暨執行長 Jensen Huang 表示:「生成式 AI 需要一種新型的運算基礎設施,一個能夠產生智慧的 AI 工廠。」「NVIDIA 和 Dell 攜手為全球各行各業提供全端產品,包括運算、網路和軟體,推動數位化企業的副駕駛、編碼助理、虛擬客戶服務代理人和工業數位分身。」

Dell AI Factory with NVIDIA 將資料轉換為深入解析和成果

Dell AI Factory with NVIDIA 以 NVIDIA Tensor 核心 GPU、NVIDIA Spectrum-X 乙太網路網狀架構及 NVIDIA Bluefield DPU 為基礎,整合 Dell 領先業界的 AI 產品組合與 NVIDIA AI Enterprise 軟體平台。客戶可以購買根據其需求量身打造的整合式功能,或預先驗證的全堆疊解決方案,以協助其開始處理需要加速效能的 AI 使用案例,例如 RAG、模型訓練和推論。Dell AI Factory with NVIDIA 的進步讓組織得以:

使用進階運算能力處理大規模 AI 部署

全新 Dell PowerEdge XE9680L

  • 以較小的 4U 外型規格支援八個 NVIDIA Blackwell GPU,提供高效能。該伺服器可為業界標準 x86 機架中的 NVIDIA GPU 提供最高的機架規模密度,每個節點的 GPU 密度提升 33%。1 此平台提供多 20% 的 PCIe Gen。5 個插槽和雙倍的南北網路擴充容量。2

         直接液體冷卻 (DLC) 會提高 CPU 和 GPU 的冷卻容量,從而改善整體效率。PowerEdge XE9680L 專為檢修性而設計,並以進階工廠整合提供完整設定,以進行機架規模部署和現場安裝。

          Dell 也宣佈推出業界領先的高密度、高能源效率一站式機架規模解決方案,可加快大型 GPU 加速部署,更快將時間轉換為價值。將提供多種變體,包括氣冷式設計,在單一機架中支援 64 個 GPU,或在單一機架中具有 72 個 NVIDIA Blackwell GPU 的液體冷卻形式。

透過 Dell NativeEdge 和 NVIDIA 加速邊緣 AI 應用程式部署

  • Dell NativeEdge 是第一個可自動化交付 NVIDIA AI Enterprise 軟體的邊緣協調平台,3 可協助開發人員和 IT 操作員輕鬆地在邊緣部署 AI 應用程式和解決方案。從製造商到零售商,企業可以使用全新 Dell NativeEdge 部署藍圖快速準確地分析其邊緣資料,其中包括 NVIDIA Metropolis 影片分析、NVIDIA Riva 語音和翻譯功能,以及 NVIDIA NIM 推論微服務。

簡化 AI 應用程式開發和部署,更快將時間轉換為價值

  • 全新適用於數位助理的 Dell 生成式 AI 解決方案有助於加速數位助理的部署,在全堆疊 Dell 和 NVIDIA 解決方案上,為最終使用者提供個人化的自助服務體驗。數位助理建置服務可幫助組織設計、規劃、實作、測試和擴展解決方案。
  • Dell AI Factory with NVIDIA 解決方案透過與 NVIDIA 合作打造的全堆疊部署自動化功能,協助組織針對各種使用案例快速建立 AI 環境。與自行操作相比,全堆疊自動化功能可縮短達 86% 的價值實現時間。4 與 NVIDIA NIM 推論微服務結合使用時,甚至會進一步縮短從交付到執行推論作業的總時間。NIM 微服務為企業開發人員提供生產就緒、優化的推論引擎,適用於 NVIDIA 及其合作夥伴生態系統提供的熱門 AI 模型。
  • 全新 Precision AI 工作站上適用於 RAG 的 Dell Accelerator Services 有助於縮短 AI 開發週期,並在具備 NVIDIA AI Workbench 的 Dell Precision 工作站上,使用 RAG 量身打造大型語言模型,快速產生效能更佳的 AI 應用程式,NVIDIA AI Workbench 是在更安全的環境中試驗、測試和建立 AI 和 ML 專案原型的開發平台。


「我們的研究表明,組織欲尋求簡化 IT,但要達成卻頗具挑戰性。AI 雖然有望簡化,但也帶來了一系列複雜性,包括選擇、資料品質、一致性和安全性。擁有經實證的一站式商店,可協助建立實現 AI 價值所需的基礎結構、軟體和服務,減少風險及降低成本」,theCUBE Research 首席分析師 Dave Vellante 說道。「Dell 的端對端功能是我們相信能轉化為 AI 的核心差異化優勢。Dell AI Factory with NVIDIA 為 AI 解決方案的領先範例,此解決方案旨在簡化新興 AI 工作負載的採用作業。」

可用性

  • Dell PowerEdge XE9680L 伺服器將於 2024 年下半年推出。
  • 適用於 NVIDIA 的 Dell NativeEdge 部署藍圖將於 2024 年下半年起於全球推出。
  • 適用於數位助理的 Dell 生成式 AI 解決方案,以及適用於數位助理的建置服務,現已在北美推出。
  • Dell AI Factory with NVIDIA 透過 Dell Professional Services 提供自動化部署功能,此功能將於 2024 年下半年推出。NVIDIA NIM 微服務現已推出。
  • Precision AI 工作站上適用於 RAG 的 Dell Accelerator Services 於 5 月下旬在美國推出。

其他資源


關於 Dell Technologies 

Dell Technologies (NYSE:DELL) 協助組織與個人建構其數位未來,並改變他們的工作、生活和娛樂方式。本公司為客戶提供業界最廣泛且最具創新性的技術和服務產品組合,以因應資料時代的需求。

Dell Technologies World

邀請您於 5 月 20 日至 23 日參加 Dell Technologies World,此為本公司的旗艦活動,彙集了最新趨勢、技術和思想領袖。在活動期間,客戶與合作夥伴將探索可加速並簡化 AI 採用作業的技術,以及將想法轉化為行動的 PC、Dell APEX、多雲端和邊緣解決方案。


###

版權所有 © 2024 Dell Inc. 或其子公司。保留所有權利。Dell Technologies 與 Dell 均為 Dell Inc. 或其子公司的商標。

1Dell PowerEdge XE8680L 為 4U 與6U PowerEdge XE9680。

2 相較於 XE9680 上的 2 個額外 PCIe 插槽,Dell PowerEdge XE9680L (Q4CY24 RTS) 具有 4 個額外網路 I/O 的 PCIe 5.0 FHHL 擴充槽。XE9680 和 XE9680L 均有 8 個專用的 PCIe 插槽,適用於每個 GPU AI 網狀架構介面。

3 根據 2024 年 5 月的 Dell 分析結果而得。

4 估計值根據 2024 年 5 月 Dell 分析結果而得,比較使用自動化指令檔為一般用途 LLM 設定 2 個節點 Kubernetes 叢集,與手動部署通用設計的時間。設定時間僅包括基本安裝。實際設定時間將因解決方案組態而有所不同。

媒體聯絡人

媒體關係部門
Media.relations@dell.com