Dell推出PowerEdge XE7745與XE7740 AI伺服器,單機可搭載8張雙寬GPU

Dell持續擴充PowerEdge XE系列AI加速伺服器產品,近期公布4U機型PowerEdge XE7745與XE7740的規格與技術資料。兩款伺服器皆可搭載最多8張雙寬GPU加速卡,或16張單寬GPU加速卡,鎖定企業生成式AI推論、模型微調與高效能運算等工作負載。

Dell過去曾在2024年10月的OCP全球高峰會,以及同年11月的SC超級電腦大會期間,陸續預告多款AI伺服器。XE7745原定於2025年1月推出,XE7740則預計在2025年第二季上市;Dell網站後續公布的文件顯示,XE7745相關文件發布於2025年2月,XE7740則於2025年5月發布。

XE7745支援AMD EPYC與多種GPU組態

PowerEdge XE7745採用兩顆AMD EPYC 9005系列處理器,最高可搭配每顆192核心的處理器,並支援8張雙寬、全高全長、600瓦GPU,或16張單寬、全高全長、75瓦GPU。

相較上一代R760xa的2U機箱最多支援4張雙寬或12張單寬GPU,XE7745在雙寬GPU支援數量上增加一倍。系統另提供PCIe 5.0介面卡插槽,供使用者擴充網路卡等裝置,產品定位涵蓋AI推論、模型微調與高效能運算。

在GPU選擇方面,XE7745可搭配Nvidia H200 NVL與Nvidia L40S。Dell也在2025年Nvidia GTC大會以及後續部落格內容中表示,XE7745與XE7740將支援Nvidia RTX Pro 6000 Blackwell Server Edition,最多可配置8張該款資料中心GPU。

XE7740採用Intel Xeon 6平台

PowerEdge XE7740的整體配置與XE7745相近,但處理器平台改採兩顆Intel Xeon 6 P-core系列處理器,最高可搭配每顆86核心的機型。GPU方面,系統最多可配置8張雙寬AI加速器,或16張單寬AI加速器。

Dell列出的相容GPU包括Intel Gaudi 3、Nvidia H200 NVL與Nvidia L4等,並強調XE7740可用於企業生成式AI模型的微調與推論,協助處理大型資料集。

在2025年5月下半舉行的Dell Technologies World中,Dell表示搭配8張Nvidia RTX Pro 6000 Blackwell Server Edition的配置預計於7月正式推出,並將支援Nvidia Enterprise AI Factory驗證設計。Dell所列出的應用情境包括機器人、數位孿生等實體AI,以及多模態AI和代理型AI。

MLPerf測試呈現不同模型下的差異

較早上市的XE7745已出現在2025年4月公布的MLPerf Inference v5.0,以及同年6月公布的MLPerf Training v5.0測試結果中。

在MLPerf Inference v5.0中,搭配8張Nvidia H200 NVL的XE7745,執行Llama 2 70B模型時,效能略優於華碩ESC8000A-E13P、HPE ProLiant Compute DL380a Gen12與Supermicro SYS-522GA-NRT三款伺服器。不過,在GPT-J模型測試中,XE7745則落後上述伺服器。

當改用8張Nvidia L40S時,XE7745在大部分測試項目中略優於HPE ProLiant Compute DL380a。至於MLPerf Training v5.0,Dell提交了搭配4張Nvidia H200 NVL的XE7745,以及搭配8張Nvidia H200 NVL的XE7740;由於該次測試沒有其他品牌伺服器參與,因此無法直接比較Dell機型與其他廠牌的訓練效能。

硬體平台與同級產品比較

在已知可搭配8張Nvidia H200 NVL的伺服器中,Dell XE7745、XE7740、華碩ESC8000A-E13P與HPE ProLiant Compute DL380a均採用4U機箱,Supermicro SYS-522GA-NRT則採用5U機箱。

根據Nvidia Qualified System Catalog,其他相近組態的產品還包括4U機型技嘉G494-ZB4-AAP2、G494-SB0-AAP2、G494-SB4-AAP2、永擎4U8G-TURIN2與微星CG480-S5063(S5063G480);5U機型Supermicro SYS-521GE-TNRT與AS-5126GS-TNRT2;以及3U機型聯想SR675 V3。

部分Supermicro機型因機箱尺寸較大,可提供最多10個甚至13個全高全長PCIe介面卡插槽。GPU支援方面,Dell XE7745、華碩ESC8000A-E13P、Supermicro SYS-521GE-TNRT與聯想SR675 V3也可搭配Nvidia L40S。

主要規格

項目PowerEdge XE7740PowerEdge XE7745
機箱尺寸4U4U
處理器2顆Intel Xeon 6系列,最高86核心機型2顆AMD EPYC 9005系列,最高192核心機型
記憶體32個DDR5-6400插槽,最高4TB24個DDR5-6000插槽,最高3TB
儲存配置8部E3.S NVMe SSD,加上2部M.2 NVMe SSD,採BOSS-N1 DC-MHS8部E3.S NVMe SSD,加上2部M.2 NVMe SSD,採BOSS-N1 DC-MHS
GPU支援8張雙寬、600瓦GPU,或16張單寬、75瓦GPU8張雙寬、600瓦GPU,或16張單寬、75瓦GPU
GPU範例Nvidia H200 NVL、Intel Gaudi 3、Nvidia L4Nvidia H200 NVL、Nvidia L40S
I/O擴充8張PCIe 5.0 x16全高全長介面卡,150瓦8張PCIe 5.0 x16全高半長介面卡,150瓦
電源供應器8部3200瓦8部3200瓦
系統管理iDRAC10iDRAC10
建議售價廠商未提供廠商未提供

產品定位與限制

XE7745與XE7740透過4U機箱提供高密度GPU配置,並以不同處理器平台對應企業AI推論、訓練、模型微調及高效能運算需求。Dell後續導入Nvidia H200 NVL與RTX Pro 6000 Blackwell Server Edition的規劃,也讓兩款伺服器具備更大的GPU選擇彈性。

不過,MLPerf結果顯示,伺服器效能會隨模型、GPU配置與測試情境而變化;XE7745在Llama 2 70B與GPT-J測試中的排名並不一致。此外,XE7740搭配8張H200 NVL的訓練結果缺乏其他品牌系統作為對照,因此不能僅依該項資料判定其整體效能優勢。兩款產品的建議售價目前也尚未由Dell公布。

Related Articles

Stay Connected

0FansLike
0FollowersFollow
22,800SubscribersSubscribe
spot_img

Latest Articles