NVIDIA公布Vera Rubin平台的效能數據，表示該平台在相同電力消耗條件下，Token吞吐量較前代Grace Blackwell GB200 NVL72提升10倍；搭配的Spectrum-6網路交換器，效能則達前代系統的2倍。這些數據反映NVIDIA將AI資料中心的整體運算、互連與網路架構納入共同設計，而不再只以單一GPU的峰值效能作為評估標準。
以整體系統協同設計提升AI運算效率
Vera Rubin平台從晶片、伺服器節點到資料中心機櫃進行整體協同設計，整合Vera Rubin NVL72、Vera CPU、Groq 3 LPX、Spectrum-6 SPX與Vera BlueField-4 STX等7款晶片，以及5種機櫃托盤，形成以電力效率與Token成本為核心的運算單元。
NVIDIA表示，這套平台以Vera CPU為基礎，採用客製化Olympus處理器核心。其單執行緒效能較競爭對手的小晶片設計提升2倍，核心互連頻寬提升3倍，記憶體延遲則降低40%。NVIDIA據此主張，Vera CPU可針對AI代理等工作負載提供較高的單執行緒運算效率。
NVLink提升跨運算單元的資料傳輸能力
Vera Rubin平台採用第6代NVLink垂直擴展技術。NVIDIA表示，與市面上其他乙太網路解決方案相比，該技術在處理複雜工作負載時，頻寬提升超過2倍、延遲降低3倍，封包速率則提升10倍。
在AI雲端運算業者CoreWeave針對DeepSeek-R1大型語言模型進行的首次效能測試中，Vera Rubin平台每百萬瓦的吞吐量為前代Grace Blackwell NVL72平台的10倍。這項結果主要衡量單位電力下的Token處理能力，並不等同於所有模型、工作負載或部署配置都能取得相同幅度的提升。
Spectrum-6針對AI資料中心東西向流量設計
NVIDIA指出，大型AI資料中心通常需要數以千計的GPU與加速器持續交換資料，形成大量伺服器之間的東西向流量。這類流量往往跨越多組系統傳輸，對頻寬、延遲、同步與集體通訊能力提出更高要求。
傳統乙太網路最初主要服務企業應用，以及使用者、伺服器和儲存系統之間的南北向流量，並非專門針對大規模AI訓練與推論所需的高密度同步傳輸模式打造。NVIDIA因此推出面向AI運算的Spectrum-X乙太網路架構，透過軟硬體協同設計改善GPU之間的資料交換。
Vera Rubin平台中的Spectrum-6交換器晶片，與ConnectX-9 SuperNIC網路卡共同構成新一代Spectrum-X乙太網路。Spectrum-6支援可插拔式光學元件與共同封裝光學元件，對應產品亦支援液冷散熱，藉此改善高密度網路設備的散熱與電力效率。
網路架構影響大規模AI叢集效率
根據NVIDIA說法，Spectrum-X平台的元件均針對AI運算進行設計，能在可用路徑之間智慧平衡流量、快速繞過故障，並在資料未能抵達目的地時進行精準復原。平台也支援開放式網路作業系統，以及多種遠端直接記憶體存取（RDMA）傳輸模型，讓使用者在維持效能的同時保留部署彈性。
NVIDIA表示，Spectrum-X的AI網路效能最高可達通用型乙太網路的1.6倍，並能在超過10萬組GPU的部署環境中維持最高達95%的網路效率。這些數字屬於NVIDIA公布的平台效能指標，實際結果仍會受到模型種類、網路拓撲、軟體設定、冷卻方案與工作負載特性影響。
企業部署仍須觀察實際環境表現
對企業而言，Spectrum-6的目標是讓更多GPU能夠同步運作，提高高負載協同運算的使用率，並為長時間執行的AI工作提供更高韌性。在超大規模資料中心中，若網路傳輸與運算資源能維持較高利用率，理論上可縮短工作完成時間並降低單位Token成本。
不過，目前公開資訊主要來自NVIDIA的平台說明，以及CoreWeave針對DeepSeek-R1進行的測試。不同模型、並行規模、資料中心配置與軟體堆疊，可能造成效能與電力效率差異，因此Vera Rubin與GB200 NVL72之間的10倍差距，仍需透過更多獨立測試與實際部署數據進一步驗證。
Reference Link : techbang.com
