Google Cloud 推出 Blackwell GPU 運算服務，A4 採用輝達 HGX B200 平台

隨著生成式 AI 與大型模型訓練需求持續增加，輝達資料中心 GPU 成為公有雲業者擴充運算服務的核心。Google Cloud 近年陸續推出基於 L4、H100 與 H200 的 GPU 服務，並在今年進一步將 Blackwell 架構導入雲端平台，推出採用輝達 B200 GPU 的 A4。

Google Cloud 持續擴充 GPU 雲端服務

Google Cloud 於 2023 年推出基於 Nvidia L4、採用 Ada Lovelace 架構的 G2，以及採用 Hopper 架構 H100 GPU 的 A3。2024 年 6 月，Google Cloud 增設網路頻寬加倍的 A3 Mega；10 月再推出可配置 1、2、4 或 8 顆 H100 的 A3 High，以及網路頻寬達 800 Gbps 的 A3 Edge。

此外，Google Cloud 也發表基於 Nvidia H200 的 A3 Ultra，並在年底正式上市。今年 2 月，Google Cloud 釋出基於 Nvidia B200、採用 Blackwell 架構的 A4 預覽版本，3 月 Nvidia GTC 大會期間正式上線。同一期間，Google Cloud 也公布基於 Nvidia GB200 NVL72 的 A4X 預覽版本，並於 5 月底正式推出。

A4 採用 HGX B200 與 8 顆 Blackwell GPU

根據 Google Cloud 公布的資訊，A4 建構於 Nvidia HGX B200 平台，配置 8 顆 Blackwell 架構 GPU，並透過第五代 NVLink 互連。Google Cloud 表示，與前一代平台相比，新一代 GPU 的尖峰運算效能最高可提升 2.5 倍，HBM 記憶體容量則增加至 2.25 倍，可應用於多種 AI 模型架構的訓練與微調工作。

A4 採用的主機處理器為英特爾第五代 Xeon Scalable 系列中的 Xeon Platinum 8581C。服務所使用的伺服器同時搭載 Google Cloud 自行設計的 Titanium ML 網路卡。該網路介面是以 Nvidia ConnectX-7 網路卡為基礎打造，Google Cloud 表示，經過調校後可針對 AI 工作負載提供安全且高效能的雲端服務體驗。

透過 RoCE 與 Jupiter 網路支援大規模擴充

在網路架構方面，A4 與 A3 Ultra 採用遍及資料中心的 4 通道邏輯線路群組網路，也就是 4-way rail-aligned network。搭配 RoCE（RDMA over Converged Ethernet）技術後，GPU 互連網路傳輸頻寬可達 3.2 Tbps。

Google Cloud 用戶可將 GPU 規模擴充至數萬顆，背後關鍵在於資料中心採用 Google Cloud 自行發展的 Jupiter 第五代網路架構。Google Cloud 表示，該架構可提供 13 Pbps 的網路對分頻寬，以支援大規模加速運算工作負載。

A4 宣稱 FP8 效能達 72 PFLOPS

在 A4 正式上線時，Google Cloud 公布其 FP8 運算效能可達 72 PFLOPS，AI 訓練效能則較先前推出的 A3 Mega 增加 2.2 倍。這些數據由 Google Cloud 針對自身雲端服務平台公布，實際效能仍可能受到模型架構、軟體框架、平行化方式、資料傳輸與工作負載設定等因素影響。

在 MLCommons 於 4 月與 5 月陸續發布的 MLPerf Inference v5.0 與 MLPerf Training v5.0 結果中，Google Cloud 針對 Nvidia GPU 雲端運算服務僅提交 A3 Ultra 的測試數據。因此，A4 與 A3 Ultra 的效能比較，現階段主要仍以 Google Cloud 公布的資料為依據。

Google Cloud A4 服務規格與價格

上述規格與價格由廠商提供，且可能隨服務方案與時間調整，實際資訊仍需以 Google Cloud 當時公布的內容為準。