AWS P6 加速運算服務新增 P6-B300 執行個體,搭載 8 顆 Nvidia Blackwell Ultra GPU

AWS 持續擴充採用 Nvidia Blackwell 架構 GPU 的 Amazon EC2 加速運算服務。在先前推出搭載 Nvidia B200 的 P6,以及採用 GB200 的 P6e-GB200 後,AWS 現新增搭載 Nvidia B300(Blackwell Ultra)GPU 的 P6-B300 執行個體,鎖定大規模人工智慧模型訓練、推論與分散式運算需求。

目前企業可在美國西部(奧勒岡)AWS 雲端區域,透過適用於機器學習工作負載的 Amazon EC2 Capacity Blocks for ML 訂購 P6-B300。AWS 將此服務定位為面向兆級參數基礎模型、大型語言模型,以及需跨數千張 GPU 執行的分散式 AI 訓練環境。

P6 系列擴增 B300 選項

AWS 去年陸續推出導入 Nvidia Blackwell 架構 GPU 的加速運算服務,其中 P6 於 5 月正式推出,採用 B200 GPU;P6e-GB200 則於 7 月上線,搭載 GB200。相隔 4 個月後,AWS 宣布 P6 系列新增 P6-B300,以性能更高的 B300 GPU 擴充產品組合。

與既有 P6-B200 相同,P6-B300 目前僅提供一種執行個體組態,即 p6-b300.48xlarge。該執行個體搭載 96 核心 Intel 第五代 Xeon Scalable 處理器,提供 192 個虛擬處理器,以及 8 顆 Nvidia B300 GPU。

GPU 記憶體與 FP4 運算效能提高 50%

相較於 p6-b200.48xlarge,p6-b300.48xlarge 將系統記憶體由 2 TiB 提升至 4 TiB,並增加 GPU 記憶體容量與 FP4 浮點運算效能。AWS 公開的規格顯示,P6-B300 的 8 顆 GPU 合計提供 2,144 GB HBM3e 記憶體,高於 P6-B200 的 1,440 GB;FP4 運算效能則由 72 PFLOPS 增至 108 PFLOPS,兩項指標均提高 50%。

項目P6-B300P6-B200
執行個體型號p6-b300.48xlargep6-b200.48xlarge
GPU8 顆 Nvidia B3008 顆 Nvidia B200
系統記憶體4 TiB2 TiB
GPU 記憶體總容量2,144 GB HBM3e1,440 GB HBM3e
FP4 浮點運算效能108 PFLOPS72 PFLOPS
GPU 互連頻寬1,800 GB/s1,800 GB/s
網路頻寬6,400 Gbps3,200 Gbps

兩種執行個體的 GPU 互連頻寬均為 1,800 GB/s。不過,P6-B300 使用第四代 Elastic Fabric Adapter 網路卡(EFAv4),並受惠於 I/O 介面支援 PCIe 6.0,使網路頻寬提升至 6,400 Gbps,較 P6-B200 的 3,200 Gbps 增加一倍。此外,P6-B300 另配置專屬 Elastic Network Adapter(ENA)網路卡,提供 300 Gbps 網路吞吐量。

導入 Nitro v6 與 EFA 網路技術

P6-B300 同時採用 AWS Nitro v6 系統架構。AWS 表示,該架構整合 EFA 網路技術,以及進階虛擬化與資安防護功能,以支援 AI 工作負載對高速資料傳輸、叢集擴展與隔離機制的需求。

AWS 認為,P6-B300 在運算、記憶體與網路資源之間提供較平衡的配置,適合大規模 AI 模型訓練與服務存取,特別是混合專家模型(Mixture of Experts,MoE)與多模態模型等可能同時需要大量運算、記憶體及網路傳輸能力的工作負載。

價格與主要規格

依 AWS 提供的資訊,在美國西部(奧勒岡)區域,p6-b300.48xlarge 的隨需價格為每小時 142.416 美元;透過 Capacity Blocks for ML 訂購時,每個執行個體每小時為 93.60 美元,換算每個加速器每小時 11.70 美元。

  • 執行個體:p6-b300.48xlarge
  • 處理器:Intel 第五代 Xeon Scalable
  • 虛擬處理器:192
  • 系統記憶體:4 TiB
  • GPU:8 顆 Nvidia B300
  • 本機儲存:30.72 TB,由 8 個 3.84 TB 儲存裝置構成
  • 網路頻寬:6,400 Gbps
  • Amazon EBS 存取頻寬:100 Gbps

P6-B300 目前的可用區域與訂購方式仍較集中,僅明確提供美國西部(奧勒岡)區域及 Capacity Blocks for ML 選項。對於需要長期、彈性或跨區部署 GPU 資源的企業而言,實際採用時仍須評估區域供應狀況、容量預約模式與整體雲端成本。

Related Articles

Stay Connected

0FansLike
0FollowersFollow
22,800SubscribersSubscribe
spot_img

Latest Articles