AMD 發表 Instinct MI400 與 Helios,鎖定 AI 工廠及大規模推論市場

AMD 在美國舊金山舉行的 Advancing AI 2026 年度大會上,正式公開下一代資料中心 GPU 陣容 Instinct MI400 系列,以及針對 AI 工廠設計的機櫃級基礎設施 AMD Helios。此次發布涵蓋面向前沿 AI 部署的 MI455X,以及針對主權 AI 與高效能運算(HPC)的 MI430X。

AMD 表示,憑藉開放且強調效能的硬體與軟體基礎設施,公司已取得 OpenAI、Meta、Anthropic、Microsoft 與 Oracle 等科技企業的十億瓦級部署承諾。不過,相關數據與效能比較主要來自 AMD 在大會上的說明,實際表現仍須視軟體、工作負載與部署環境而定。

AI 推論成為資料中心主要工作負載

AMD 指出,隨著智慧代理(Agentic AI)技術逐漸普及,AI 市場正從以模型訓練為主,轉向更重視推論效能與成本。公司表示,過去兩年每月詞元(Token)消耗量增加 158 倍,已突破 35 千兆個。

相較於單次模型推論,智慧代理工作流程通常需要反覆執行推論、呼叫外部工具,並由 CPU 進行協調。AMD 認為,這類複雜的代理迴圈將使企業在建置 AI 基礎設施時,更重視每個 Token 的產出成本與整體投資報酬率。

Instinct MI455X 採 CDNA 5 架構

為因應大規模推論需求,AMD 發表採用 CDNA 5 架構的 Instinct MI455X。該 GPU 使用台積電 3 奈米製程,整合 3,200 億個電晶體,並支援 OCP 標準的 FP8 與 FP4 數據類型。

記憶體方面,MI455X 搭載 432GB HBM4,峰值記憶體頻寬達 23.3TB/s。AMD 宣稱,其 HBM4 容量較目前競爭技術的前沿產品高出 50%。運算規格則包括 96 個高頻核心,最大 FP4 運算效能為 40 petaflops,最大 FP8 運算效能為 20 petaflops。

項目Instinct MI455X 規格
架構CDNA 5
製程台積電 3 奈米
電晶體數量3,200 億個
記憶體432GB HBM4
峰值記憶體頻寬23.3TB/s
最大 FP4 效能40 petaflops
最大 FP8 效能20 petaflops
核心數量96 個高頻核心

在與前代 MI355X 的比較中,AMD 宣稱 MI455X 的 Token 吞吐量最高可提升 34 倍,每 Token 成本最多降低 18 倍。這些數字屬於 AMD 公布的比較結果,實際增益仍會受到模型規模、量化方式、批次大小及軟體最佳化程度影響。

Helios 將 72 顆 MI455X 整合至單一機櫃

針對大型資料中心與 AI 工廠部署,AMD 同步推出整合式機櫃級平台 Helios。該平台結合第六代 AMD EPYC 伺服器處理器、PCIe Gen 6 連接,以及 72 顆 MI455X GPU。

Helios 的網路架構採用 AMD Pensando 網路技術與 UALoE 開放標準乙太網路,在單一網域內提供最高 260TB/s 的 Scale-up 頻寬。AMD 表示,單一 Helios 機櫃可提供 2.9 exaflops 的 FP4 運算效能,配置總計 31TB 的 HBM4 記憶體,並具備最高 43TB/s 的 Scale-out 頻寬。

項目AMD Helios 規格
GPU 配置72 顆 MI455X
伺服器 CPU第六代 AMD EPYC
Scale-up 頻寬260TB/s
FP4 運算效能2.9 exaflops
總 HBM4 容量31TB
Scale-out 頻寬43TB/s

AMD 在大會上將 Helios 與 NVIDIA Vera Rubin NVL72 平台進行比較,並宣稱 Helios 的 AI 運算效能高出 15%,記憶體容量與 Scale-out 頻寬則各高出 50%。此外,AMD 表示,在實際工作負載執行時,Helios 可提供每美元高出 30% 的 Token 產出量。相關比較條件與測試方法未在提供的資料中進一步說明。

ROCm 生態系持續擴大

面對過去市場對 AMD 軟體生態系的疑慮,AMD 強調,開放式 ROCm 軟體堆疊的支援範圍正在擴大。公司表示,目前 Hugging Face 上已有超過 300 萬個模型可開箱即用,過去一年對開源計畫的貢獻也增加超過 10 倍。

AMD 亦指出,透過 AI 模型協助進行程式碼最佳化,軟體移植流程已變得更順暢,開發者可使用熟悉的框架與工具,在 AMD 平台上原生執行工作負載。不過,ROCm 的實際相容性、效能調校與企業支援能力,仍取決於個別應用程式及開發環境。

產品更新與供應鏈仍是關鍵

在供應與產能方面,AMD 表示已與生態系統合作夥伴協調數月,以穩定提供符合品質要求且數量充足的零組件,支援客戶進行跨世代、大規模建置。

AMD 同時預告,未來將維持年度產品更新節奏。預計推出的 MI500 系列將進一步擴大 Scale-up 網域,並導入下一代 HBM、銅纜與光學互連技術;更下一代的 MI600 系列目前也已進入研發階段。

從 MI400 與 Helios 的發布可見,AMD 的策略重點不僅在於提升單顆 GPU 的運算能力,也包括記憶體容量、機櫃級互連、軟體堆疊與供應鏈整合。隨著 AI 推論與智慧代理應用持續增加,這些因素將與峰值效能同樣影響企業評估 AI 基礎設施的成本與部署效率。

Related Articles

Stay Connected

0FansLike
0FollowersFollow
22,800SubscribersSubscribe
spot_img

Latest Articles