AI 摘要
- Arm AGI CPU在七項工作負載測試的機櫃級平均效能為AMD EPYC 9755的1.99倍，該數據來自Signal65的第三方驗證。
- Arm推出針對AI代理工作負載的CPU評測方法，獲富士通、Meta與OpenAI支持。
- 相較AMD EPYC 9965，Arm AGI CPU最多可將沙盒建立延遲降低45%。
隨著代理式AI（Agentic AI）應用快速擴張，資料中心對CPU的需求正在改變。Arm宣布推出一套針對AI代理工作負載的CPU效能評測方法，並獲得富士通、Meta及OpenAI支持。第三方機構Signal65依據此方法的獨立驗證顯示，Arm AGI CPU在七項工作負載測試中，機櫃級效能模型的平均表現為AMD EPYC 9755的1.99倍。
為何AI代理改變CPU評估方式
根據創投機構a16z援引的OpenRouter資料，自2026年2月以來，AI代理的Token使用量已成長約14倍。與主要回應使用者指令的傳統AI不同，AI代理需要持續維持上下文、呼叫外部工具、存取資料並執行任務，使CPU必須承擔更多工作協調與資料處理。
Arm指出，當大量AI代理同時運作時，資料中心不僅需要更多運算資源，還必須確保記憶體、儲存與I/O系統在高併行環境下穩定運作。因此，以理論運算效能為主的傳統評測方式，已不足以完整反映AI代理的實際需求。
新評測方法的架構
Arm開發的新CPU效能測試方法涵蓋具代表性的AI代理應用場景、可重複執行的CPU效能測量，以及端到端的結果驗證。Signal65依此方法，比較Arm AGI CPU與AMD EPYC Turin系列處理器在工具呼叫、任務編排、推論及規劃等工作負載的表現，並利用實測伺服器數據建立機櫃級模型。
主要效能數據
初步結果顯示，Arm AGI CPU在七項測試中的機櫃級平均效能為AMD EPYC 9755的1.99倍。各項工作負載的結果如下：
| 測試項目 | 比較對象 | Arm AGI CPU相對表現 |
|---|---|---|
| 七項工作負載機櫃級平均 | AMD EPYC 9755 | 1.99倍 |
| 工具呼叫 | AMD EPYC Turin系列 | 1.7倍 |
| AI代理工作流程與任務編排 | AMD EPYC Turin系列 | 2倍 |
| 推論及規劃 | AMD EPYC Turin系列 | 2.2倍 |
| 沙盒建立延遲 | AMD EPYC 9965 | 最多降低45% |
沙盒建立延遲的降低，有助於縮短AI代理啟動隔離執行環境所需的時間。
注意：近2倍的效能差距來自機櫃級效能模型，而非單顆CPU的直接比較，結果也受到機櫃運算密度與能源效率等因素影響。
CPU角色轉變與機櫃架構
Arm認為，AI代理對CPU的需求已不再侷限於單次運算速度，而是系統在功耗、散熱及空間限制下，能同時支援多少任務持續執行。在AI資料中心架構中，CPU負責工作排程、資料準備與傳輸，以維持GPU等加速器的利用率；資料處理器（DPU）則負責網路、儲存、安全隔離與基礎設施管理，形成不同處理器之間的分工。
在本週開放運算計畫全球峰會（OCP Global Summit）上，Arm也推動向OCP貢獻Arm AGI CPU參考伺服器設計。Meta的Yosemite YV5則已將Arm AGI CPU納入機櫃級架構。
業界支持與評測標準訴求
富士通指出，在開發下一代Arm架構處理器FUJITSU-MONAKA的過程中，透明、可重複且具代表性的測試方法相當重要。Meta則認為，隨著代理式AI進入正式部署階段，業界需要更一致的比較標準，以了解不同工作負載如何使用底層運算資源。
OpenAI全球前線部署工程負責人Colin Jarvis表示，AI系統正從單純生成回應，轉向透過推論、工具使用及軟體互動完成複雜任務，因此評估任務編排、工具執行及整體系統效能將更加重要。
Reference Link : technice.com.tw
