
AI 摘要
- Meta 宣布與 AWS 達成協議,大規模部署數千萬核心的 AWS Graviton5 處理器。
- 該處理器具備 192 個核心,將用於支援 Meta 的代理式 AI 與實時推理等工作負載。
- 此合作反映 AI 基建運算正由 GPU 獨大轉向 CPU 與 GPU 並重的架構。
社交媒體巨頭 Meta 近日宣布與 Amazon Web Services(AWS)達成重要合作協議,將在旗下基礎設施中大規模部署 AWS Graviton 系列處理器。該計劃首波採購規模達數千萬個運算核心,並保有隨著人工智慧技術發展持續擴展的彈性空間。此項合作不僅使 Meta 成為全球規模最大的 Graviton 客戶之一,也標誌著整體 AI 基礎設施的演進焦點正逐漸由 GPU 獨大,過渡至 CPU 與 GPU 並重的多元運算架構。
採用 192 核心 Graviton5 應對複雜代理工作負載
根據 AWS 發佈的技術資料,Meta 本次採用的主力為最新一代 AWS Graviton5 處理器。該晶片擁有 192 個運算核心,快取容量較前代產品提升 5 倍,且核心間的通訊延遲降低幅度達 33%。
這批處理器將主要用於支撐 Meta 的多元化雲端服務與 AI 策略,包括承載每天數十億次的用戶互動,並協調複雜的多步驟代理工作流程。AWS 指出,Graviton5 針對代理式 AI(Agentic AI)所衍生的工作型態進行了架構優化,能為大規模雲端環境提供穩定且高吞吐量的運算支援。
代理式 AI 興起帶動 CPU 算力新需求
過去數年,AI 產業的硬體焦點高度集中於模型訓練所需的 GPU 晶片。然而,隨著代理式 AI 的普及,應用層面出現了實時推理、程式碼生成、向量搜尋以及多步驟決策協調等新型需求。AWS 在新聞稿中強調,這些工作負載屬於高度 CPU 密集型,採用專用處理器架構是兼顧執行效能與成本效益的最佳途徑。
目前 AWS Graviton 系列建構於 AWS Nitro System 之上,藉由專用硬體與軟體協同運作以確保高效能與安全性,全球採用客戶數已突破 9 萬家。作為持續以大量 GPU 訓練 Llama 系列開源模型的技術重鎮,Meta 大手筆引進 CPU 資源,顯示在實際營運與推理階段,專用 CPU 的性價比與能源效率已展現出關鍵競爭力。
算力架構精細化與數據中心能效考量
這項協議同時反映出超大規模數據中心對「每瓦效能」的嚴格要求。全球數據中心的電力消耗問題日趨嚴峻,在大型科技公司面臨環境、社會與治理(ESG)目標的背景下,具備更高能源效率的專用晶片能讓企業在相同的電力預算下運行更多 AI 服務。
科技業界分析,未來的 AI 基礎設施競爭將不僅限於單純的硬體規格堆疊,而是轉向依據訓練、微調、檢索及多步驟調度等不同階段負載,進行精準的晶片架構分工。Meta 與 AWS 的大規模合作,具體展現了雲端運算環境走向專用晶片垂直整合與多元運算的趨勢。
Reference Link : unwire.hk




