輝達Vera CPU押注單執行緒效能 代理式AI時代挑戰Chiplet設計思維

BlueSky

AI 摘要

  • 輝達Vera CPU採用單體式裸晶設計,強調高單執行緒效能與低延遲,以因應代理式AI的CPU與GPU頻繁往返需求。
  • 輝達表示,Vera整體效能約為前一代Grace的1.5倍,AI代理常見工作負載最高可達x86處理器的2倍。
  • Vera除了搭配GPU使用,也將獨立作為CPU銷售,並可部署為整櫃Vera CPU。

隨著代理式AI(Agentic AI)快速發展,輝達認為資料中心CPU的設計邏輯正在反轉。輝達Vera CPU正是針對這項變化打造的新一代處理器,選擇單體式裸晶(monolithic die)而非近年主流的Chiplet設計,希望同時兼顧高單執行緒效能與高吞吐量。

產品定位:為代理式AI而生的CPU

過去雲端時代,資料中心CPU的競爭重點是「每台伺服器能塞進多少核心」。輝達指出,AI代理需要在GPU推論與CPU序列工作之間不斷切換,例如執行Python腳本、工具呼叫與程式碼編譯,因此單執行緒效能、記憶體頻寬與低延遲重新變得重要。由於GPU仍是AI資料中心最昂貴的資源之一,CPU若處理過慢,就會讓GPU處於等待狀態。

Vera的目標用戶是高效能AI資料中心。輝達表示,x86業者必須同時兼顧消費型PC與資料中心市場,而Vera可以完全針對高效能AI資料中心設計,不受既有產品線限制。

主要設計與功能

  • 高效能核心:提升單執行緒表現,以因應AI代理的序列運算需求。
  • 客製化LPDDR5X記憶體子系統:提供記憶體頻寬支援。
  • 第二代NVIDIA Scalable Coherent Fabric:協助核心間的資料互連。
  • 單體式裸晶:所有核心位於同一運算裸晶上,核心之間通訊不需跨越Chiplet之間的I/O邊界,可降低額外延遲。
  • 空間多執行緒(Spatial Multithreading):不採用傳統同步多執行緒(SMT),而是將執行緒分配為主要工作執行緒與I/O執行緒,避免I/O工作搶走主要運算執行緒的CPU週期。

效能與規格比較

輝達提供的數據如下,以下比較均為輝達官方說法;其中空間多執行緒的效能提升數據引用自第三方網站Phoronix的近期測試。

比較項目輝達Vera CPU比較基準與說明
整體效能約為前一代Grace的1.5倍以Grace為基準
AI代理常見工作負載(Python執行、LLVM編譯)最高約2倍效能,幾何平均約領先1.6倍對照目前領先的x86處理器
二分頻寬(bisection bandwidth)3.4TB/s輝達宣稱約為目前領先x86晶片的3倍
多執行緒設計空間多執行緒,Phoronix測試顯示可提高約20%效能對照傳統同步多執行緒(SMT)

部署形式:不只搭配GPU

輝達最初推出Grace CPU時,主要將CPU定位為GPU的Host Node。隨著AI代理與強化學習工作量增加,市場開始出現大量純CPU需求。輝達提到,有業者單一客戶就需要運行40萬個沙盒環境。因此,Vera不僅會出現在Vera Rubin等CPU加GPU整合架構中,也將獨立作為CPU銷售,甚至部署成整櫃Vera CPU。

市場觀察:CPU與GPU比例可能轉向

市場近期討論,在AI代理大量普及後,CPU與GPU比例可能大幅改變,甚至出現80:1的極端情境。輝達並未認同特定比例,也表示目前沒有正式預測。不過Vera團隊承認,AI基礎設施的資源比例確實正在朝CPU方向移動。

未來方向:不完全否定Chiplet

輝達並未全面否定Chiplet架構。團隊表示,未來仍會依不同市場與設計需求決定是否採用Chiplet,並沒有固定的架構路線。來源資料未提供Vera CPU的售價與正式推出日期。

Reference Link : technice.com.tw

Related Articles

Stay Connected

0FansLike
0FollowersFollow
22,800SubscribersSubscribe
spot_img

Latest Articles