人工智慧需求持續推升資料中心運算量，也正在改變 CPU 與 GPU 的傳統分工。《日經亞洲》（Nikkei Asia）最新科技 Podcast 中，科技編輯 Katey Creel 與台北科技特派員 Lauly Li 討論指出，晶片業者為了紓解 GPU 供應與效能瓶頸，正重新評估 CPU 在新一代 AI 基礎設施中的定位。
這項變化意味著，AI 晶片競賽不再只是比較單一 GPU 或加速器的運算效能，而是延伸至資料中心整體架構，以及記憶體、網路和軟體之間的整合能力。
CPU 不再只是 AI 系統的排程配角
在傳統 AI 伺服器架構中，CPU 通常負責一般運算與工作排程，GPU 則處理大規模平行運算。然而，隨著人工智慧應用變得更加複雜，這種「CPU 負責排程、GPU 負責運算」的界線正逐漸被打破。
相關分析認為，CPU 已不只是 GPU 的輔助元件，而是影響 AI 系統整體效率與協同能力的重要一環。除了管理工作流程，CPU 也可能在 AI 系統中承擔更廣泛的資料處理、任務編排與服務協調工作。
資料中心可能增加純 CPU 運算叢集
面向新一代 AI 運算需求，資料中心預料將出現更多純 CPU 運算叢集。這類伺服器不一定直接負責大型模型的主要推論工作，但可用於處理排程、編排及工具呼叫等任務，分擔 AI 系統中的協同運作負載。
相較於傳統 AI 伺服器以固定比例配置 CPU 與 GPU，未來的資料中心可能採取更具彈性的分層架構：
- GPU 超節點：主要負責大型模型推論與高品質輸出。
- CPU 原生伺服器：支援排程、工作編排、工具呼叫及大規模協同運作。
這種配置並非代表 CPU 取代 GPU，而是讓兩者在不同工作負載中發揮作用，形成更細緻的系統級分工。
晶片競賽轉向整體系統能力
CPU 與 GPU 的關係正從過去相對固定的分工，轉向更複雜的協作模式。對晶片廠商而言，競爭焦點因此不再局限於單一處理器的峰值效能，還包括如何讓運算資源、記憶體、網路連結與軟體平台有效協同。
在 GPU 供應受限或特定工作負載不適合使用 GPU 的情況下，CPU 伺服器可提供額外的部署彈性。對資料中心業者來說，如何依照模型推論、代理式工作流程、工具呼叫及一般服務需求配置不同類型的運算資源，將成為架構設計的重要課題。
CPU 與 GPU 將走向互補，而非單純替代
目前的產業趨勢顯示，AI 基礎設施正從單一加速器導向多元運算架構。GPU 仍適合處理大型模型所需的高平行度運算，但 CPU 在任務管理、服務協調與系統整合方面的重要性正在提升。
不過，資料中心最終採用何種 CPU 與 GPU 配置，仍取決於模型規模、應用類型、軟體支援、供應狀況與整體成本。可以確認的是，AI 時代的晶片競爭已逐步從單點效能比較，擴展為涵蓋整個資料中心的系統工程競賽。
