人工智能模型的訓練與推理,往往需要數以千計甚至更多 GPU 協同運算。當晶片之間需要持續交換大量資料時,系統效能便不再只取決於單一處理器的運算能力,晶片與晶片之間的互連速度、頻寬及功耗同樣成為關鍵。
SK hynix 近期公布的 SK hynix Co-Packaged Optics 技術發展藍圖,正是針對這項數據中心瓶頸。相關技術資料獲國際期刊《Nature Electronics》刊登,反映共封裝光學已逐漸成為 AI 硬件產業的重要研發方向。不過,技術獲期刊刊登並不等同於產品已全面商業化,實際落地仍取決於量產、成本、可靠性及供應鏈整合等因素。
Co-Packaged Optics 是甚麼?
傳統數據中心互連主要依靠電氣訊號,在晶片、交換器及其他運算元件之間傳輸資料。隨着 AI 工作負載增加,傳統互連方案可能面對頻寬擴充、訊號損耗及能源消耗等挑戰。
Co-Packaged Optics(CPO)則把光學引擎或相關光電元件,與交換 ASIC、處理器或其他核心晶片整合於同一封裝或非常接近的位置,再利用光纖進行高速資料傳輸。這種設計可縮短電氣訊號在封裝外部傳輸的距離,並有機會提升頻寬密度與能源效率。
| 比較項目 | 傳統電氣互連 | Co-Packaged Optics |
|---|---|---|
| 主要傳輸方式 | 電氣訊號 | 光學訊號與光纖 |
| 擴充頻寬 | 受訊號損耗、走線及功耗限制 | 具備提升頻寬密度的潛力 |
| 能源表現 | 高速傳輸下可能增加功耗 | 有望降低部分互連能耗 |
| 主要挑戰 | 訊號完整性及散熱 | 封裝、光電整合、維修及量產成本 |
AI 數據中心為何需要高速互連?
大型語言模型及其他生成式 AI 系統,通常需要大量加速器分工處理。GPU 或 AI 加速器之間會交換模型參數、啟動資料及中間運算結果;如果互連速度不足,處理器便可能需要等待資料,令整體訓練時間、機房能源消耗及營運成本上升。
光學互連的優勢不只在於傳輸速度。它可利用多個波長或多條通道在同一光纖中傳送資料,並在較長距離傳輸時維持相對穩定的訊號表現。對需要擴充 GPU 數量及網絡頻寬的 AI 數據中心而言,這些特性有助改善系統擴展的空間。
然而,「光速較快」並不能簡單理解為所有 AI 運算都會按相同比例加速。實際效能仍會受到記憶體頻寬、封裝設計、網絡拓撲、軟件調度、散熱及儲存系統等因素影響。
SK hynix 的技術發展規劃
根據 SK hynix 公布的規劃,公司把 CPO 視為未來 AI 及高效能運算互連的重要技術,並提出分階段發展方向:
- 2025 至 2026 年:推進初步 CPO 產品。
- 2027 至 2028 年:以大規模量產為目標。
- 2030 年前:期望逐步以光學互連取代部分傳統電氣互連。
上述內容屬於公司公布的發展藍圖及目標,最終進度仍可能受製程成熟度、客戶驗證、封裝良率、光纖與光電元件供應,以及整體成本效益影響。因此,現階段較適合將其視為產業路線圖,而非已確定的全面替代時間表。
亞洲半導體產業的競爭
CPO 涉及晶片設計、先進封裝、光電元件、光纖、測試及數據中心設備,並非單一企業可以獨立完成。除 SK hynix 外,Samsung、TSMC 及 Intel 等公司亦在先進封裝或光學互連相關領域投入資源。
未來競爭焦點將不只在於能否展示高速傳輸,還包括如何把光學元件與邏輯晶片可靠地整合、如何處理散熱與維修,以及如何在大規模生產下控制成本。這意味 CPO 可能成為 AI 硬件供應鏈中,連接記憶體、處理器、交換器及封裝技術的其中一個重要戰場。
對香港及亞洲市場的潛在影響
香港本身並非主要晶片製造基地,但擁有數據中心、金融科技、雲端服務及科研機構等應用場景。若 CPO 日後在 AI 數據中心逐步普及,可能為香港帶來幾方面的影響:
- 數據中心升級:高速及高密度互連有機會支援更大規模的 AI 運算部署,但實際效益仍取決於電力、散熱及網絡架構。
- 科研與人才需求:光通訊、半導體封裝、光電整合及硬件驗證等專業的需求可能增加。
- 供應鏈及服務機會:電子元件分銷、系統整合、設備維護及技術顧問服務,或可在相關產業鏈中尋找機會。
- AI 應用成本:若互連效率提升並成功降低數據中心營運成本,長遠可能支援更多雲端 AI 服務,但成本下降並非必然結果。
消費者會否直接受惠?
CPO 主要面向企業級數據中心及高效能運算設備,消費者一般不會直接接觸這項封裝技術。不過,若相關方案經過驗證並形成規模,可能間接影響雲端 AI 服務的回應速度、可承載模型規模及服務成本。
至於 ChatGPT、雲端平台、自動駕駛或其他 AI 產品能否因此明顯改善,仍要視乎服務供應商採用的硬件架構、軟件最佳化及整體系統設計,不能單憑 CPO 技術作出確定判斷。
業界需要留意的限制
CPO 要由研發走向大規模應用,仍有數項問題需要解決:
- 光學元件與運算晶片的封裝整合,可能提高製造及測試複雜度。
- 光電元件、雷射及相關連接部件需要長期可靠運作,維修方式亦可能有別於傳統電氣互連。
- 不同晶片、封裝及網絡設備之間需要更高程度的標準化與互通性。
- 若電氣互連的成本及效能仍具競爭力,企業未必會立即全面轉換至 CPO。
結語
SK hynix Co-Packaged Optics 獲《Nature Electronics》刊登,顯示共封裝光學正由研究及概念驗證,逐步走向產品規劃與產業化討論。對 AI 數據中心而言,這項技術有望改善晶片之間的頻寬密度及互連能耗,但距離大規模取代傳統方案,仍須通過量產、成本、可靠性及客戶導入等多重考驗。
對香港及亞洲市場而言,值得關注的並不只是單一公司的產品進度,還包括先進封裝、光通訊、數據中心基礎設施與 AI 應用之間如何形成新的產業鏈。
Reference Link : techbuzz.hk




