Home Tags QLC V-NAND

Tag: QLC V-NAND

- Advertisement -
Google search engine

APLICATIONS

【AI直連儲存加速時代來臨】GPUDirect Storage產品生態總覽

0
憑藉AI應用持續興盛,以及輝達在GPU與加速運算的龐大影響力,用於改善GPU應用環境I/O傳輸效率的GPUDirect Storage(GDS),短短幾年內,就成為GPU領域標準的傳輸架構之一,也是有意在AI應用扮演重要角色的儲存廠商,必須支援的I/O技術架構。 支援GDS的儲存裝置形式 從儲存裝置的存取層級來說,GDS支援2種類型的儲存裝置: (1)GPU伺服器本機掛載的區塊型(Block)儲存裝置,又分為兩種類型,一為透過NVMe介面直連的NVMe SSD,另一為外部儲存設備經由NVMe-oF架構連接的儲存區(Volume),這類裝置將格式化為EXT4或XFS檔案系統,再提供給GDS建立連結。 (2)GPU伺服器遠端掛載的外部檔案系統,也就是支援RDMA傳輸架構,且相容於GDS技術的第3方檔案層級儲存設備。 所以從儲存裝置的型態來說,GDS一共支援3種儲存裝置:(1)GPU伺服器內接的NVMe SSD,(2)經由NVMe-oF掛載的外部區塊型儲存裝置,(3)經由RDMA網路連結的外部檔案型儲存裝置。 在這3類儲存裝置中,GPU伺服器內接NVMe SSD的規格限制條件最少,幾乎適用所有相容於GPU伺服器的NVMe SSD產品(包括ScaleFlux的運算型儲存裝置產品),存取延遲最低,但在容量與傳輸頻寬擴展能力方面,會受到相當大的限制,取決於GPU伺服器能支援的NVMe SSD數量,一般而言,最多搭配十多臺NVMe SSD。 考慮到AI相關應用的規模擴展需求,更實用的GDS儲存應用架構,將是搭配外部儲存設備的型式,也就是藉由NVMe-oF掛載的外部區塊型儲存設備,以及經由RDMA網路連結的外部檔案型儲存設備。 典型的GDS應用架構:NetApp EF系列與BeeGFS的組合  這是後端NVMe-oF搭配前端InfiniBand/RDMA的GDS應用架構。由NetApp的EF600儲存陣列,以NVMe over InfiniBand協定經由200Gb IfiniBand網路介面,將儲存區直接掛載到運行BeeGFS檔案系統的SR655伺服器上,後者再經由InfiniBand交換器,將檔案系統空間以InfiniBand/RDMA方式連到GPU伺服器,構成GDS連接。圖片來源/NetApp 支援GDS的儲存平臺 目前支援GDS的外部儲存設備,以檔案型儲存設備占大多數,總共有十多家廠商的產品,幾乎涵蓋當前市場上多數常見的檔案儲存平臺,包括:在高效能運算領域常見的知名老牌檔案儲存平臺,例如DDN的EXAScaler,HPE Cray ClusterStor,IBM Spectrum Scale(現在已改稱Storage Scale),ThinkParQ的BeeGFS,還有兩大分散式高效能檔案平臺新秀——VAST Data的Universal Storage,Weka的WekaFS,以及知名的通用檔案儲存平臺,如Dell的PowerScale、NetApp的ONTAP,Pure Storage的FlashBlade,以及華為的GFS(Global File System)等。 前述這些平臺,又可依照支援GDS的傳輸架構型式,分為直接透過RDMA網路連接(InfiniBand或RoCE乙太網路),以及透過NFS over RDMA協定(NFSoRDMA)等2大類。前者有EXAScaler、Spectrum...

HOT NEWS