Accelerating IO – NVIDIA 技術博客
http://www.open-lab.net/zh-cn/blog
閱讀開發者創建的最新技術信息、頭條新聞 和內容。
Wed, 10 Nov 2021 07:58:24 +0000
zh-CN
hourly
1
196178272 -
在現代數據中心加速 IO : Magnum IO 存儲合作伙伴關系
http://www.open-lab.net/zh-cn/blog/accelerating-io-in-the-modern-data-center-magnum-io-storage-partnerships/
Tue, 09 Nov 2021 07:46:00 +0000
http://www.open-lab.net/zh-cn/blog/?p=2150
Continued]]>
隨著 AI 、 ML 和 HPC 應用程序的計算從 CPU 轉移到更快的 GPU ,輸入輸出 GPU 的 IO 可能成為整體應用程序性能的主要瓶頸。 NVIDIA 創建了 Magnum IO GPU 直接存儲( GDS ),以簡化存儲和 GPU 內存之間的數據移動,并消除平臺中的性能瓶頸,例如被迫通過 CPU 內存中的緩沖區存儲和轉發數據。 GDS 通過在本地 NVMe 存儲或 NIC 后面的遠程存儲和 GPU 內存之間啟用直接內存訪問( DMA ),提高了帶寬,減少了延遲,減輕了 CPU 利用率的負擔。從 DGX 平臺上的 GDS 本身的深度學習推理、數據分析可視化和視頻分析中分別觀察到 2 . 5x 、 8x 和 9x 的性能優勢。 要在部署的平臺范圍內加速各種各樣的客戶應用程序和框架,需要一系列合作關系。我們的目標是實現整個豐富的數據存儲生態系統,
Source
]]>
2150
人人超碰97caoporen国产