Accelerating IO – NVIDIA 技術博客 http://www.open-lab.net/zh-cn/blog 閱讀開發者創建的最新技術信息、頭條新聞 和內容。 Wed, 10 Nov 2021 07:58:24 +0000 zh-CN hourly 1 196178272 在現代數據中心加速 IO : Magnum IO 存儲合作伙伴關系 http://www.open-lab.net/zh-cn/blog/accelerating-io-in-the-modern-data-center-magnum-io-storage-partnerships/ Tue, 09 Nov 2021 07:46:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=2150 Continued]]> 隨著 AI 、 ML 和 HPC 應用程序的計算從 CPU 轉移到更快的 GPU ,輸入輸出 GPU 的 IO 可能成為整體應用程序性能的主要瓶頸。 NVIDIA 創建了 Magnum IO GPU 直接存儲( GDS ),以簡化存儲和 GPU 內存之間的數據移動,并消除平臺中的性能瓶頸,例如被迫通過 CPU 內存中的緩沖區存儲和轉發數據。 GDS 通過在本地 NVMe 存儲或 NIC 后面的遠程存儲和 GPU 內存之間啟用直接內存訪問( DMA ),提高了帶寬,減少了延遲,減輕了 CPU 利用率的負擔。從 DGX 平臺上的 GDS 本身的深度學習推理、數據分析可視化和視頻分析中分別觀察到 2 . 5x 、 8x 和 9x 的性能優勢。 要在部署的平臺范圍內加速各種各樣的客戶應用程序和框架,需要一系列合作關系。我們的目標是實現整個豐富的數據存儲生態系統,

Source

]]>
2150
人人超碰97caoporen国产