data transfer – NVIDIA 技術博客
http://www.open-lab.net/zh-cn/blog
閱讀開發者創建的最新技術信息、頭條新聞 和內容。
Tue, 19 Oct 2021 10:18:25 +0000
zh-CN
hourly
1
196178272 -
提高 GPU 內存超額訂閱性能
http://www.open-lab.net/zh-cn/blog/improving-gpu-memory-oversubscription-performance/
Tue, 05 Oct 2021 05:58:00 +0000
http://www.open-lab.net/zh-cn/blog/?p=1887
Continued]]>
自7多年前推出至今， CUDA 統一內存編程模型一直在開發人員中廣受歡迎。統一內存為 GPU 應用程序的原型設計提供了一個簡單的接口，而無需在主機和設備之間手動 MIG 評級內存。 從 NVIDIA Pascal 更容易擴展到更大的問題規模體系結構開始，支持統一內存的應用程序可以使用系統 CPU 中所有可用的 CPU 和 GPU 內存。有關使用統一內存開始 GPU 計算的更多信息，請參閱 CUDA 更簡單的介紹。 您是否希望使用大型數據集無縫運行應用程序，同時保持內存管理簡單？統一內存可用于使虛擬內存分配大于可用 GPU 內存。在發生超額訂閱時， GPU 自動開始將內存頁逐出到系統內存，以便為活動的在用虛擬內存地址騰出空間。 但是，應用程序性能在很大程度上取決于內存訪問模式、數據駐留和運行的系統。在過去幾年中，我們發表了幾篇關于使用統一內存實現 GPU 內存超額訂閱的文章。
Source
]]>
1887
人人超碰97caoporen国产