Sally Stevenson – NVIDIA 技術博客
http://www.open-lab.net/zh-cn/blog
閱讀開發者創建的最新技術信息、頭條新聞 和內容。
Wed, 04 Jan 2023 06:45:47 +0000
zh-CN
hourly
1
196178272 -
通過設備圖啟動啟用 CUDA 圖中的動態控制流
http://www.open-lab.net/zh-cn/blog/enabling-dynamic-control-flow-in-cuda-graphs-with-device-graph-launch/
Mon, 12 Dec 2022 06:43:00 +0000
http://www.open-lab.net/zh-cn/blog/?p=5949
Continued]]>
CUDA 圖形通過將用戶操作定義為任務圖（可以在單個操作中啟動），顯著減少了啟動大量用戶操作的開銷。提前了解工作流使 CUDA 驅動程序能夠應用各種優化，這在通過流模型啟動時無法執行。 然而，這種性能是以靈活性為代價的：如果事先不知道整個工作流，則 GPU 執行必須中斷，才能返回 CPU 做出決定。 CUDA 設備圖啟動通過基于在運行時確定的數據使任務圖能夠從正在運行的 GPU 內核高效地啟動來解決這個問題。 CUDA 設備圖形發射提供了兩種不同的發射模式：發射和忘記，以及尾部發射，以實現廣泛的應用和使用。 這篇文章演示了如何使用設備圖形啟動和兩種啟動模式。它以設備端工作調度程序為例，它解壓縮文件以進行數據處理。 執行任務圖涉及以下四個步驟： 通過將啟動步驟與其他步驟分離， CUDA 能夠優化工作流，并使圖形啟動盡可能輕。為了方便起見，如果沒有明確調用上傳步驟，
Source
]]>
5949
人人超碰97caoporen国产