Nsight 開發工具套件提供深入的跟蹤、調試、評測和其他分析,以優化跨 NVIDIA GPU 和 CPU 的復雜計算應用程序,包括 x86 、 Arm 和 Power 體系結構。
解鎖 GPU 探查器和調試器的功能: Nsight Systems 2021 . 5 和 Nsight Compute 2021 . 3
NVIDIA Nsight Systems 是一種性能分析工具,旨在可視化、分析和優化編程模型,并在 CPU 和 GPU 的任何數量或大小上進行有效調整以實現規模擴展;從工作站到超級計算機。
Nsight Systems 2021 . 5 的亮點包括:
- 現在,圖形用戶界面( GUI )中提供了統計信息。
- 具有水平和垂直布局的多報告視圖,有助于跨服務器節點、 VM 、容器、列組和進程進行調查(即將推出)。
- 專家系統現在包括 OpenGL 和 DX12 的 GPU 利用率分析。
- NVIDIA NIC InfiniBand 度量采樣(實驗性)。
- DirectX12 內存操作和警告。
- DXGI / DX12 / Vulkan API 調用與 WDDM 隊列數據包的關聯。
- Windows 11 支持。
NVIDIA Nsight Compute 2021.3 發布了用于測量和建模占用率、源代碼和匯編代碼相關性的新功能,以及用于識別訪問緩存造成的瓶頸的分層屋頂線模型。
主要特點:
- 入住率計算器 –幫助您了解內核的硬件資源利用率,并對調整如何影響占用率進行建模。
- 命令行源頁面 –允許直接從命令行從 GUI 中的源頁面訪問信息。通過使用
--page source
標志,您可以在命令行上看到源代碼行、 PTX 行或程序集行以及這些行的收集指標。在分析收集的數據以及編寫腳本和后期處理結果以進行進一步報告和分析時,此功能提供了額外的靈活性。 - 分層屋頂線 –屋頂線圖表現在支持層次屋頂線,它表示除設備內存外,內存層次結構中的其他級別。現在,您可以看到開發的內核是否存在與緩存內存相關的瓶頸。
還有其他改進,包括更多可配置的基線比較、從 CLI 訪問源代碼級信息以及其他 SSH 功能。
游戲和圖形開發人員的新功能: Nsight Graphics 2021 . 5 、 Nsight Perf SDK 和 Nsight sulf SDK
NVIDIA Nsight Graphics 是一個功能強大的工具,使您能夠調試和評測使用 Direct3D ( 11 , 12 , DXR )、 Vulkan ( 1 . 2 , Vulkan 光線跟蹤)和 OpenGL 的應用程序。它提供了導出幀以供以后分析的能力,以及 GPU 跟蹤,這是一個功能強大的探查器,使您能夠可視化 GPU 低級度量。
最新的 Nsight Graphics 2021 . 5 版本通過以下更新擴展了對多個 API 的支持:
- 對 API 捕獲和跟蹤的完整 Windows 11 支持。
- 加速結構查看器:邊界體積重疊分析。
- 您可以通過 Nsight API 指定持續刷新標志。
- 支持 Linux NGX 。
NVIDIA Nsight Perf SDK 是 DirectX 、 Vulkan 和 OpenGL 的圖形評測工具箱,使您能夠直接從應用程序收集 GPU 性能指標。
主要特點:
- 用于生成 HTML 報告的簡化 API 。
- 較低級別的評測 API ,帶有實用程序庫,易于使用。
- 以上所有內容都可以在 D3D11 、 D3D12 、 OpenGL 和 Vulkan 中使用。
- 演示 3D 、計算和光線跟蹤中的用例的示例。
NVIDIA Nsight Aftermath SDK 是一個簡單的庫,您可以將其集成到 D3D12 或 Vulkan 游戲的 crash reporter 中,以便在出現 TDR 或異常時生成 GPU “迷你轉儲”。
主要特點:
- Nsight Graphics 2021 . 5 提供了對 Windows 11 for Nsight 的支持。
- 通過詳細的“迷你轉儲”調試 GPU 異常?
- 包含異常時 GPU 管道子單元的狀態?.
- 捕獲所有活動扭曲和當前 PC ?.
- 將扭曲位置映射回原始 HLSL / GLSL 源代碼?.
- 使用標記確定 API 調用流中的異常位置?.
- 有助于在開發過程中調試 GPU 異常,在 QA 中調試,或從部署的應用程序調試。
應用程序內 DL 推理的高效模型設計: Nsight Deep Learning Designer 2021 . 2
Nsight Deep Learning Designer 是一流的 IDE 工具,適用于希望將基于 DL 的高性能功能集成到應用程序中的開發人員。
它支持對端到端 DL 工作流進行深入分析,以實現高效的模型設計。
此版本包括以下新功能:
- 使用 GPU 指標和 Tensor 核心利用率進行推理性能評測。
- 使用通道檢查器直觀地分析模型。
- 與 PyTorch 兼容。
- 專門的分析操作符:噪波和混合、仿射、線性混合、調整大小、選擇器等。
在此 post 中了解有關 Nsight DL Designer 的更多詳細信息。
具有 IDE 支持的輕松軟件開發: Nsight Visual Studio 2021 . 3 、 Nsight Visual Studio 代碼版 2021 . 1 和 Nsight Eclipse
NVIDIA Nsight Visual Studio Edition 是一個應用程序開發環境,它將 GPU 計算引入 Microsoft Visual Studio IDE 。
Nsight Visual Studio 2021 . 3 版本為 Windows 11 提供了全面的[ZFBB]內核調試支持,并對瓶頸、系統利用率和吞吐量改進進行了代碼檢查。
Nsight Visual Studio 包含在 CUDA ?工具包 11 . 5 版中,并提供了錯誤修復和性能改進。
Nsight Visual Studio Code Edition 是一個針對異構平臺的應用程序開發環境,它將 CUDA ?對 GPU 的開發引入到 Microsoft Visual Studio 代碼中。?
Nsight Visual Studio Code Edition 2021 . 1 版本包括智能感知支持智能 CUDA 代碼完成、在單個會話中調試 CPU 和 GPU 代碼、群集環境的遠程開發等功能。
Nsight Eclipse Edition 是一個功能齊全的 IDE ,由 Eclipse 平臺提供支持,它提供了一個多功能集成環境來編輯、構建、調試和評測 CUDA -C 應用程序。一些關鍵亮點包括提供無縫 CPU 和 CUDA 調試的能力?, 本機 Eclipse 插件,?和 docker 容器支持。
NVIDIA Nsight 開發工具入門
Nsight 計算: Download 、 Documentation 、 Web Page 、 GTC Session] Understanding CUDA Application Behavior, Performance, and Optimization Just Got Easier with the Latest Developer Tools 、[NVIDIA DLI] Optimizing CUDA Machine Learning Codes with Nsight Profiling Tools 、[Demo Video][UNK] Guided Analysis with Nsight Compute 、 Forum 。
Nsight 系統: Download 、 Documentation 、 Web Page 、 DevNews 、 GTC 課時] Understanding CUDA Application Behavior, Performance, and Optimization Just Got Easier with the Latest Developer Tools 、 Forum 。
Nsight 圖形: Download . Documentation . Web Page . DevNews GTC 會議] Leveraging NVIDIA Graphics DevTools for High-performance Ray-tracing Applications [NVIDIA DLI]. Developer Tools Fundamentals for Ray Tracing Using NVIDIA Nsight Graphics and NVIDIA Nsight Systems . Forum 。
Nsight Perf SDK : Download Documentation 、 Web Page 、 Forum 。
善后: Download , Documentation (包括下載包), Web Page , Forum 。
Nsight Deep Learning Designer : Download 、 Documentation 、 Web Page 、 DevBlog 、 GTC 會話] Optimize Neural Networks for Quality and Performance with Nsight DL Designer?? 、 Efficient model design for in-app inferencing with Nsight DL Designer 、 Forum 。
Nsight Visual Studio 版: Download 、EZX61、 Web Page 、 Forum 。
Nsight Visual Studio 代碼版: Download 、 Documentation 、 Web Page 、 GTC 會話] It’s Alive! CUDA in Visual Studio Code 、 Demo video: Nsight Visual Studio Code Edition 、 Forum 。
Nsight Eclipse 版: Download (是 CUDA 工具包安裝程序的一部分)、 Documentation 、 Web Page 、 Forum 。
注冊 Developer Newsletter 以隨時了解新的公告和發布!
請訪問 GTC 查看 Nsight DevTool day sessions 和 DLI courses 了解更多信息!