在 NVIDIA GTC 2024 上，RAPIDS 團隊展示了 NVDashboard v0.10 的新功能，該面板在 JupyterLab 上運行，用于監控 GPU 使用情況，以幫助最大限度地提高 GPU 資源的效率。
我們很高興地宣布NVDashboard v0.10現在可供使用。
此更新引入了一系列改進，包括通過 WebSocket 進行數據流傳輸以增強性能、時間序列圖表刷寫和同步工具提示以提高易用性。這些升級共同改變了用戶體驗，為在 JupyterLab 中使用 GPU 密集型應用程序的開發者和研究人員提供了一個更加響應、直觀且視覺上更加協調的工具。
圖 1 顯示右側的 GPU 控制面板，而左下角顯示兩個 dask-labextension 控制面板。
NVDashboard 是一個重要的 JupyterLab 擴展程序，專為顯示 GPU 使用情況控制面板而定制。它支持各種指標，包括以下內容：
- GPU 計算利用率
- GPU 顯存消耗
- PCIe 吞吐量
- NVLink 吞吐量
該擴展程序以前僅與 JupyterLab 的 3.0 及更低版本兼容。隨著 JupyterLab 4.x 的發布，我們更新了 NVDashboard 到版本 0.10，以確保與最新版本的 JupyterLab 兼容。
NVDashboard 的適用對象是誰
對于需要在 JupyterLab 環境中實時監控和分析 GPU 資源的各種專業人士而言，NVDashboard 是一個必不可少的工具，因為它提供了實時監控和分析 GPU 資源的功能。最近的更新使其對多個角色特別有益。
數據科學家和 AI 研究人員
對于正在開發和訓練機器學習模型的用戶，NVDashboard 可提供有關 GPU 利用率、內存和計算指標的即時見解，從而實現高效的資源管理，并有助于在模型訓練期間識別瓶頸。
開發者和工程師
無論您是在處理高性能計算（HPC）任務、3D 渲染還是復雜的模擬，NVDashboard 都能讓您清楚地了解代碼如何使用 GPU 資源，從而在優化代碼以提高性能時做出更明智的決策。
教育工作者和學生
在學術環境中，理解硬件利用率是學習過程的一部分，NVDashboard 是教授并行計算和 GPU 加速應用程序相關概念的實用工具。
DevOps 和系統管理員
對于管理 JupyterLab 環境的用戶，NVDashboard 提供了一種監控方法，可確保 GPU 資源在不同用戶和工作負載中得到有效利用。
NVDashboard v0.10 中有什么新功能？
NVDashboard v0.10 現已針對 JupyterLab v4 及更高版本進行更新，除了單純的兼容性修復之外，還提供架構改進和性能升級：
- 使用 WebSocket 增強性能
- 以用戶為中心的監控和可用性增強功能
- UX 改進可提供有凝聚力的體驗
使用 WebSockets 增強性能
NVDashboard v0.10 中最顯著的改進是從 REST API 過渡到 WebSockets 以進行數據通信。這一關鍵升級旨在滿足實時監控的高要求，數據點每 50-100 毫秒更新一次。
WebSocket 提供的持久連接可顯著降低為每個數據請求建立新連接的開銷，從而提高資源利用率，并在包括功能受限設備在內的設備之間提供無縫體驗。
以用戶為中心的監控和可用性增強功能
NVDashboard v0.10 引入了播放/暫停功能和用于時間序列圖表的定位欄，使您能夠精確控制數據監控體驗，這些功能增強了與數據交互的能力，提供了更直觀、更用戶友好的界面。
UX 改進提供了有凝聚力的體驗
最新版本的 NVDashboard 對用戶體驗進行了重大改進，包括主題支持，可確保擴展程序的外觀適應 JupyterLab 的亮或暗模式。
跨多個控制面板組件的同步工具提示可提供統一的數據視圖，從而增強您分析和理解不同 GPU 利用率指標之間復雜關系的能力。
主題兼容性
NVDashboard 與 JupyterLab 主題的無縫集成對于 UI 的一致性、可訪問性和舒適性非常重要，這直接影響用戶體驗。
時間序列圖表的畫筆功能
NVDashboard 中引入的新刷選功能使您能夠以交互方式選擇和檢查 GPU 資源時間序列圖表上的特定時間范圍，該功能增強了在特定代碼執行期間分析 GPU 性能和識別潛在瓶頸的能力。
同步工具提示
NVDashboard 現在具有跨多個時間序列圖表的同步工具提示，使您能夠通過將鼠標懸停在任何單個數據點上，同時查看所有圖表上的相應數據點，這樣可最大限度地減少鼠標大規模移動的需求，簡化跨不同圖表的統計數據分析。
例如，將鼠標懸停在 GPU 利用率圖表中的時間上，同時在同一時間下顯示 GPU 顯存和 PCI 吞吐量圖表的工具提示。
安裝
要體驗各種改進和新功能，請使用以下命令使用 PyPI 和 Conda 安裝 NVDashboard v0.10：
# PYPIpip install jupyterlab_NVDashboard |
# CONDAconda install -c rapidsai -c conda-forge jupyterlab-NVDashboard |
結論
NVDashboard v0.10 的發布是我們為 JupyterLab 用戶提供最佳工具的過程中的一個重要里程碑。隨著性能的增強、易用性的提升和一系列新功能的推出，我們很高興看到我們的社區如何使用這些更新來推動 JupyterLab 和 NVDashboard 的可能性邊界。
如果您希望參與或深入探討 NVDashboard 的開發，請訪問 /rapidsai/juyterlab-NVDashboard GitHub 庫，獲取更新后的 開發者指南 和資源，我們鼓勵社區探索、貢獻并提供反饋，以幫助繼續改進 NVDashboard。
有關應用程序 profiling 和性能優化的更多信息，請參閱NVIDIA Nsight Systems。
?
