Danielle Detering – NVIDIA 技術博客 http://www.open-lab.net/zh-cn/blog 閱讀開發者創建的最新技術信息、頭條新聞 和內容。 Thu, 06 Jan 2022 07:19:18 +0000 zh-CN hourly 1 196178272 通過 NVIDIA DLI 的入門課程開始學習 NVIDIA Triton http://www.open-lab.net/zh-cn/blog/getting-started-on-nvidia-triton-with-an-introductory-course-from-nvidia-dli/ Wed, 05 Jan 2022 04:24:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=2716 Continued]]> 很多人喜歡構建機器學習模型。挑戰包括確定要預測的變量、尋找最佳模型體系結構的實驗,以及對正確的訓練數據進行采樣。但是,如果您無法訪問該模型,它又有什么好處呢? 進入 NVIDIA Triton 推理服務器 . NVIDIA Triton 幫助數據科學家和系統管理員將用于訓練模型的機器轉變為用于模型預測的 web 服務器。雖然不需要 GPU ,但 NVIDIA Triton 推理服務器可以利用多個安裝的 GPU 快速處理大批量請求。 為了獲得實時服務器的實踐, NVIDIA 深度學習培訓中心(DLI) 提供了一個名為大規模推理部署模型的 4 學時在線自主培訓課程。 NVIDIA Triton 是在考慮到 機器學習操作 或 MLOps 的情況下創建的。 MLOps 是從開發人員操作( DevOps )演變而來的一個相對較新的領域,其重點是在生產環境中擴展和維護機器學習模型。

Source

]]>
2716
人人超碰97caoporen国产