GPU computing – NVIDIA 技術博客 http://www.open-lab.net/zh-cn/blog 閱讀開發者創建的最新技術信息、頭條新聞 和內容。 Tue, 03 Jan 2023 06:36:21 +0000 zh-CN hourly 1 196178272 使用 NVIDIA TensorRT 在 Apache Beam 中簡化和加速機器學習預測 http://www.open-lab.net/zh-cn/blog/simplifying-and-accelerating-machine-learning-predictions-in-apache-beam-with-nvidia-tensorrt/ Fri, 16 Dec 2022 06:32:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=5884 Continued]]> 為大規模運行機器學習模型而加載和預處理數據通常需要將數據處理框架和推理機無縫拼接在一起。 在這篇文章中,我們將介紹 NVIDIA TensorRT 與 Apache Beam SDK 的集成,并展示如何將復雜的推理場景完全封裝在數據處理管道中。我們還演示了如何通過幾行代碼處理來自批處理和流傳輸源的 TB 數據,以實現高吞吐量和低延遲模型推斷。 要將 TensorRT 與 Apache Beam 一起使用,在此階段,您需要 converted TensorRT engine file from a trained model. 以下是如何將 TensorFlow 對象檢測 SSD MobileNet v2 320 × 320 模型轉換為 ONNX ,從 ONNX 構建 TensorRT 引擎,并在本地運行引擎。 要將 TensorFlow 對象檢測 SSD…

Source

]]>
5884
使用加速 WEKA 加速機器學習模型 http://www.open-lab.net/zh-cn/blog/speed-up-machine-learning-models-with-accelerated-weka/ Fri, 01 Jul 2022 07:36:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=4525 Continued]]> 近年來,建筑業和 采用機器學習 ( ML )工具。使用 GPU 加速計算日益密集的模型已成為一個突出的趨勢。 為了增加用戶訪問,加速 WEKA 項目通過集成開源 RAPIDS 庫,為在知名的 WEKA 算法中使用 GPU 提供了一個可訪問的入口點。 在這篇文章中,我們將向您介紹加速 WEKA ,并學習如何使用 WEKA 軟件利用圖形用戶界面( GUI )的 GPU 加速算法。這種 Java 開源替代方案適合于從不同環境或包中尋找各種 ML 算法的初學者。 加速 WEKA 將 WEKA 軟件(一種著名的開源 Java 軟件)與利用 GPU 縮短 ML 算法執行時間的新技術相結合。針對沒有系統配置和編碼專業知識的用戶,它有兩個好處:易于安裝和指導 ML 任務的配置和執行的 GUI 。 加速 WEKA 是一個可用于 WEKA 的軟件包集合,

Source

]]>
4525
人人超碰97caoporen国产