TAO – NVIDIA 技術博客

TAO – NVIDIA 技術博客 http://www.open-lab.net/zh-cn/blog 閱讀開發者創建的最新技術信息、頭條新聞和內容。 Tue, 20 Jun 2023 22:38:13 +0000 zh-CN hourly 1 196178272 SDK 加速行業 5.0 、數據管道、計算科學等在 GTC 2023 上亮相 http://www.open-lab.net/zh-cn/blog/sdks-accelerating-industry-5-0-data-pipelines-computational-science-and-more-featured-at-gtc-2023/ Wed, 22 Mar 2023 06:45:09 +0000 http://www.open-lab.net/zh-cn/blog/?p=6530 Continued]]> 在 2023 年的 NVIDIA GTC 2023 上， NVIDIA 公布了其 NVIDIA AI 軟件套件的顯著更新，供開發者加速計算。這些更新降低了幾個領域的成本，例如使用 NVIDIA RAPIDS 的數據科學工作負載、使用 NVIDIA Triton 的模型分析、使用 NVID IA CV- CUDA 的人工智能成像和計算機視覺等。為了跟上 NVIDIA 最新的 SDK 進步，請觀看首席執行官黃仁勛的 GTC keynote 。 NVIDIA RAPIDS Accelerator for Apache Spark 現已在 NVIDIA AI Enterprise 3.1 軟件套件中提供。使用 Apache Spark 3 在不更改代碼的情況下加快數據處理和分析或模型培訓，同時降低基礎設施成本。亮點：立即申請，

Source

]]>

6530

使用 NVIDIA TAO Toolkit 5.0 訪問最新的視覺 AI 模型開發工作流 http://www.open-lab.net/zh-cn/blog/access-the-latest-in-vision-ai-model-development-workflows-with-nvidia-tao-toolkit-5-0/ Tue, 21 Mar 2023 07:20:06 +0000 http://www.open-lab.net/zh-cn/blog/?p=6558 Continued]]> NVIDIA TAO Toolkit 提供了一個低代碼人工智能框架，用于加速視覺人工智能模型開發，適用于從新手到專家數據科學家的所有技能水平。借助 NVIDIA TAO （訓練、適應、優化）工具包，開發人員可以利用遷移學習的力量和效率，通過適應和優化，在創紀錄的時間內實現最先進的精度和生產級吞吐量。在 NVIDIA GTC 2023 上， NVIDIA 發布了 NVIDIA TAO Toolkit5.0 ，帶來了突破性的功能來增強任何人工智能模型的開發。新功能包括開源架構、基于 transformer 的預訓練模型、人工智能輔助的數據注釋，以及在任何平臺上部署模型的能力。 NVIDIA TAO Toolkit 5.0 支持 ONNX 中的模型導出。這使得在邊緣或云中的任何計算平臺 GPU 、 CPU 、 MCU 、 DLA 、

]]>

6558

通過預訓練模型和 NVIDIA TAO 工具包促進 AI 開發 http://www.open-lab.net/zh-cn/blog/boost-ai-development-with-pretrained-models-and-the-nvidia-tao-toolkit/ Tue, 13 Dec 2022 06:28:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=5942 Continued]]> 最新版本的 NVIDIA TAO Toolkit 4.0 通過全新的 AutoML 功能、與第三方 MLOP 服務的集成以及新的預訓練視覺 AI 模型，提高了開發人員的生產力。企業版現在包括對預訓練模型的完整源代碼和模型權重的訪問。該工具包可以為視覺和對話式人工智能提供高效的模型訓練。通過簡化復雜的人工智能模型和深度學習框架，即使沒有人工智能專業知識的開發人員也可以使用該工具包來生成人工智能模型。使用轉移學習來使用您自己的數據微調 NVIDIA 預訓練模型，現在可以在沒有 AI 專業知識或大型訓練數據集的情況下優化模型推理吞吐量。開發人員可以使用 TAO 創建針對特定環境和場景優化的定制生產就緒模型。一個顯著的新功能幫助開發人員在沒有大量數據的情況下構建對象檢測模型。用例包括檢測裝配線缺陷、跨語言翻譯特定短語或管理城市交通。下載 TAO Toolkit 4.0.

]]>

5942

像 AI 專家一樣使用 NVIDIA TAO AutoML 進行訓練 http://www.open-lab.net/zh-cn/blog/training-like-an-ai-pro-using-tao-automl/ Tue, 13 Dec 2022 06:25:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=5940 Continued]]> 這些年來，人工智能有了巨大的增長。隨之而來的是對人工智能模型和應用程序的更大需求。創造高質量的人工智能需要人工智能和數據科學方面的專業知識，對許多開發人員來說，這仍然是一種威脅。為了開發準確的人工智能，您必須選擇要使用的模型架構、要收集的數據，以及最后如何調整模型以滿足期望的 KPI 。有成千上萬的模型架構和超參數組合，您必須嘗試為您的特定用例獲得最佳模型。這個過程非常費力，需要模型架構專業知識來調整超參數。自動機器學習（ AutoML ）自動執行手動任務，為所需 KPI 找到最佳模型和超參數。它可以從算法上為給定的 KPI 導出最佳模型，并抽象出 AI 模型創建和優化的許多復雜性。 AutoML 使得即使是新手開發人員也很容易創建高度精確的 AI 模型。 TAO 中的 AutoML 完全可配置，用于自動優化模型的超參數，這減少了手動調整的需要。

]]>

5940

使用 ROS 2 和 TAO-PointPillars 檢測點云中的對象 http://www.open-lab.net/zh-cn/blog/detecting-objects-in-point-clouds-using-ros-2-and-tao-pointpillars/ Fri, 30 Sep 2022 08:10:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=5369 Continued]]> 準確、快速的目標檢測是機器人導航和避碰的重要任務。自主代理需要一張清晰的周圍地圖，才能導航到目的地，同時避免碰撞。例如，在使用自主移動機器人（ AMR ）運輸物品的倉庫中，避免可能損壞機器人的危險機器已成為一個具有挑戰性的問題。本文介紹了一個 ROS 2 節點，用于使用基于 PointPillars 的 NVIDIA TAO Toolkit 預處理模型檢測點云中的對象。該節點將點云作為真實或模擬激光雷達掃描的輸入，執行 TensorRT 優化推斷以檢測該輸入數據中的對象，并將生成的 3D 邊界框作為每個點云的 Detection3DArray 消息輸出。雖然存在多個 ROS 節點用于從圖像中檢測目標，但從激光雷達輸入執行目標檢測的優點包括：通過使用激光雷達和相機的組合，可以使自主系統更加穩健。這是因為攝像機可以執行激光雷達無法執行的任務，例如檢測標志上的文字。

]]>

5369

NVIDIA Jetson Orin 深度學習加速器入門 http://www.open-lab.net/zh-cn/blog/getting-started-with-the-deep-learning-accelerator-on-nvidia-jetson-orin/ Fri, 29 Jul 2022 06:43:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=4745 Continued]]> 如果你是一個活躍的 Jetson 開發者，你知道 NVIDIA ISAAC 的一個關鍵優點是它將 CPU 和 GPU 組合成一個單一的模塊，在一個可以部署在邊緣的小、低功耗軟件包中為你提供擴展的 NVIDIA 軟件堆棧。 Jetson 還具有多種其他處理器，包括硬件加速編碼器和解碼器、圖像信號處理器和深度學習加速器（ DLA ）。 DLA 可在 Jetson AGX Xavier, Xavier NX, Jetson AGX Orin 和 Jetson Orin-NX 模塊上使用。最近的 NVIDIA DRIVE Xavier 和基于 Orin 的平臺也有 DLA 核心。如果您使用 GPU 進行深度學習執行，請繼續閱讀以了解有關 DLA 的更多信息、為什么它有用以及如何使用它。 DLA 是一種特定于應用的集成電路，能夠有效地執行固定操作，如卷積和池，

]]>

4745

使用 LaunchPad 上的 TAO 工具包體驗人工智能模型創建的簡易性 http://www.open-lab.net/zh-cn/blog/experience-the-ease-of-ai-model-creation-with-the-tao-toolkit-on-launchpad/ Thu, 28 Jul 2022 06:33:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=4736 Continued]]> 從頭開始構建人工智能模型非常困難，需要大量的數據和一支數據科學家隊伍。和 NVIDIA TAO 工具包，您可以使用轉移學習的功能，使用自己的數據微調 NVIDIA 預訓練模型，并優化推理，而無需人工智能專業知識或大型訓練數據集。你現在可以通過 NVIDIA LaunchPad 體驗 TAO 工具包，這是一個免費的程序，提供短期訪問大量動手實驗室的機會。 LaunchPad 幫助開發人員、設計師和 IT 專業人員加快現代數據密集型應用程序的創建和部署。 LaunchPad 是享受和體驗 NVIDIA 硬件和軟件堆棧的變革力量的最佳方式，它們協同工作，為您的 AI 應用程序提供動力。這個 TAO LaunchPad 工具包實驗室擁有體驗微調和部署對象檢測應用程序的端到端過程所需的一切。目標檢測是一種流行的計算機視覺任務，

]]>

4736

使用 NVIDIA ISAAC Sim 和 NVIDIA ISAAC Replicator 縮小 Sim2Real 差距 http://www.open-lab.net/zh-cn/blog/closing-the-sim2real-gap-with-nvidia-isaac-sim-and-nvidia-isaac-replicator/ Wed, 27 Jul 2022 06:17:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=4702 Continued]]> 合成數據是計算機視覺應用中訓練機器學習模型的重要工具。 NVIDIA 的研究人員介紹了一種結構化域隨機化 Omniverse Replicator 中的系統，可以幫助您使用合成數據訓練和優化模型。 Omniverse Replicator 是在 NVIDIA Omniverse 平臺上構建的 SDK ，它使您能夠構建自定義的合成數據生成工具和工作流。 NVIDIA ISAAC Sim 開發團隊使用 Omniverse Replicator SDK 構建 NVIDIA ISAAC Replicator ，這是一個特定于機器人的合成數據生成工具包，在 NVIDIA ISAAC Sim 應用程序中公開。我們探索了在最近的一個項目中使用從合成環境生成的合成數據。 Trimble 計劃部署 Boston Dynamics 的 Spot 在各種室內設置和施工環境中。

]]>

4702

構建計算機視覺應用程序以識別人類活動 http://www.open-lab.net/zh-cn/blog/building-a-computer-vision-application-to-recognize-human-activities/ Tue, 21 Jun 2022 03:49:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=4363 Continued]]> 請于 6 月 22 日加入我們的在 Google Cloud Vertex AI 上使用 NVIDIA AI 構建計算機視覺應用程序在線研討會，我們將逐步引導您使用這些資源構建自己的動作識別應用程序。計算機視覺模型的進步提供了更深入的見解，使我們的生活更加富有成效，我們的社區更加安全，我們的地球更加清潔。例如，目標檢測可以告訴我們患者是在走路還是坐在地板上，但如果患者暈倒了，它卻不能提醒我們，我們離目標檢測還有很長的一段路要走。新的計算機視覺模型通過處理時間信息和預測動作來克服這些類型的挑戰。從頭開始構建這些模型需要人工智能專業知識、大量訓練數據和大量計算能力。幸運的是，轉移學習使您能夠使用這些資源的一小部分構建自定義模型。在本文中，我們將介紹使用 NGC 目錄中的 NVIDIA AI 軟件構建和部署計算機視覺應用程序的每個步驟，

]]>

4363

使用最新的 TAO 工具包簡化 AI 模型開發 http://www.open-lab.net/zh-cn/blog/simplify-ai-model-development-with-the-latest-tao-toolkit-release/ Mon, 06 Jun 2022 07:10:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=4286 Continued]]> 今天， NVIDIA 宣布最新版本的 TAO 工具包 . 作為 NVIDIA Train ， Adapt and Optimize （ TAO ）框架的低代碼版本，該工具包簡化并加速了語音和視覺 AI 應用程序 AI 模型的創建。有了 TAO ，開發人員可以利用遷移學習的力量創建針對許多用例定制和優化的生產就緒模型。這些包括檢測缺陷、翻譯語言或在不需要大量數據的情況下管理流量。該版本通過新的預訓練視覺和語音模型提高了開發人員的生產力。它還包括一些關鍵的新特性，如 ONNX 模型權重導入、 restapi 和 TensorBoard 集成。下載 TAO Toolkit 3.22.05 >> 使用 REST API 部署 TAO 工具包即服務：使用 REST API 構建新的 AI 服務或將其集成到現有的 AI 服務中。

]]>

4286

攜手共進：利用 Lexset 合成數據和 NVIDIA TAO 加速 AI 模型開發 http://www.open-lab.net/zh-cn/blog/better-together-accelerating-ai-model-development-with-lexset-synthetic-data-and-nvidia-tao/ Mon, 23 May 2022 08:20:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=4173 Continued]]> 要開發準確的計算機視覺 AI 應用程序，您需要大量高質量的數據。對于傳統的數據集，您可能需要花費數月的時間來收集圖像、獲取注釋和清理數據。完成后，您可以找到邊緣案例并需要更多數據，從而重新開始循環。多年來，這種循環阻礙了人工智能的發展，尤其是在計算機視覺領域。 Lexset 構建工具，使您能夠生成數據來解決這個瓶頸。作為 AI 培訓周期的一部分，可以開發和迭代具有培訓數據的強大新工作流。 Lexset 的 Seahaven 平臺可以在幾分鐘內生成完全帶注釋的數據集，包括照片級真實感 RGB 圖像、語義分割和深度圖。迭代可以快速有效地提高模型的準確性。尋找異常事件或罕見情況的數據不再需要幾個月的時間。只需快速調整配置并生成新數據，即可使您的模型比以往任何時候都更好。從 Seahaven 生成的合成數據可用于微調和定制 NVIDIA TAO 工具包中的預訓練模型。

]]>

4173

使用 NVIDIA ISAAC Sim 和 NVIDIA TAO 開發和部署人工智能驅動的機器人 http://www.open-lab.net/zh-cn/blog/developing-and-deploying-ai-powered-robots-with-nvidia-isaac-sim-and-nvidia-tao/ Tue, 03 May 2022 09:42:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=3848 Continued]]> 從制造汽車到幫助外科醫生和送披薩，機器人不僅自動化，而且將人類任務的速度提高了許多倍。隨著人工智能的出現，你可以建造更智能的機器人，它們可以更好地感知周圍環境，并在最少的人工干預下做出決策。例如，一個用于倉庫的自動機器人將有效載荷從一個地方移動到另一個地方。它必須感知周圍的自由空間，檢測并避免路徑中的任何障礙，并做出“即時”決定，毫不拖延地選擇新路徑。這就是挑戰所在。這意味著構建一個由人工智能模型支持的應用程序，該模型經過訓練和優化，可以在這種環境下工作。它需要收集大量高質量的數據，并開發一個高度精確的人工智能模型來驅動應用程序。這些是將應用程序從實驗室轉移到生產環境的關鍵障礙。在這篇文章中，我們將展示如何使用 NVIDIA ISAAC 平臺和 TAO 框架解決數據挑戰和模型創建挑戰。你使用 NVIDIA ISAAC Sim ，一個機器人模擬應用程序，

]]>

3848

TAO 工具包加速人工智能模型開發的 3 種方法 http://www.open-lab.net/zh-cn/blog/3-methods-speeding-up-ai-model-development-tao-toolkit-whitepaper/ Wed, 02 Mar 2022 04:07:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=3182 Continued]]> 人工智能應用由模型驅動。深度學習模型建立在數學算法之上，并使用數據和人類專業知識進行訓練。這些模型可以根據圖像、文本或語音等輸入數據準確預測結果。構建、培訓和優化這些任務既關鍵又耗時。開發生產質量模型需要領域專業知識和數不清的計算時間。這與企業必須以多快的速度實施人工智能計劃并縮短上市時間（ TTM ）存在矛盾。幸運的是，有一個解決方案：預先訓練的模型。使用遷移學習，預訓練模型已經在代表性數據集上進行了訓練，并使用權重和偏差進行了微調。與需要大量時間和資源進行訓練的傳統人工智能算法不同，使用預先訓練的模型構建的人工智能解決方案以完全可操作、隨時可用于各種用例的人工智能引擎的形式交付。在大多數情況下，“開箱即用”的預訓練模型可能不適合您的用例，也不能提供您需要的準確性和性能。對于這些實例，您必須修改或自定義預訓練模型以滿足您的用例需求。那么，

]]>

3182

通過 NVIDIA DLI 課程開始學習 NLP 和對話人工智能 http://www.open-lab.net/zh-cn/blog/get-started-on-nlp-and-conversational-ai-with-free-courses-from-nvidia-dli/ Mon, 07 Feb 2022 07:06:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=3009 Continued]]> 在過去的一年里，NVIDIA 宣布了在對話人工智能方面的幾項重大突破，用于構建和部署自動語音識別（ ASR ）、自然語言處理（ NLP ）和文本到語音（ TTS ）應用程序。為了讓開發者在云 GPU 加速環境中快速入門， NVIDIA 深度學習培訓中心（ DLI ）提供了三個快速、免費、自定進度的課程。這些教學性 DLI 課程讓開發者體驗如何使用現代工具快速創建對話式 AI 和 NLP GPU 加速應用程序。學習目標包括：課程完成后，開發者將熟悉：文本分類回答了這個問題：這段文本屬于哪一類？例如，如果你想知道電影評論是正面的還是負面的，你可以使用兩個類別來建立一個情緒分析項目。更進一步，使用幾個類別按主題對句子或文檔進行分類。在這兩個用例中，您都從預先訓練好的語言模型開始，然后使用示例分類文本“訓練”分類器來創建文本分類項目。誠然，

]]>

3009

使用 NVIDIA TAO 更快地創建定制、生產就緒的 AI 模型 http://www.open-lab.net/zh-cn/blog/create-custom-production-ready-ai-models-faster-with-nvidia-tao/ Thu, 02 Dec 2021 06:09:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=2542 Continued]]> 所有 AI 應用程序都由模型提供支持。模型可以幫助發現零件的缺陷，檢測疾病的早期發病，翻譯語言，等等。但為特定用途構建定制模型需要大量數據和一支數據科學家隊伍。 NVIDIA TAO 是一個人工智能模型適應框架，它簡化并加速了人工智能模型的創建。通過微調最先進、經過預訓練的模型，您可以創建定制、生產就緒的計算機視覺和對話 AI 模型。這可以在數小時而不是數月內完成，從而消除了對大型培訓數據或人工智能專業知識的需求。 TAO toolkit 的最新版本現已可供下載。 TAO 工具包是基于 CLI 和 Jupyter 筆記本的 TAO 版本，它匯集了幾個新功能，可幫助您加快模型創建過程。我們還將 TAO 提升到一個新的水平，使創建定制的、生產就緒的模型變得更加容易。 TAO 的圖形用戶界面版本目前正在開發中，它是零代碼模型開發解決方案的縮影。

]]>

2542

人人超碰97caoporen国产