Chintan Shah – NVIDIA 技術博客 http://www.open-lab.net/zh-cn/blog 閱讀開發者創建的最新技術信息、頭條新聞 和內容。 Thu, 12 Dec 2024 04:07:33 +0000 zh-CN hourly 1 196178272 NVIDIA TAO 5.5 帶來新基礎模型和增強訓練功能 http://www.open-lab.net/zh-cn/blog/new-foundational-models-and-training-capabilities-with-nvidia-tao-5-5/ Wed, 28 Aug 2024 06:23:45 +0000 http://www.open-lab.net/zh-cn/blog/?p=11078 Continued]]> NVIDIA TAO 是一個旨在簡化和加速 AI 模型開發和部署的框架。它使您能夠使用預訓練模型，使用自己的數據微調模型，并針對特定用例優化模型，而無需深入的 AI 專業知識。 TAO 與 NVIDIA 硬件和軟件生態系統無縫集成，提供用于高效 AI 模型訓練、部署和推理的工具，并加速 AI 驅動應用程序的上市時間。 圖 1 顯示 TAO 支持 PyTorch、TensorFlow 和 ONNX 等框架。訓練可以在多個平臺上完成，而生成的模型可以部署在 GPU、CPU、MCU 和 DLA 等各種推理平臺上。 NVIDIA 剛剛發布了 TAO 5.5，引入了先進的基礎模型和突破性功能，可增強任何 AI 模型開發。新的功能包括以下內容： 在本文中，我們將更詳細地討論 TAO 5.5 的新功能。 NVIDIA TAO 集成了開源、基礎和專有模型，

Source

]]> 11078 借助 NVIDIA JetPack 6.0 助力邊緣云原生微服務，現已正式發布 http://www.open-lab.net/zh-cn/blog/power-cloud-native-microservices-at-the-edge-with-nvidia-jetpack-6-0-now-ga/ Tue, 04 Jun 2024 07:34:51 +0000 http://www.open-lab.net/zh-cn/blog/?p=10204 Continued]]> NVIDIA JetPack SDK 為 NVIDIA Jetson 模組提供支持，為構建端到端加速的人工智能應用提供全面的解決方案。JetPack 6 通過微服務和一系列新功能擴展了 Jetson 平臺的靈活性和可擴展性。這是 JetPack 2024 年下載次數最多的版本。 隨著 JetPack 6.0 正式發布，開發者可以滿懷信心地將這些新功能引入更先進的嵌入式 AI 和機器人應用。本文重點介紹了主要功能和新的 AI 工作流程。 JetPack 6 支持在 Jetson 上擴展一系列基于 Linux 的發行版。其中包括 Canonical 的 Ubuntu 服務器、Redhat 的 RHEL 9.4、SUSE、Wind River Linux、Redhawk Real Time OS 以及各種基于 Yocto 的發行版。這些基于 Linux 的發行版在 Jetson…

Source

]]> 10204 宣布推出適用于 Jetson 的 NVIDIA Metropolis 微服務，助力 Rapid Edge AI 開發 http://www.open-lab.net/zh-cn/blog/announcing-metropolis-microservices-on-nvidia-jetson-orin-for-rapid-edge-ai-development/ Tue, 23 Jan 2024 08:10:37 +0000 http://www.open-lab.net/zh-cn/blog/?p=8818 Continued]]> 為邊緣構建視覺 AI 應用通常需要漫長且昂貴的開發周期。與此同時，快速開發原生云、靈活且安全的邊緣 AI 應用比以往任何時候都更加重要。現在，新的 NVIDIA Metropolis 微服務可提供強大而簡單的 API 驅動的邊緣 AI 開發工作流。 NVIDIA Metropolis 微服務 是一套可定制的云原生構建塊，用于開發視覺 AI 應用和解決方案。此版本在 NVIDIA Jetson 平臺上可進一步加速邊緣視覺 AI 應用的開發和部署。 這些新的 Jetson 微服務使開發者能夠實現 AI 應用程序堆棧的現代化，簡化流程，并為未來的應用程序提供保護。您可以輕松地將最新的 生成式 AI 進展集成到您的應用程序中，這些進展是通過 API 和微服務實現的，例如視頻存儲和管理、預構建的 AI 感知流程、跟蹤算法、系統監控、用于安全邊緣到云連接的物聯網服務等。

Source

]]> 8818 自定義 AI 模型：使用 NVIDIA Triton 部署字符檢測和識別模型 http://www.open-lab.net/zh-cn/blog/create-custom-character-detection-and-recognition-models-with-nvidia-tao-part-2/ Tue, 15 Aug 2023 04:50:58 +0000 http://www.open-lab.net/zh-cn/blog/?p=7599 Continued]]> NVIDIA Triton Inference Server 通過使團隊能夠在任何基于 GPU 或 CPU 的基礎設施上部署、運行和擴展經過訓練的 ML 或 DL 模型，簡化和標準化 AI 推理。它幫助開發人員在云端、本地、邊緣和嵌入式設備上提供高性能推理。 nvOCDR 庫已集成到 Triton 中進行推理。nvOCDR 庫封裝了用于光學字符檢測和識別（OCD/OCR）的整個推理管道。該庫使用在 TAO Toolkit 上訓練的 OCDNet 和 OCRNet 模型。想要了解更多詳細信息，請參閱 nvOCDR 文檔。 本文是關于使用 NVIDIA TAO 和預訓練模型創建和部署自定義 AI 模型以準確檢測和識別手寫文本的系列文章的一部分。第一部分 解釋了如何使用 TAO 對字符檢測和識別模型進行訓練和微調。本部分將引導您完成使用 NVIDIA Triton 部署模型的步驟。

Source

]]> 7599 自定義 AI 模型：使用 NVIDIA TAO 訓練字符檢測和識別模型 http://www.open-lab.net/zh-cn/blog/create-custom-character-detection-and-recognition-models-with-nvidia-tao-part-1/ Tue, 15 Aug 2023 04:44:58 +0000 http://www.open-lab.net/zh-cn/blog/?p=7596 Continued]]> 光學字符檢測（OCD）和光學字符識別（OCR）是用于從圖像中提取文本的計算機視覺技術。不同行業的使用情況各不相同，包括從掃描的文檔或帶有手寫文本的表格中提取數據、自動識別車牌、根據序列號對履行中心中的箱子或物體進行分類、根據零件號識別組裝線上要檢查的部件等。 OCR 應用于許多行業，包括金融服務、醫療保健、物流、工業檢測和智能城市。OCR 通過自動化手動任務，提高了企業的生產效率和運營效率。 為了有效，OCR 必須達到或超過人類水平的準確性。由于它所涉及的獨特用例，它本身就很復雜。例如，當 OCR 分析文本時，文本可以在字體、大小、顏色、形狀和方向上變化，可以是手寫的，也可以具有其他噪聲，如部分遮擋。在測試環境中微調模型對于保持高精度和降低錯誤率變得極其重要。 NVIDIA TAO 工具包 是一個低代碼人工智能工具包，

Source

]]> 7596 使用 Vision Transformers 和 NVIDIA TAO 提高視覺 AI 應用程序的準確性和穩健性 http://www.open-lab.net/zh-cn/blog/access-the-latest-in-vision-ai-model-development-workflows-with-nvidia-tao-toolkit-5-0-2/ Tue, 25 Jul 2023 03:27:05 +0000 http://www.open-lab.net/zh-cn/blog/?p=7504 Continued]]> 視覺轉換器（ ViT ）正在掀起計算機視覺的風暴，為具有挑戰性的現實世界場景提供了令人難以置信的準確性、強大的解決方案，并提高了可推廣性。這些算法在提升計算機視覺應用程序方面發揮著關鍵作用， NVIDIA 使用 NVIDIA TAO Toolkit 和 NVIDIA L4 GPU 可以輕松地將 ViT 集成到您的應用程序中。 ViT 是一種機器學習模型，它將最初為自然語言處理設計的 transformer 架構應用于視覺數據。與基于 CNN 的同類產品相比，它們有幾個優勢，并且能夠對大規模輸入進行并行處理。雖然 CNNs 使用的本地操作缺乏對圖像的全局理解，但 ViT 提供了長期依賴性和全局上下文。他們通過以并行和基于自我關注的方式處理圖像，實現所有圖像補丁之間的交互，從而有效地做到了這一點。 圖 1 顯示了 ViT 模型中圖像的處理，

Source

]]> 7504 使用 NVIDIA TAO Toolkit 5.0 訪問最新的視覺 AI 模型開發工作流 http://www.open-lab.net/zh-cn/blog/access-the-latest-in-vision-ai-model-development-workflows-with-nvidia-tao-toolkit-5-0/ Tue, 21 Mar 2023 07:20:06 +0000 http://www.open-lab.net/zh-cn/blog/?p=6558 Continued]]> NVIDIA TAO Toolkit 提供了一個低代碼人工智能框架，用于加速視覺人工智能模型開發，適用于從新手到專家數據科學家的所有技能水平。借助 NVIDIA TAO （訓練、適應、優化）工具包，開發人員可以利用遷移學習的力量和效率，通過適應和優化，在創紀錄的時間內實現最先進的精度和生產級吞吐量。 在 NVIDIA GTC 2023 上， NVIDIA 發布了 NVIDIA TAO Toolkit5.0 ，帶來了突破性的功能來增強任何人工智能模型的開發。新功能包括開源架構、基于 transformer 的預訓練模型、人工智能輔助的數據注釋，以及在任何平臺上部署模型的能力。 NVIDIA TAO Toolkit 5.0 支持 ONNX 中的模型導出。這使得在邊緣或云中的任何計算平臺 GPU 、 CPU 、 MCU 、 DLA 、

Source

]]> 6558 使用 NVIDIA TAO 工具包和 Azure 機器學習創建自定義 AI 模型 http://www.open-lab.net/zh-cn/blog/creating-custom-ai-models-using-nvidia-tao-toolkit-with-azure-machine-learning/ Tue, 13 Dec 2022 06:33:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=5946 Continued]]> 目前，人工智能應用程序的構建和部署方式正在發生根本性轉變。人工智能應用越來越復雜，并應用于更廣泛的用例。這需要端到端的人工智能生命周期管理，從數據準備到模型開發和培訓，再到人工智能應用程序的部署和管理。這種方法可以降低前期成本，提高可擴展性，并降低客戶使用 AI 應用程序的風險。 雖然云原生的應用程序開發方法對開發人員很有吸引力，但機器學習（ ML ）項目是出了名的時間密集型和成本密集型項目，因為它們需要一個擁有多種技能的團隊來構建和維護。 這篇文章解釋了如何使用 NVIDIA TAO Toolkit 加速視覺 AI 模型開發，并將其部署到 NVIDIA Triton Inference Server 中進行推理，所有這些都在 Azure 機器學習（ Azure ML ）平臺上。 NVIDIA Triton 推理服務器是一款開源推理服務軟件，

Source

]]> 5946 像 AI 專家 一樣使用 NVIDIA TAO AutoML 進行訓練 http://www.open-lab.net/zh-cn/blog/training-like-an-ai-pro-using-tao-automl/ Tue, 13 Dec 2022 06:25:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=5940 Continued]]> 這些年來，人工智能有了巨大的增長。隨之而來的是對人工智能模型和應用程序的更大需求。創造高質量的人工智能需要人工智能和數據科學方面的專業知識，對許多開發人員來說，這仍然是一種威脅。 為了開發準確的人工智能，您必須選擇要使用的模型架構、要收集的數據，以及最后如何調整模型以滿足期望的 KPI 。有成千上萬的模型架構和超參數組合，您必須嘗試為您的特定用例獲得最佳模型。這個過程非常費力，需要模型架構專業知識來調整超參數。 自動機器學習（ AutoML ）自動執行手動任務，為所需 KPI 找到最佳模型和超參數。它可以從算法上為給定的 KPI 導出最佳模型，并抽象出 AI 模型創建和優化的許多復雜性。 AutoML 使得即使是新手開發人員也很容易創建高度精確的 AI 模型。 TAO 中的 AutoML 完全可配置，用于自動優化模型的超參數，這減少了手動調整的需要。

Source

]]> 5940 使用 NVIDIA TAO 和 NVIDIA DeepStream開發和部署您的自定義動作識別應用程序，而無需任何人工智能專業知識 http://www.open-lab.net/zh-cn/blog/developing-and-deploying-your-custom-action-recognition-application-without-any-ai-expertise-using-tao-and-deepstream/ Thu, 02 Dec 2021 06:08:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=2536 Continued]]> 作為人類，我們每天都在不停地移動，做一些動作，比如走路、跑步和坐著。這些行為是我們日常生活的自然延伸。構建能夠捕獲這些特定動作的應用程序在體育分析領域、醫療保健領域、零售領域以及其他領域都非常有價值。 然而，構建和部署能夠理解人類行為的時間信息的人工智能應用程序既具有挑戰性又耗時，需要大量培訓和深入的人工智能專業知識。 在這篇文章中，我們將展示如何快速跟蹤 AI 應用程序的開發，方法是采用預訓練的動作識別模型，使用 NVIDIA TAO Toolkit 自定義數據和類對其進行微調，并通過 NVIDIA DeepStream 部署它進行推理，而無需任何 AI 專業知識。 要識別一個動作，網絡不僅要查看單個靜態幀，還要查看多個連續幀。這提供了理解操作的時間上下文。這是與分類或目標檢測模型相比的額外時間維度，其中網絡僅查看單個靜態幀。

Source

]]> 2536 用 NVIDIA 遷移學習工具箱訓練和優化二維姿態估計模型，第 2 部分 http://www.open-lab.net/zh-cn/blog/training-optimizing-2d-pose-estimation-model-with-tlt-part-2/ Thu, 10 Jun 2021 07:34:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=695 Continued]]> 本系列的第一篇文章介紹了在 NVIDIA 遷移學習工具箱中使用開源 COCO 數據集和 BodyPoseNet 應用程序的 如何訓練二維姿態估計模型 。 在本文中，您將學習如何在 NVIDIA 遷移學習工具箱中優化姿勢估計模型。它將引導您完成模型修剪和 INT8 量化的步驟，以優化用于推理的模型。 本節介紹模型優化和導出的幾個主題： BodyPoseNet 支持模型修剪以刪除不必要的連接，從而將參數數量減少一個數量級。這將產生一個優化的模型體系結構。 要修剪模型，請使用以下命令： 通常，您只需調整 （閾值）以進行精度和模型大小的權衡。對于一些內部研究，我們注意到 值介于[0 . 05 ， 3 . 0]之間是 BodyPoseNet 模型的良好起點。 在模型被刪減之后，由于一些以前有用的權值可能已經被刪除，因此 MIG 的精度可能會略有下降。

Source

]]> 695 用 NVIDIA 遷移學習工具箱訓練和優化二維姿態估計模型，第 1 部分 http://www.open-lab.net/zh-cn/blog/training-optimizing-2d-pose-estimation-model-with-tlt-part-1/ Thu, 10 Jun 2021 06:55:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=704 Continued]]> 人體姿態估計是一種流行的計算機視覺任務，用于估計人體上的關鍵點，如眼睛、手臂和腿部。這有助于對一個人的行為進行分類，如站立、坐下、走路、躺下、跳躍等。 了解一個人在一個場景中所做的事情的背景在許多行業都有廣泛的應用。在零售環境中，這些信息可用于了解客戶行為、增強安全性和提供更豐富的分析。在醫療保健領域，這可以用來監測病人，并在病人需要立即治療時提醒醫務人員。在工廠里，人體姿勢可以用來識別是否遵循了正確的安全協議。 一般來說，在需要了解人類活動的應用程序中，這是一種可靠的方法，通常用作更復雜任務（如手勢、跟蹤、異常檢測等）的關鍵組件之一。 存在開發姿態估計的開源方法，但在推理性能方面不是最優的，并且集成到生產應用程序中非常耗時。通過這篇文章，我們將向您展示如何開發和部署姿勢估計模型，這些模型易于跨設備配置文件使用，性能非常好，并且非常精確。

Source

]]> 704 使用 NVIDIA DeepStream 5.0 構建智能視頻分析應用程序（已為 GA 更新） http://www.open-lab.net/zh-cn/blog/building-iva-apps-using-deepstream-5-0-updated-for-ga/ Sat, 01 Aug 2020 07:01:59 +0000 http://www.open-lab.net/zh-cn/blog/?p=388 Continued]]> 無論是希望平衡產品分布和優化交通的倉庫，工廠裝配線檢查，還是醫院管理，確保員工和護理人員在護理患者時使用個人防護設備（ PPE ），高級智能視頻分析（ IVA ）都非常有用。 在基礎層，全球各地的城市、體育場館、工廠和醫院部署了數十億臺攝像頭和物聯網傳感器，每天產生數 PB 的數據。隨著數據爆炸，使用人工智能來簡化和執行有效的 IVA 是非常必要的。 許多公司和開發人員都在努力構建可管理的 IVA 管道，因為這些工作需要人工智能專業知識、高效的硬件、可靠的軟件和廣泛的資源來大規模部署。 NVIDIA 構建了 DeepStream 軟件開發工具包 來消除這些障礙，并使每個人都能夠輕松高效地創建基于人工智能的 GPU 加速應用程序，用于視頻分析。 DeepStream SDK 是一個可擴展的框架，用于為 edge 構建高性能、可管理的 IVA 應用程序。

Source

]]> 388 人人超碰97caoporen国产