JetPack – NVIDIA 技術博客 http://www.open-lab.net/zh-cn/blog 閱讀開發者創建的最新技術信息、頭條新聞 和內容。 Wed, 22 Jan 2025 06:16:16 +0000 zh-CN hourly 1 196178272 NVIDIA JetPack 6.2 為 NVIDIA Jetson Orin Nano 和 Jetson Orin NX 模塊引入超級模式 http://www.open-lab.net/zh-cn/blog/nvidia-jetpack-6-2-brings-super-mode-to-nvidia-jetson-orin-nano-and-jetson-orin-nx-modules/ Thu, 16 Jan 2025 06:11:18 +0000 http://www.open-lab.net/zh-cn/blog/?p=12690 Continued]]> NVIDIA Jetson Orin Nano 超級開發者套件 的推出為小型邊緣設備開啟了 生成式 AI 的新時代。新的 超級模式 在開發者套件上實現了前所未有的生成式 AI 性能提升，最高可達 1.7 倍，使其成為最經濟實惠的生成式 AI 超級計算機。 JetPack 6.2 現已支持 Jetson Orin Nano 和 Jetson Orin NX 生產模組的超級模式，可將生成式 AI 模型的性能提升高達 2 倍。現在，您可以為新的和現有的機器人和邊緣 AI 應用釋放更多價值并降低總體擁有成本。 本文討論了 Super Mode 的詳細信息，包括新的功率模式、Jetson Orin Nano 和 Orin NX 模組上熱門生成式 AI 模型的基準測試、文檔更新，以及對支持 Super Mode 的 NPN 合作伙伴的見解。 JetPack 6.2…

Source

]]> 12690 NVIDIA Jetson Orin Nano 開發者套件得到“超級”提升 http://www.open-lab.net/zh-cn/blog/nvidia-jetson-orin-nano-developer-kit-gets-a-super-boost/ Tue, 17 Dec 2024 04:52:28 +0000 http://www.open-lab.net/zh-cn/blog/?p=12519 Continued]]> 生成式 AI 格局正在迅速發展，新的 大語言模型 (LLMs)、視覺語言模型 (VLMs) 和視覺語言動作 (VLAs) 模型每天都在涌現。為了在這個變革時代站在前沿，開發者需要一個足夠強大的平臺，通過使用 CUDA 的優化推理和開放 ML 框架，將最新模型從云端無縫部署到邊緣。 為了支持機器人和多模態智能體中生成式 AI 工作負載的新興應用，NVIDIA 正在通過軟件更新來更新 NVIDIA Jetson Orin Nano 開發者套件 ，以 249 美元的驚人新價格將性能提升高達 1.7 倍。為表彰 Jetson Orin Nano 開發者套件在性能和可訪問性方面的出色提升，我們將 Jetson Orin Nano 開發者套件更名為 NVIDIA Jetson Orin Nano Super Developer Kit。 只需更新軟件，

Source

]]> 12519 NVIDIA JetPack 6.1 通過攝像頭堆棧優化和固件 TPM 實現性能和安全性提升 http://www.open-lab.net/zh-cn/blog/nvidia-jetpack-6-1-boosts-performance-and-security-through-camera-stack-optimizations-and-introduction-of-firmware-tpm/ Thu, 21 Nov 2024 08:15:33 +0000 http://www.open-lab.net/zh-cn/blog/?p=12169 Continued]]> NVIDIA JetPack 不斷演進，為滿足 邊緣 AI 和機器人開發者 的不斷增長需求提供最新的軟件。每個版本中，JetPack 都會增強性能，引入新功能，并優化現有工具，為用戶提供更大的價值。這意味著，您現有的基于 Jetson Orin 的產品可以通過升級到最新版本的 JetPack 體驗到性能優化。 JetPack 6 于 2023 年第三季度發布，標志著這一進程中的一個重要里程碑。它引入了強大的功能，如 自帶內核 （Bring Your Own Kernel），提供了靈活性，可以引入任何 LTS Linux 內核，并擴展了對更廣泛的 Linux 發行版的支持，為不同的開發環境提供了更大的靈活性。 它采用模塊化設計，無需升級 Jetson Linux ，即可輕松升級到最新的 JetPack 計算堆棧。伴隨這些進步，性能改進（包括增強的硬件加速）可確保…

Source

]]> 12169 為邊緣開發生成式 AI 驅動的視覺 AI 代理 http://www.open-lab.net/zh-cn/blog/develop-generative-ai-powered-visual-ai-agents-for-the-edge/ Wed, 17 Jul 2024 05:04:23 +0000 http://www.open-lab.net/zh-cn/blog/?p=10648 Continued]]> AI 技術領域的一項令人興奮的突破是視覺語言模型（VLM），它為視頻分析提供了一種更動態、更靈活的方法。VLM 使用戶能夠使用自然語言與圖像和視頻輸入進行交互，使技術更具可訪問性和適應性。這些模型可以在 NVIDIA Jetson Orin 邊緣 AI 平臺上運行，也可以通過 NIM 在獨立的 GPU 上運行。本文將探討如何構建基于 VLM 的視覺 AI 代理，以便從邊緣到云端運行。 視覺 AI 智能體由 VLM 提供支持，在其中您可以使用自然語言提出各種問題，并在錄制或直播視頻中獲得反映真實意圖和上下文的見解。這些智能體可以通過易于使用的 REST API 進行交互，并與其他服務甚至移動應用集成。新一代視覺 AI 智能體具有多種功能，包括總結場景、創建各種警報，以及使用自然語言從視頻中提取可行見解。 NVIDIA Metropolis 帶來了視覺 AI 代理工作流，

Source

]]> 10648 使用 YOLOv8 和 NVIDIA JetPack 6.0 生成交通洞察 http://www.open-lab.net/zh-cn/blog/generate-traffic-insights-using-yolov8-and-nvidia-jetpack-6-0/ Tue, 18 Jun 2024 07:57:57 +0000 http://www.open-lab.net/zh-cn/blog/?p=10447 Continued]]> 智能交通系統（ITS）的應用在現代城市環境中變得越來越有價值和普遍。使用 ITS 應用程序的好處包括： 重要的是，這些系統需要在邊緣處理信息，以獲得可靠的帶寬、隱私、實時分析等。 這篇文章解釋了如何使用 NVIDIA JetPack 6.0 的新Jetson 平臺服務來實現邊緣的端到端流量分析解決方案，該系統包括使用NVIDIA JetPack 6.0的視頻存儲工具包（VST）服務的視頻攝取和存儲、使用 YOLOv8 和 DeepStream AI Perception 服務的實時物體檢測和車輛跟蹤，以及車輛運動的時空分析，一旦創建了管道，就使用 API 來生成分析。 使用 Jetson 平臺服務和 NVIDIA Jetpack 構建和部署人工智能應用程序可提供以下好處： 要了解最新 JetPack SDK 的更多功能信息，

Source

]]> 10447 借助 NVIDIA JetPack 6.0 助力邊緣云原生微服務，現已正式發布 http://www.open-lab.net/zh-cn/blog/power-cloud-native-microservices-at-the-edge-with-nvidia-jetpack-6-0-now-ga/ Tue, 04 Jun 2024 07:34:51 +0000 http://www.open-lab.net/zh-cn/blog/?p=10204 Continued]]> NVIDIA JetPack SDK 為 NVIDIA Jetson 模組提供支持，為構建端到端加速的人工智能應用提供全面的解決方案。JetPack 6 通過微服務和一系列新功能擴展了 Jetson 平臺的靈活性和可擴展性。這是 JetPack 2024 年下載次數最多的版本。 隨著 JetPack 6.0 正式發布，開發者可以滿懷信心地將這些新功能引入更先進的嵌入式 AI 和機器人應用。本文重點介紹了主要功能和新的 AI 工作流程。 JetPack 6 支持在 Jetson 上擴展一系列基于 Linux 的發行版。其中包括 Canonical 的 Ubuntu 服務器、Redhat 的 RHEL 9.4、SUSE、Wind River Linux、Redhawk Real Time OS 以及各種基于 Yocto 的發行版。這些基于 Linux 的發行版在 Jetson…

Source

]]> 10204 借助 NVIDIA Jetson 優化功耗 http://www.open-lab.net/zh-cn/blog/power-optimization-with-nvidia-jetson/ Thu, 05 Oct 2023 04:20:34 +0000 http://www.open-lab.net/zh-cn/blog/?p=7948 Continued]]> 在使用嵌入式系統時，Jetson modules 是非常重要的。此外，您必須根據功耗預算和計算資源來優化應用程序。為了避免性能甚至是熱調節問題，監控這些資源變得非常重要。 Jetson 模組采用 GPU、CPU 和各種 AI 加速器設計，還具有高效電源管理集成電路 (PMIC)、電壓調節器和功率樹，可優化能效。 NVIDIA 提供多種工具和資源，可幫助您利用功率架構并優化資源使用： 每個 Jetson 模塊都支持多個預配置功率模式，這些模式針對特定功率預算進行了優化：10 瓦、15 瓦、30 瓦等。對于每個功率預算，在資源利用率方面都有各種可能的配置。 這些電源模式設置為 nvpmodel。您可以選擇使用其中一種預配置模式，也可以創建根據您的要求調整的自定義功率模式。nvpmodel 配置支持一定數量的在線 GPU TPC、CPU、DLA 和 PVA 核心，

Source

]]> 7948 使用 NVIDIA SDK Manager 自定義您自己的載波板 http://www.open-lab.net/zh-cn/blog/customize-your-own-carrier-board-with-nvidia-sdk-manager/ Thu, 13 Jul 2023 06:13:12 +0000 http://www.open-lab.net/zh-cn/blog/?p=7456 Continued]]> NVIDIA SDK Manager 是在 NVIDIA Jetson 開發工具包上安裝 NVIDIA JetPack SDK 的入門工具。它提供了一種有指導的簡單方法，可以在幾分鐘內安裝開發環境并開始使用開發工具包。 SDK Manager 處理組件之間的依賴關系，并在每次 JetPack 發布時為 NVIDIA Jetson 帶來最新軟件。 此前，SDK Manager 提供的這種無縫安裝體驗僅限于 NVIDIA 開發工具包。我們正在擴大對 Jetson 社區的支持，為了在 Jetson 合作伙伴產品和定制載板之間創造同樣的無縫體驗，我們正在使 Jetson 生態系統合作伙伴和客戶能夠將對其基于 Jetson 的載板的支持集成到 NVIDIA SDK Manager 中。此更新還允許用戶自定義 JetPack 安裝。

Source

]]> 7456 使用 NVIDIA Jetson Orin Nano 開發套件開發人工智能機器人、智能視覺系統等 http://www.open-lab.net/zh-cn/blog/develop-ai-powered-robots-smart-vision-systems-and-more-with-nvidia-jetson-orin-nano-developer-kit/ Tue, 21 Mar 2023 08:47:51 +0000 http://www.open-lab.net/zh-cn/blog/?p=6567 Continued]]> NVIDIA Jetson Orin Nano Developer Kit 為創建入門級人工智能機器人、智能無人機和智能視覺系統設定了一個新標準，如 NVIDIA announced 和 NVIDIA GTC 2023 。它還簡化了 NVIDIA Jetson Orin Nano 系列的入門。緊湊的設計、眾多的連接器和高達 40 項人工智能性能，使這款開發套件成為將您富有遠見的概念轉化為現實的理想選擇。 該開發套件由一個 Jetson Orin Nano 8GB模塊和一個參考承載板組成，該承載板可容納所有 NVIDIA Jetson Orin Nano-和 NVIDIA ZVK4]Orin NX模塊，為下一代邊緣人工智能產品的原型設計提供了理想的平臺。 Jetson Orin Nano 8 GB 模塊采用 NVIDIA Ampere architecture GPU ，

Source

]]> 6567 簡化 NVIDIA Jetson 用戶的 CUDA 升級 http://www.open-lab.net/zh-cn/blog/simplifying-cuda-upgrades-for-nvidia-jetson-users-2/ Tue, 04 Oct 2022 09:28:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=5614 Continued]]> NVIDIA JetPack 為 Jetson 平臺邊緣的硬件加速 AI 提供了一個完整的開發環境。以前， NVIDIA JetPack 的獨立版本支持單一版本的 CUDA ，您無法在給定的 NVIDIA JetPack 版本上升級 CUDA 。 NVIDIA JetPack 以滾動步調發布，使用單一版本的 CUDA ，通常在每個主要發布周期中都受支持（例如， NVIDIA JetPack 4.x 或 NVIDIA JetPack 5.x ）。 從 CUDA Toolkit 11.8 開始， NVIDIA JetPack 5.0 和更高版本上的 Jetson 用戶可以升級到最新的 CUDA 版本，而無需更新 NVIDIA JetPack 版本或 Jetson Linux BSP （ Board Support Package ）。您可以與 CUDA 桌面版本保持一致。

Source

]]> 5614 簡化 NVIDIA Jetson 用戶的 CUDA 升級 http://www.open-lab.net/zh-cn/blog/simplifying-cuda-upgrades-for-nvidia-jetson-users/ Tue, 04 Oct 2022 07:28:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=5351 Continued]]> NVIDIA JetPack 為 Jetson 平臺邊緣的硬件加速 AI 提供了一個完整的開發環境。以前， NVIDIA JetPack 的獨立版本支持單一版本的 CUDA ，您無法在給定的 NVIDIA JetPack 版本上升級 CUDA 。 NVIDIA JetPack 以滾動步調發布，使用單一版本的 CUDA ，通常在每個主要發布周期中都受支持（例如， NVIDIA JetPack 4.x 或 NVIDIA JetPack 5.x ）。 從 CUDA Toolkit 11.8 開始， NVIDIA JetPack 5.0 和更高版本上的 Jetson 用戶可以升級到最新的 CUDA 版本，而無需更新 NVIDIA JetPack 版本或 Jetson Linux BSP （ Board Support Package ）。您可以與 CUDA 桌面版本保持一致。

Source

]]> 5351 利用一個開發工具包的強大功能為所有六個 NVIDIA Jetson Orin 模塊開發 http://www.open-lab.net/zh-cn/blog/develop-for-all-six-nvidia-jetson-orin-modules-with-the-power-of-one-developer-kit/ Thu, 22 Sep 2022 07:51:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=5177 Continued]]> 隨著本周在 GTC 的 Jetson Orin Nano 發表 推出，整個 Jetson Orin 模塊陣容現已揭曉。 Orin Nano 模塊擁有多達 40 個 AI 性能 TOPS ，為入門級 AI 設定了新標準，正如 Jetson AGX Orin 已經通過 275 個服務器級計算 TOPS 重新定義了機器人和其他自主邊緣用例一樣。 所有 Jetson Orin 模塊和 Jetson AGX Orin Developer Kit 基于單個 SoC 架構，帶有 NVIDIA 安培架構 GPU 、高性能 CPU 和最新加速器。這種共享架構意味著您可以為一個 Jetson Orin 模塊開發軟件，然后輕松地將其部署到任何其他模塊。 您可以使用 Jetson AGX Orin 開發工具包立即開始開發任何 Jetson Orin 模塊。

Source

]]> 5177 用 NVIDIA Jetson Xavier NX 構建四節點集群 http://www.open-lab.net/zh-cn/blog/building-a-four-node-cluster-with-nvidia-jetson-xavier-nx/ Fri, 01 Jul 2022 07:33:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=4521 Continued]]> 跟隨大型超級計算機（如 NVIDIA DGX SuperPOD ）的腳步，本文將引導您完成創建適合您桌面的小型集群的過程。以下是完成該項目的推薦硬件和軟件。該小規模集群可用于加速人工智能（ AI ）和深度學習（ DL ）工作流的訓練和推理，包括使用來自 NVIDIA NGC 目錄等來源的容器化環境。 硬件: 雖然 Seeed Studio Jetson Mate 、 USB-C PD 電源和 USB-C 電纜不是必需的，但在本文中使用了它們，強烈建議將其用于整潔緊湊的桌面集群解決方案。 軟件: 有關更多信息，請參閱 NVIDIA Jetson Xavier NX 開發工具包 . 本文的第一次迭代針對 Slurm 控制節點（）。配置第一個節點后，可以選擇為每個模塊重復每個步驟，也可以為其他模塊克隆第一個 microSD 卡；

Source

]]> 4521 最大限度地減少 Jetson 上的存儲使用 http://www.open-lab.net/zh-cn/blog/minimizing-storage-usage-on-jetson/ Sat, 11 Jun 2022 01:39:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=4300 Continued]]> NVIDIA Jetson 為開發提供了靈活的存儲選項/配置，但一些 Jetson 模塊配備了有限的 eMMC 閃存存儲大小，以實現更具成本意識的大規模產品部署。 起初，在有限的存儲空間中似乎不可能安裝您的應用程序和必要的庫，尤其是使用全套 NVIIA JetPack 、 BSP 以及 NVIDIA 為 Jetson 預先打包的所有開發軟件。 但是，您可以通過刪除不必要的包、庫和其他資產來減少磁盤使用量。表 2 顯示了如何在一些最新的 NVIDIA JetPack 版本上回收超過 8 GB 的存儲空間。 在這篇文章中，我將介紹簡化的步驟，以最大限度地減少 Jetson 設備上的磁盤使用，同時分享有關分析磁盤使用情況的方法、實際命令以及 JetPack 不同版本上的示例輸出的提示。我還展示了如何檢查 AI 應用程序在精簡配置下是否仍能正常工作。

Source

]]> 4300 使用 NVIDIA Jetson Orin 在邊緣提供服務器級性能 http://www.open-lab.net/zh-cn/blog/delivering-server-class-performance-at-the-edge-with-nvidia-jetson-orin/ Fri, 08 Apr 2022 09:09:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=3676 Continued]]> 人工智能驅動的機器人和其他自動機器的開發和部署速度繼續快速增長。下一代應用程序需要大幅提高 AI 計算性能，以實時處理并發運行的多模式 AI 應用程序。 在零售空間、食品配送、醫院、倉庫、工廠地板和其他商業應用中，人機交互越來越多。這些自主機器人必須同時執行 3D 感知、自然語言理解、路徑規劃、避障、姿勢估計，以及許多其他操作，這些操作需要顯著的計算性能和高精度的訓練神經模型。 NVIDIA Jetson AGX ORIN 模塊是 NVIDIA Jetson 家族中表現最高和最新成員。這些模塊提供了卓越的性能和一流的能效。他們運行全面的 NVIDIA 人工智能軟件棧，為下一代要求苛刻的邊緣人工智能應用提供動力。 在 GTC 2022 年春季 ，我們宣布四個 Jetson Orin 模塊將于 2022 年第 4 季度上市。

Source

]]> 3676 人人超碰97caoporen国产