• <xmp id="om0om">
  • <table id="om0om"><noscript id="om0om"></noscript></table>
  • 3 月 19 日下午 2 點,鎖定 NVIDIA AI 網絡中文專場。立即注冊觀看
    計算機視覺/視頻分析

    宣布推出適用于 Jetson 的 NVIDIA Metropolis 微服務,助力 Rapid Edge AI 開發

    ?

    為邊緣構建視覺 AI 應用通常需要漫長且昂貴的開發周期。與此同時,快速開發原生云、靈活且安全的邊緣 AI 應用比以往任何時候都更加重要。現在,新的 NVIDIA Metropolis 微服務可提供強大而簡單的 API 驅動的邊緣 AI 開發工作流。

    NVIDIA Metropolis 微服務 是一套可定制的云原生構建塊,用于開發視覺 AI 應用和解決方案。此版本在 NVIDIA Jetson 平臺上可進一步加速邊緣視覺 AI 應用的開發和部署。

    這些新的 Jetson 微服務使開發者能夠實現 AI 應用程序堆棧的現代化,簡化流程,并為未來的應用程序提供保護。您可以輕松地將最新的 生成式 AI 進展集成到您的應用程序中,這些進展是通過 API 和微服務實現的,例如視頻存儲和管理、預構建的 AI 感知流程、跟蹤算法、系統監控、用于安全邊緣到云連接的物聯網服務等。

    此處下載適用于 Jetson 的 NVIDIA Metropolis 微服務 。

    A graphic that compares using a do-it-yourself approach, where developers have to create all the pieces from scratch, and using prebuilt NVIDIA Metropolis microservices, which reduce development time from years to months.
    圖 1.借助 NVIDIA Metropolis 微服務更快地開發邊緣 AI 應用

    版本亮點

    生產就緒型邊緣 AI 應用需要眾多組件,包括 AI 模型、優化的處理和推理流程、膠水邏輯、安全措施、云連接等。適用于 Jetson 的 NVIDIA Metropolis 微服務使用云原生、模塊化和可擴展的架構為最常見的組件提供預構建微服務,從而簡化應用開發流程。

    該平臺的靈活性提高了開發效率,標準 API 與其他應用和服務無縫集成。該平臺還提供物聯網、安全和監控等基本服務,為生產應用提供即用型核心組件。

    通過訪問應用程序、平臺服務和云服務中的超過 15 種微服務,開發者可以專注于構建知識產權并在市場中實現差異化。

    NVIDIA 合作伙伴正在將 NVIDIA Metropolis 微服務集成到他們的產品中,包括 AAEONAetinaAdvantechAllxonCRGCVEDIANamlaRebotnixRidgeRunSeeed Studio,以及 Silicon Highway。每天都會有更多內容加入。

    參考工作流程和應用程序

    包含兩個參考應用,可幫助您開始使用適用于 Jetson 的 NVIDIA Metropolis 微服務:支持 AI 的網絡錄像機 (AI-NVR) 和具有零樣本檢測功能的生成式 AI 應用。這些工作流程展示了微服務和 API 如何結合在一起,構建完整的應用,包括視頻提取、AI 推理、分析和監控,以及安全連接到云。

    支持 AI 的網絡錄像機

    AI-NVR 參考工作流將幾乎所有的微服務整合到一個綜合應用中。其中包括:

    • 使用 Video Storage Toolkit (VST) 微服務提取和存儲視頻
    • 利用 AI 感知服務進行人員檢測和追蹤,如 NVIDIA DeepStream
    • 使用分析服務的線交叉和興趣區域 (ROI) 見解和警報

    我們提供了 Android 參考移動應用,用于演示如何使用 API 構建客戶端應用。如需了解更多信息,請查看 NVIDIA On-Demand 播放列表,使用 Metropolis 微服務實現 Jetson 的 AI-NVR

    Graphic showing the complete cloud-native architecture of AI-NVR application showing VST, AI perception service, analytics service, and all the other platform services.
    圖 2.支持 AI 的網絡錄像機 (AI-NVR) 應用架構

    使用生成式 AI 的零樣本檢測

    適用于 Jetson 的 Metropolis 微服務使開發者能夠針對邊緣對生成式 AI 應用進行原型設計和產品化。生成式 AI 參考應用支持對直播數據進行零樣本檢測。模型可以檢測通過提示指定的任何對象。

    可以通過 REST API 遠程向 AI 感知服務發出提示,以動態更改類別以進行檢測。生成式 AI 為邊緣提供新型 AI 驅動的應用程序。如需詳細了解 Metropolis 微服務中的生成式 AI,請參閱借助適用于 Jetson 的 NVIDIA Metropolis 微服務,將生成式 AI 引入邊緣

    Graphic showing the cloud-native architecture of the generative AI reference application for zero-shot object detection using a visual prompting agent.
    圖 3.用于零射目標檢測的生成式 AI 參考應用

    功能強大的微服務和 API

    適用于 Jetson 的 Metropolis 微服務是功能豐富的微服務和 API 的集合,包括應用服務、平臺和板級支持包 (BSP) 服務以及云服務。模塊化和可擴展的微服務使您能夠輕松為邊緣構建現代云原生應用。

    作為開發者,您可以根據產品的成熟度靈活選擇一項、多項或所有服務。

    Graphic showing the complete software stack from the reference AI workflow, application microservice, platform, and BSP services to cloud services.
    圖 4.適用于 Jetson 軟件堆棧的 Metropolis 微服務

    應用服務

    • 視頻存儲工具包:提供視頻提取和存儲服務。
    • 使用 NVIDIA DeepStream 的 AI 感知服務:用于 AI 推理、對象追蹤和元數據創建
    • 用于零樣本檢測的 AI 感知服務:用于使用 NanoOWL 模型和視覺提示進行生成式 AI 推理
    • 分析服務:物體計數分析,例如線交叉、興趣區域和視野

    平臺服務

    • Redis:用于進程間通信的全局消息總線
    • API 網關:將傳入的 API 請求映射到后續服務
    • 監控:監控和可視化邊緣設備狀態,例如利用率和應用程序 KPI
    • IoT 網關:邊緣和云之間的安全雙向通信

    云服務

    • 物聯網云:創建從云到邊緣的安全連接,包括身份驗證和授權

    總結

    NVIDIA Metropolis 微服務能夠迅速推動邊緣的視覺 AI 開發,提供現成的應用以及超過 15 種適用于平臺服務、像素感知、視頻存儲、分析等的微服務。下載適用于 Jetson 的 NVIDIA Metropolis 微服務

    如需了解適用于 Jetson 的 Metropolis 微服務的技術細節,請閱讀 適用于 Jetson 的 NVIDIA Metropolis 微服務白皮書

    有關使用 Metropolis API 構建應用的教程,請參閱借助 NVIDIA Metropolis 微服務和 API 構建邊緣視覺 AI 應用。如需了解更多信息,請注冊參加我們的由兩部分組成的在線研討會,借助適用于 Jetson 的 Metropolis API 和微服務加速邊緣 AI 開發(第 1 部分)和如何使用適用于 Jetson 的 Metropolis 微服務進行構建(第 2 部分)。

    ?

    +2

    標簽

    人人超碰97caoporen国产