NVIDIA Fleet Command – NVIDIA 技術博客

將數據中心管理功能推向邊緣

Mon, 23 Jan 2023 08:58:07 +0000

NVIDIA Fleet Command 宣布了新功能，為 IT 管理員提供了更高級的控制和邊緣環境保護。與傳統數據中心在單個位置有數百臺服務器不同，邊緣部署在數千個位置有一臺或兩臺服務器。傳統的 IT 管理工具很難滿足這些分布式環境的需求，尤其是在人工智能方面。 Fleet Command 是專門為管理邊緣 AI 環境而構建的，為容器編排提供了一個簡單、受管理的平臺。這使得從單個基于云的控制臺在數千個分布式環境中安全地調配和部署 AI 應用程序和系統變得容易。視頻 1 。任何技能級別的管理員都可以在幾分鐘內跨其邊緣基礎設施部署 AI 憑借用于管理邊緣環境的更強大的選項和工具， Fleet Command 現在提供了高級功能，包括邊緣群集的高可用性、高級存儲定制、安全的應用程序通信隧道和零停機管理更新。

Source

]]>

如何構建邊緣解決方案：成功的常見問題和資源

Tue, 09 Aug 2022 05:57:00 +0000

學習新技術有時會讓人感到害怕。這個 NVIDIA 邊緣計算網絡研討會系列旨在介紹邊緣計算的基礎知識，以便所有與會者都能理解與此技術相關的關鍵概念。 NVIDIA 最近主持了網絡研討會，邊緣計算 201 ：如何構建邊緣解決方案，探索構建生產邊緣人工智能部署所需的組件。在演示期間，與會者被問及各種投票問題，涉及他們對邊緣計算的知識、他們面臨的最大挑戰以及他們構建解決方案的方法。您可以在下面看到這些投票問題的結果分解，以及一些答案和關鍵資源，它們將幫助您完成邊緣之旅。超過一半（ 55% ）的受訪者表示，他們仍處于邊緣計算旅程的學習階段。本系列的前兩次網絡研討會 – 邊緣計算 101 ：邊緣簡介和邊緣計算 201 ：如何構建邊緣解決方案 – 是專門為那些剛剛開始學習邊緣計算和邊緣人工智能的人設計的。

Source

]]>

在同一邊緣設備上運行多個應用程序

Mon, 18 Jul 2022 04:32:00 +0000

智能空間是最豐富的邊緣人工智能用例之一。從智能零售店到自主工廠，企業很快就能看到這項創新技術的價值。然而，構建和擴展智能空間需要許多不同的技術，包括多種應用。在邊緣位置操作多個應用程序可能很復雜。為此，組織可能會向某個位置添加新硬件，以便每個應用程序都有專用的計算資源，但與購買和安裝每個新應用程序的新硬件相關的成本可能會很高。許多組織在同一設備上部署多個應用程序。雖然這是一種規模解決方案，但它可能會帶來不同的挑戰。許多組織依靠 GPU 的性能來支持邊緣應用程序。即使使用高性能 GPU 加速系統，使用時間切片在同一設備上同時運行兩個或多個 AI 應用程序也不可避免地會導致更高的延遲，而硬件優化最少。當多個應用程序在同一設備上運行時，設備將應用程序時間切片到隊列中，以便應用程序按順序運行，而不是并發運行。當設備從一個應用程序的處理數據切換到另一個應用程序時，

Source

]]>

邊緣遠程操作系統和應用程序

Mon, 18 Jul 2022 04:29:41 +0000

邊緣計算 101 網絡研討會期間最近的一項民意調查顯示，許多對 Edge AI 感興趣的 IT 專業人士仍在學習有關生產部署的技術和考慮因素的基礎知識。生產邊緣人工智能的一個關鍵考慮因素是管理員如何在部署后管理應用程序和系統的日常維護，有時稱為第二天操作。遠程管理是一項關鍵功能，使您能夠輕松管理數十個甚至數千個遠程站點。將邊緣人工智能概念驗證（ POC ）大規模引入生產環境的過程要求您能夠在分布式位置完全訪問邊緣系統和應用程序。如果沒有完整、無痛的訪問，快速進行和擴展的能力會受到遠程邊緣站點手動故障排除所需時間的限制。由于安裝和擴展新技術總是會出現不可預測的問題，因此該過程可能非常耗時和昂貴。安裝后，您希望在現有硬件上部署和擴展新應用程序，更新現有應用程序，排除錯誤，并驗證新配置。擁有安全的遠程管理功能至關重要，

Source

]]>

通過集成 MLOps 平臺和邊緣解決方案打破數據孤島

Wed, 13 Jul 2022 05:33:00 +0000

人工智能和物聯網的融合將數據重心從云轉移到了網絡邊緣。在零售店、工廠、履行中心和其他分布式位置，數千個傳感器正在收集數 PB 的數據，為創新人工智能用例的洞察提供動力。因為最有價值的見解是在邊緣產生的，所以組織很快采用了新技術和流程，以更好地利用這一新的重心。采用的主要技術之一是邊緣計算，即將應用程序的計算能力帶到傳感器收集信息的同一物理位置的過程。當這種計算方法用于在邊緣為人工智能應用程序供電時，它被稱為 edge AI 。為了確保這些獲取有價值見解的邊緣位置不存在于孤立的筒倉中，各組織正越來越多地將其邊緣計算解決方案集成到其現有工作流中，以開發、測試和優化應用程序。通過從開發過程到部署過程的無縫路徑，團隊能夠同時對應用程序在生產環境中的運行方式有很強的可見性，同時還可以利用應用程序在邊緣位置收集的數據和見解。

Source

]]>

邊緣人工智能正在推動一個更安全、更智能的世界

Tue, 05 Jul 2022 07:39:00 +0000

幾乎每個組織都被使用攝像機更好地了解其業務的能力所吸引。大約 10 億個攝像機——物聯網的終極傳感器——正被用來幫助世界各地的人們生活得更好、更安全。但是，成功有一個明顯的障礙。使用這些攝像機收集的寶貴數據需要大量人力。手動審查大量錄像的耗時過程既費力又昂貴。此外，在審查完成后，許多視頻要么被扔掉，要么被存放在云端，再也沒有使用過。這導致大量有價值的數據從未被充分利用。幸運的是，多虧了人工智能和邊緣計算的進展，組織現在可以將人工智能分析直接分層到其現有的攝像機基礎設施上，以擴大捕獲的視頻片段的價值。通過向等式中添加智能，組織可以使用人工智能驅動的視頻分析系統將物理環境轉換為更安全、更智能的空間。這一變化已經幫助許多行業的公司改善了客戶體驗，增強了安全性，推動了問責制，并提高了運營效率。擴展這些智能空間并獲得更大利益的可能性是巨大的。在零售領域，

Source

]]>

重新思考邊緣計算的遠程控制臺

Wed, 02 Feb 2022 06:32:00 +0000

邊緣部署的性質意味著它們始終處于啟用狀態，有時在與 IT 管理員不同的時區內全天候運行。因此，當系統遇到錯誤或重大問題時，需要前往 edge site 并調試系統。有時這種情況發生在午夜。即使團隊有遠見在適當的位置設置工具以允許遠程訪問，它們通常開發成本高、使用困難，并且存在嚴重的安全漏洞。對于 IT 管理員來說，遠程訪問他們的所有機器可以減少在緊急修復上花費的時間和精力，并在出現緊急情況或重大問題時讓他們安心。雖然該工具的版本可以在其他產品中找到，但許多產品缺乏關鍵功能，這些功能對于在邊緣部署和擴展人工智能的組織來說正變得越來越重要。其中之一就是安全。為了解決這個問題， Fleet Command 包括所有管理員都可以使用的按需遠程控制臺功能。最近，我們向遠程控制臺添加了幾個新功能，以提高安全性，并允許用戶同時訪問組織中的多個邊緣節點。遠程控制臺是一種機制，

Source

]]>

新功能和應用程序使使用 NVIDIA Fleet 命令部署 Edge AI 變得簡單

Tue, 09 Nov 2021 10:24:00 +0000

NVIDIA Fleet Command是一種云服務，可跨分布式邊緣基礎設施安全部署、管理和擴展 AI 應用程序。自 7 月艦隊司令部啟動以來，已經實現了幾個重要里程碑，并在 NVIDIA GTC 上展示。艦隊司令部不斷增加新功能。除了使平臺更加健壯和安全外，還結合了來自客戶和合作伙伴的反饋，使組織更容易在邊緣開始使用人工智能。今天提供的新功能包括：在今年的 GTC 會議上，我們宣布了 NVIDIA LaunchPad 在全球范圍內的可用性。 NVIDIA LaunchPad是一個讓企業和組織能夠立即、短期訪問運行在加速計算上的 NVIDIA AI 的計劃，以加速現代數據驅動應用程序的開發和部署。它允許您在可以購買和部署的同一個完整堆棧上快速測試和原型化整個人工智能工作流。組織可以使用 LaunchPad 獲得對艦隊司令部的完全訪問權，

Source

]]>

通過大都會和 Fleet 命令加速邊緣 AI

Wed, 27 Oct 2021 03:45:00 +0000

大約 10 億臺攝像機——終極物聯網（ IoT ）傳感器——已經部署在世界各地的城市和空間，以幫助我們生活得更好、更安全。優化 AI 支持的視頻分析對于無摩擦零售、優化庫存管理、智能城市交通工程、工廠地面光學檢查、醫療設施的患者護理等至關重要。 NVIDIA Metropolis 是一個應用程序框架、一套開發工具和合作伙伴生態系統，它將可視數據和人工智能結合在一起，以提高廣泛行業的運營效率和安全性。但大規模人工智能的發展之路是艱難的。從定義需求、采購硬件、開發和微調軟件、 IT 和安全審查，到在每個站點實際安裝和更新系統和應用程序軟件，這一過程艱巨、耗時且成本高昂。當開發人員專注于構建 AI 應用程序時，他們的操作效果最好，并且不需要承擔在邊緣位置部署 AI 時可能出現的硬件、安全性和可伸縮性問題的支持責任。

Source

]]>