一種新的數據處理方法
人工智能和物聯網的融合將數據重心從云轉移到了網絡邊緣。在零售店、工廠、履行中心和其他分布式位置,數千個傳感器正在收集數 PB 的數據,為創新人工智能用例的洞察提供動力。因為最有價值的見解是在邊緣產生的,所以組織很快采用了新技術和流程,以更好地利用這一新的重心。
采用的主要技術之一是 邊緣計算?,即將應用程序的計算能力帶到傳感器收集信息的同一物理位置的過程。當這種計算方法用于在邊緣為人工智能應用程序供電時,它被稱為 edge AI 。
為了確保這些獲取有價值見解的邊緣位置不存在于孤立的筒倉中,各組織正越來越多地將其邊緣計算解決方案集成到其現有工作流中,以開發、測試和優化應用程序。通過從開發過程到部署過程的無縫路徑,團隊能夠同時對應用程序在生產環境中的運行方式有很強的可見性,同時還可以利用應用程序在邊緣位置收集的數據和見解。
隨著人工智能模型根據在邊緣位置收集的新數據快速、不斷地重新訓練和迭代,這個過程只會變得更加重要。
機器學習操作和邊緣人工智能
機器學習操作 ( MLOps )是一個過程系統 簡化了機器學習模型的開發、部署、監控和日常管理。它允許組織快速擴展應用程序的開發過程,并支持數據科學和 It 團隊之間的快速迭代。 MLOps 平臺將這一理念組織成一套工具,可在組織中跨職能使用,以加快創新速度。

集成 MLOps 平臺和邊緣計算解決方案可以為數據科學家和 IT 團隊在生產環境中協作開發和部署應用程序提供無縫、快速的工作流。有了完整的工作流程,團隊可以顯著提高創新率,因為他們可以根據在邊緣站點收集的見解和信息不斷迭代、測試、部署和保留。對于努力利用新數據范式的組織來說,創新至關重要。
集成 Domino Data Lab 和 NVIDIA Fleet Command
Domino Data Lab Enterprise MLOps 平臺和 NVIDIA Fleet Command 現在已集成 為數據科學家和 IT 團隊提供了從模型開發到部署的一致、簡化的流程。
Domino Data Lab 提供了一個企業 MLOps 平臺,支持模型驅動的業務,以加快數據科學工作的開發和部署,同時增強協作和治理。它允許數據科學家在將人工智能模型部署到生產中之前進行實驗、研究、測試和驗證。
NVIDIA Fleet Command 是一個用于容器編排的托管平臺,可在邊緣優化系統和人工智能應用程序的供應和部署。它利用云的規模和彈性簡化了分布式計算環境的管理,將每個站點變成了一個安全、智能的位置。
從開發到部署
與 NVIDIA Fleet Command 的集成為 Domino Data Lab 用戶提供了一個將他們正在研究的模型部署到邊緣位置的簡單途徑。該集成彌合了開發應用程序的數據科學家團隊和部署應用程序的 IT 團隊之間的差距,允許兩個團隊訪問整個應用程序生命周期。
Thomas Robinson 說:“與 NVIDIA Fleet Command 的集成是難題中的最后一塊,讓數據科學家能夠訪問開發和部署人工智能應用程序的完整工作流。”, Domino Data Lab 戰略合作伙伴關系和公司開發副總裁。“全面了解生產部署對于團隊利用在邊緣生成的數據和見解,最終更快地生成更好的應用程序至關重要。”
數據科學家可以使用 Domino 數據 MLOps 平臺快速迭代他們正在研究的模型。通過相同的界面,用戶可以將其新模型加載到 Fleet Command 上,使其可以部署到任何連接的位置。部署后,管理員可以遠程訪問應用程序以進行監視和故障排除,提供關鍵反饋,可用于模型的下一次迭代。
一位數據科學家正在為飲料制造廠開發質量檢查應用程序,這就是在生產環境中使用這種集成的一個例子。該應用程序用于視覺捕捉罐頭上的凹痕和缺陷,以防止它們接觸到消費者。面臨的挑戰是,隨著新設計的測試、季節性產品的發布以及基于事件的包裝推向市場,罐頭上的包裝會頻繁變化。應用程序需要能夠快速、頻繁地學習新設計,同時保持精確的成功水平。這需要高創新率,以跟上包裝的頻繁變化。為了實現這一點,數據科學家使用 Domino data Lab Enterprise MLOps 平臺和 NVIDIA Fleet Command 創建從開發和迭代到部署和監控的快速無縫流程。通過這樣做,他們可以輕松部署新模型,并隨著產品的變化對服務的中斷有限,從而提高創新速度。此外,模型監控確保數據科學家能夠發現其模型的質量或預測能力方面的任何問題。
觀看使用 Domino 和 NVIDIA Fleet Command 在石油和天然氣領域進行模型開發、部署和監控的 end-to-end demo 。
在 NVIDIA Fleet Command 上開始使用 Domino
目前, Domino 用戶可以在 NVIDIA Fleet Command 上部署應用程序。 Domino Enterprise MLOps 平臺也可以在 NVIDIA LaunchPad 上訪問,該平臺提供了對實踐實驗室目錄的免費短期訪問。快速測試人工智能計劃,獲得擴展數據科學工作負載的實踐經驗。
?