NVIDIA IGX 平臺上的生產就緒型企業級軟件，支持 NVIDIA RTX 6000 ADA 等

實時邊緣 AI 對于醫療、工業和科學計算至關重要，因為這些任務關鍵型應用程序需要即時數據處理、低延遲和高可靠性，以確保及時準確的決策。這些挑戰不僅涉及硬件平臺上的高帶寬傳感器處理和 AI 計算，而且還需要企業級 AI 軟件來支持整個邊緣計算軟件堆棧。

專門為工業和醫療環境設計，NVIDIA IGX 為組織提供邊緣人工智能所需的性能、可靠性、安全性和可維護性。IGX 無需花費數年時間設計自定義系統和定制人工智能模型，而是借助 NVIDIA AI Enterprise 上的 GPU 加速計算，加速各行業先進的人工智能解決方案的開發，從而大幅減少時間和成本。

在 COMPUTEX 2024 上，IGX 通過生產就緒型 NVIDIA AI Enterprise IGX、對 NVIDIA RTX 6000 Ada dGPU 的支持、IGX 系統的擴展等，對平臺進行了重大更新。所有增強功能都附帶長達 10 年的硬件和軟件支持，使您的組織能夠放心地提供安全可靠的 AI，以支持人類和機器協作。

NVIDIA IGX 軟件堆棧現已可用于生產?

隨著 NVIDIA IGX-SW 1.0 的公開發布， NVIDIA IGX 上的軟件堆棧現已可用于生產。您還可以獲得 NVIDIA AI Enterprise IGX 長期支持，并在 NVIDIA 的支持下滿懷信心地部署您的產品。

為滿足對多模態生成式 AI 部署和高帶寬信號處理日益增長的需求，此版本引入了對 NVIDIA RTX 6000 ADA 顯卡的支持，將 AI 計算能力擴展到 1705 TOPS.與使用板載 iGPU 相比，AI 性能提升了 7 倍。借助此類高性能 AI 計算，您可以輕松運行要求嚴苛的 AI 工作負載，并支持生成式 AI 應用程序。

此版本還提供了通過簡單易用的 Web 界面安裝所有固件的功能，從而簡化了安裝過程：選擇所需的固件，然后單擊安裝按鈕。

下載 NVIDIA IGX-SW 1.0 公開版本，所有軟件堆棧均可免費用于開發和評估目的。

在生產方面，軟件堆棧由 NVIDIA AI Enterprise IGX 提供支持，可與 NVIDIA 專家聯系，提供企業級長期支持。訂閱 NVIDIA AI Enterprise IGX 后，您可以訪問以下選項：

• 生產分支：采用最新的 NVIDIA 人工智能堆棧，并利用先進技術和優化。每六個月發布一次新的生產分支，每個分支維護 9 個月。這是零售和機器人等用例的理想選擇，可確保您可以引入最新的人工智能模型和生成式人工智能工作負載。
• 長期支持分支：版本鎖定、維護和支持長達 10 年。新的長期支持分支每 2.5 年發布一次，并帶有新版本的技術棧。這是醫療和科學計算等受監管行業的理想選擇。

這兩個分支均可持續監控安全漏洞、API 穩定性、錯誤修復、技術支持，并由 NVIDIA 專家和工程師及時解決問題。有關更多信息，請參閱 如何使用 NVIDIA AI Enterprise IGX 支持任務關鍵型邊緣 AI。

首先，將固件、操作系統和計算堆棧下載到 NVIDIA IGX Orin 開發者套件。有關安裝的更多信息，請參閱 NVIDIA IGX 用戶指南。

要開始使用 NVIDIA AI Enterprise IGX，請申請NVIDIA AI Enterprise IGX 軟件試用版，以體驗其功能。

專為醫療、工業和機器人使用而設計的企業就緒型應用框架?

NVIDIA IGX 支持 NVIDIA 為邊緣提供的所有 SDK、應用框架和工具。

它包括以下應用框架：

• NVIDIA Holoscan 用于從邊緣到云端的實時感知器處理。
• NVIDIA Metropolis 構建、部署和擴展視覺人工智能應用
• NVIDIA Isaac 用于構建高性能機器人應用程序

使用 NGC 中的預訓練模型縮短模型開發時間，使用合成數據生成器為模型訓練創建合成數據，并使用 NVIDIA TAO 工具套件[鏈接]快速訓練和優化模型，以獲得最佳模型性能。

多模態 AI 和生成式 AI 在處理非結構化數據和多樣化環境方面變得越來越重要。

• 在醫療領域，醫療診斷、用于手術的 AI Copilot、AI 手術機器人和用于患者護理的 AI 智能體現已成為可能。
• 在制造儀器中，可以進行實時晶圓檢測和高帶寬傳感器處理。
• 在科學計算領域，雷達處理和射電天文學將由 AI 提供動力支持。
• 在工業機器人領域，AI 將安全地保護工廠自動化和機器人協作。

您可以在 Omniverse 中找到許多此類應用示例和生成式 AI 模型，在 nvidia-holohub GitHub 庫中也有相關資源。

借助 NVIDIA 認證系統擴展 IGX 系列?

NVIDIA IGX Orin 平臺推出了一款全新產品 IGX Orin 500 系統模組。它為 OEM 提供了設計載板和自定義配置的靈活性，以滿足客戶需求。IGX Orin 500 在不犧牲企業軟件支持的情況下，具有與 IGX Orin 700 (以前稱為 IGX Orin Boardkit) 相同的 iGPU、CPU、內存和存儲，并且能夠通過適用于機器人和智能農業應用的附加 sMCU 實現功能安全。

1705 TOPS 248 TOPS (GPU) 1457 TOPS (6000 Ada dGPU)

通過使用 NVIDIA IGX Orin 500 設計指南，OEM 和 ODM 合作伙伴可以開始定制載板設計。對于所有 IGX 系統，OEM 完整系統都需要通過相同的 NVIDIA 認證流程，以確保獲得企業級軟件支持和出色的人工智能軟件性能。這種嚴格的測試和驗證減少了部署專用基礎設施所涉及的風險和時間，這些基礎設施可以支持復雜、計算密集型生成式人工智能工作負載。

NVIDIA 認證的 IGX 系統將很快通過特定的 OEM 合作伙伴提供。有關 NVIDIA IGX 平臺和新突破的更多信息，請參閱 NVIDIA IGX 頁面和 IGX 下載中心，了解最新的發展動態。

?