開源軟件 – NVIDIA 技術博客

NVIDIA 全面轉向開源 GPU 內核模塊

Wed, 17 Jul 2024 04:30:48 +0000

借助 R515 驅動程序，NVIDIA 于 2022 年 5 月發布了一套開源的 Linux GPU 內核模塊，該模塊采用雙許可證，即 GPL 和 MIT 許可。初始版本主要面向數據中心計算 GPU，而 GeForce 和工作站 GPU 則處于 Alpha 狀態。當時，我們宣布，在后續版本中將提供更可靠、功能齊全的 GeForce 和工作站 Linux 支持， NVIDIA 開放內核模塊最終將取代閉源驅動。 NVIDIA GPU 具有通用的驅動架構和功能集。這意味著同一驅動適用于您的臺式機或筆記本電腦，也可在云端運行世界上最先進的 AI 工作負載。對我們來說，正確的選擇非常重要。兩年過去了，我們利用開源的 GPU 內核模塊實現了與原來的應用程序性能相當或更好的性能，并添加了大量新的功能。現在，我們處于完全過渡到開源 GPU 內核模塊的時刻，這是正確的做法。

Source

]]>

在 FlexSim 中使用 OpenUSD 分析、可視化和優化現實世界的流程

Fri, 03 Nov 2023 05:45:42 +0000

對于制造和工業企業而言，效率和精度至關重要。為了簡化運營、降低成本和提高生產力，各公司正在轉向數字孿生和離散事件模擬。離散事件模擬使制造商能夠通過試驗不同的輸入和行為來優化流程，這些輸入和行為可以逐步進行建模和測試。 FlexSim 是一家模擬建模軟件提供商，專門從事離散事件模擬，使用戶能夠分析、可視化和優化各行各業的真實流程。借助用于創建和運行模擬的強大工具集，它正用于制造、倉儲和醫療健康等行業，以改進復雜的系統和運營。最近，FlexSim 開發了 NVIDIA Omniverse 連接器，使工程師、設計師和仿真專家能夠將 FlexSim 模型無縫轉換為 Universal Scene Description (OpenUSD) 格式。 NVIDIA Omniverse 是一個開發計算平臺，使開發者能夠基于 OpenUSD 構建可互操作的 3D 工作流和工具。

Source

]]>

由 RTX 賦能的空間框架通過 USD 實現全光線追蹤 XR 流程

Tue, 08 Aug 2023 03:45:32 +0000

開發擴展現實（XR）應用的難度極大。用戶通常會從一個模板項目入手，并按照現成的打包模板將應用部署到頭顯。這種方法給資產迭代流程帶來了嚴重的阻礙。XR體驗內的資產更新完全取決于開發者構建、打包和部署新的可執行程序的速度。 NVIDIA Omniverse中的全新空間框架通過通用場景描述（即OpenUSD）和由NVIDIA RTX驅動的光線追蹤技術幫助解決了這些難題。全球首個全光線追蹤XR體驗由此誕生，它使用戶能夠查看其場景中的每一個反射、軟陰影、豐富的光線以及幾何體的動態變化。現在，用戶可以對包含數百萬個多邊形、物理材質和精確照明的大規模、復雜、全保真設計數據集進行全光線追蹤，來身臨其境地體驗數據集，而無需耗費額外的數據準備時間。使用OpenUSD實現沉浸式工作流 OpenUSD可確保場景編輯不具有破壞性，從而實現不同工具和生態之間的無縫交互。

Source

]]>

利用 OpenUSD 和綜合數據開發智慧城市交通管理系統

Tue, 01 Aug 2023 02:50:01 +0000

智能城市代表了城市生活的未來。然而，它們可能會給城市規劃者帶來各種挑戰，尤其是在交通領域。為了取得成功，城市的各個方面——從環境和基礎設施到商業和教育——必須在功能上進行整合。這可能很困難，因為單獨管理交通流量是一個復雜的問題，充滿了擁堵、事故應急響應和排放等挑戰。為了應對這些挑戰，開發人員正在開發具有現場可編程性和靈活性的人工智能軟件。這些軟件定義的物聯網解決方案可以應用于實時環境，如交通管理，車牌識別，智能停車和事故檢測等。盡管如此，建立有效的人工智能模型說起來容易做起來難。遺漏值、重復示例、錯誤標簽和錯誤特征值是訓練數據的常見問題，這些問題可能導致模型不準確。在自動駕駛汽車的情況下，不準確的結果可能是危險的，也可能導致交通系統效率低下或城市規劃不佳。端到端人工智能工程公司 SmartCow，作為 NVIDIA Metropolis 的合作伙伴，

Source

]]>

用圖神經網絡開發基于物理的機器學習模型

Tue, 06 Jun 2023 06:41:39 +0000

NVIDIA PhysicsNeMo是一個框架，用于構建、訓練和微調物理系統的深度學習模型，也稱為物理知情機器學習（physics ML）模型。現在，PhysicsNeMo 以開源軟件（OSS）的形式提供（基于 Apache 2.0 許可證），以支持不斷增長的物理 ML 社區。最新的 PhysicsNeMo 軟件更新 23 . 05 版匯集了新的功能，使研究界和行業能夠通過開源協作將研究開發成企業級解決方案此次更新的兩個主要組成部分是 1 ）支持包括圖神經網絡（ GNN ）和遞歸神經網絡（ RNN ）在內的新網絡架構，以及 2 ）提高人工智能從業者的易用性。 GNN 正在改變研究人員如何應對涉及復雜圖形結構的挑戰，例如物理、生物學和社交網絡中遇到的挑戰。通過利用圖的結構， GNN 能夠根據圖中節點之間的關系進行學習和預測。通過 GNN 的應用，

Source

]]>

使用 Alpa 和 Ray 在大型 GPU 集群中高效擴展 LLM 訓練

Mon, 15 May 2023 05:21:27 +0000

近年來，大型語言模型（ LLM ）的數量激增，它們超越了傳統的語言任務，擴展到生成式人工智能這包括像 ChatGPT 和 Stable Diffusion 這樣的模型。隨著這種對生成人工智能的關注不斷增長，人們越來越需要一種現代機器學習（ ML ）基礎設施，使日常從業者能夠訪問可擴展性。本文介紹了兩個開源框架，Alpa.ai和Ray.io，共同努力實現訓練 1750 億參數所需的規模JAX transformer具有流水線并行性的模型。我們詳細探討了這兩個集成框架，以及它們的組合架構、對開發人員友好的 API 、可伸縮性和性能。 Alpa 和 Ray 的核心都是為了提高開發人員的速度和有效地擴展模型。 Alpa 框架的流水線并行功能可以輕松地在多個 GPU 上并行化大型模型的計算，并減輕開發人員的認知負擔。 Ray 提供了一個分布式計算框架，可以簡化跨多臺機器的資源擴展和管理。

Source

]]>