NVIDIA 宣布在 NGC catalog 中提供新的 SDK ，這是 GPU 優化的深度學習、機器學習和 HPC 應用程序的中心。有了高性能軟件 容器?、 預訓練模型?、行業專用 SDK 和 Jupyter 筆記本?， AI 開發人員和數據科學家可以簡化和降低端到端工作流的復雜性。
本文概述了 NGC 目錄中的新服務和更新服務，以及最新的高級 SDK ，以幫助您簡化工作流并更快地構建解決方案。
簡化對大型語言模型的訪問
大型語言模型（ LLM ）的最新進展推動了 NLP 應用程序的最新性能，如醫療保健中的虛擬文員、交互式虛擬助理等。
NVIDIA NeMo 威震天
NVIDIA NeMo Megatron 是一個用于訓練和部署 LLM 的端到端框架，其參數高達數萬億，現已在 NGC 目錄中公開測試。它包括用于自動化分布式數據處理的端到端工作流；培訓大規模定制的 GPT-3 、 T5 和多語言 T5 （ mT5 ）模型；以及部署模型進行大規模推理。
NeMo Megatron 可以部署在多個云平臺上，包括 Microsoft Azure 、 Amazon Web 服務和 Oracle 云基礎設施。也可以通過 NVIDIA DGX SuperPOD 和 NVIDIA DGX Foundry 訪問。
請求 NeMo Megatron in open beta 。
NVIDIA 公司
NVIDIA NeMo LLM 服務提供了使用 NVIDIA 托管云 API 或通過私有和公共云定制基礎 LLM 并大規模部署它們的最快路徑。
NVIDIA 和社區構建的基礎模型可以使用 提示學習能力?進行定制，這是一種高效計算的技術，可以將上下文嵌入用戶查詢中，從而在特定用例中實現更高的準確性。這些技術只需要幾百個樣本就可以在建筑應用中實現高精度。這些應用程序可以從文本摘要和改寫到故事生成。
該服務還提供對 Megatron 530B 模型的訪問，該模型是世界上最大的 LLM 之一，具有 5300 億個參數。其他型號檢查點包括 3B T5 和 NVIDIA 訓練的 5B 和 20B GPT-3 。
現在申請 NeMo LLM 早期訪問?。
NVIDIA BioNeMo 公司
NVIDIA BioNeMo 服務是端到端、基于 AI 的藥物發現工作流的統一云環境，無需 IT 基礎設施。
如今， Bio NeMo 服務包括兩個蛋白質模型， DNA 、 RNA 、生殖化學模型以及其他生物和化學模型即將推出。
ESM-1 是一種蛋白質 LLM ，經過 5200 萬個蛋白質序列的訓練，可用于幫助藥物發現研究人員了解蛋白質特性，如細胞位置或溶解度，以及二級結構，如α – 螺旋或β – 片。
Bio NeMo 服務中的第二個蛋白質模型是 OpenFold ，這是一個基于 PyTorch 的 NVIDIA 優化的 AlphaFold2 復制品，它可以根據蛋白質的一級氨基酸序列快速預測蛋白質的 3D 結構。
通過 Bio NeMo 服務，化學家、生物學家和 AI 藥物發現研究人員可以產生新的治療方法，并了解蛋白質和 DNA 的性質和功能。最終，他們可以將許多 AI 模型組合在一個連接的、大規模的 in silico AI 工作流中，該工作流需要多個 GPU 的超級計算規模。
Bio NeMo 將實現端到端的模塊化藥物發現，以加速研究并更好地理解蛋白質、 DNA 和化學物質。
現在申請 BioNeMo 早期訪問?。
3D 和數字孿生工作流的 AI 框架
數字孿生是一種虛擬表示——真實世界物理資產或系統的物理和材料的真實模擬，并不斷更新。數字孿生不僅僅適用于無生命的物體和人。他們可以復制一個履行中心流程，在現場環境中激活某些機器人功能之前測試人與機器人的交互，并且應用程序盡可能廣泛。
NVIDIA Omniverse 復制程序
NVIDIA Omniverse Replicator 是建立在 NVIDIA Omniverse 平臺上的一個高度可擴展的框架，能夠實現物理精確的 3D TensorRT ，以加速感知網絡的訓練和準確性。
技術藝術家、軟件開發人員和 ML 工程師現在可以使用 NGC 目錄中的 Omniverse Replicator 容器輕松地在云中或本地構建定制的、物理精確的合成數據生成管道。
下載 Omniverse Replicator container 進行自助云部署。
NVIDIA 模數
NVIDIA Modulus 是一個神經網絡 AI 框架，使您能夠為數字孿生、氣候模型以及基于物理的建模和模擬創建可定制的訓練管道。
Modulus 與 NVIDIA Omniverse 集成，因此您可以可視化 Modulus 訓練模型的輸出。該界面支持設計變量和參數的交互探索，以推斷新的系統行為并近乎實時地將其可視化。
最新版本（ v22.09 ）包括關鍵增強功能，以提高神經算子體系結構的合成靈活性，提高訓練收斂性和性能，最重要的是，顯著改善了用戶體驗和文檔。
下載 Modulus 最新版本 。
深度學習軟件
最流行的用于訓練和推理的深度學習框架每月更新一次。獲取最新版本（ v22.09 ）：
新的預訓練模型
我們不斷為各種語音和視覺模型添加最先進的模型。以下預訓練模型是 NGC 上的新模型：
- SLU Conformer-Transformer-Large SLURP ：直接從音頻輸入執行聯合意圖分類和插槽填充。
- Riva ASR Korean LM ：一種自動語音識別（ ASR ）引擎，可以選擇性地調節 n 元語言模型上的轉錄輸出。
- LangID Ambernet ：用于口語識別（ LangID 或 LID ），作為 ASR 的第一步。
- STT En Squeezeformer CTC Small Librispeech ：在 LibriSpeech 數據集上用 NeMo 訓練的英語 ASR 模型。
- TTS De FastPitch HiFi-GAN ：本系列包含兩個模型： FastPitch ，它是根據一個說話者超過 23 小時的德語語音進行訓練的， HiFi GAN ，它是通過 FastPich 模型生成的梅爾譜圖進行訓練的。
在 NGC Models 頁面上探索常見 AI 任務的更多預訓練模型。
?
