大型語言模型（ LLM ）的最新進展為 NLP 應用程序（如醫療保健中的虛擬抄寫員、交互式虛擬助理等）提供了最先進的性能。
為了簡化對 LLM 的訪問， NVIDIA 宣布了兩項服務： NeMo LLM 用于定制和使用 LLM ， BioNeMo 擴展 LLM 在制藥和生物技術行業的科學應用。 NVIDIA NeMo Megatron 是一個用于培訓和部署 LLM 的端到端框架，現在可以通過開放測試版向世界各地的開發人員提供。
NeMo LLM 服務
NVIDIA NeMo LLM 服務提供了定制基礎 LLM 并利用 NVIDIA 托管云 API 或通過私有云和公共云大規模部署它們的最快路徑。
NVIDIA 和社區構建的基礎模型可以使用 提示訓練能力?進行定制，這是一種計算效率高的技術，在用戶查詢中嵌入上下文以在特定用例中實現更高的準確性。這些技術只需要幾百個樣本即可實現高精度。現在， LLM 用一個模型服務多個用例的承諾實現了。
開發人員可以為特定領域和用例構建應用程序，包括文本摘要、釋義、故事生成等。需要最少的計算和技術專業知識。
Megatron 530B 模型是世界上最大的 LLM 之一，基于 GPT-3 架構，具有 5300 億個參數。它很快將通過 NVIDIA NeMo LLM 服務的早期訪問程序提供給開發者。模型檢查點將很快通過 HuggingFace 和 NGC 提供，或通過服務使用，包括：
- T5 : 3B 型
- 內華達州 GPT-3 : 5B / 20B / 530B
立即申請 use NeMo LLM in early access 。
加入 GTC 2022 會議 Enabling Fast-Path to Large Language Model Based AI Applications ，了解更多信息。
Bio NeMo 服務
Bio NeMo 服務建立在 NeMo 威震天之上，是基于人工智能的藥物發現工作流的統一云環境。化學家、生物學家和人工智能藥物發現研究人員可以開發新的療法；了解它們的性質、結構和功能；并最終預測與藥物靶點的結合。
如今， Bio NeMo 服務支持最先進的基于變壓器的化學和蛋白質組學模型。不久將支持基于 DNA 的工作流。 ESM-1 架構為蛋白質提供了同等的功能， OpenFold 支持簡化使用和縮放用于預測蛋白質結構的工作流。該平臺支持端到端的模塊化藥物發現工作流，以加速研究并更好地理解蛋白質、基因和其他分子。
了解有關 NVIDIA BioNeMo 的更多信息。
NeMo Megatron
NVIDIA 宣布對 NVIDIA NeMo Megatron 進行新的更新，這是一個端到端的框架，用于訓練和部署多達數萬億個參數的 LLM 。 NeMo Megatron 現已在多個云平臺（包括 Microsoft Azure 、 Amazon Web Services 和 Oracle cloud Infrastructure ）以及 NVIDIA DGX SuperPOD 和 NVIDIA DGX Foundry ）上對開發人員開放測試版。
NeMo Megatron 作為 NGC 上的容器化框架提供，為構建和部署 LLM 提供了一種簡單、有效和經濟高效的途徑。它由自動化分布式數據處理的端到端工作流組成；培訓大規模定制 GPT-3 、 T5 和多語言 T5 （ mT5 ）模型；以及部署模型進行大規模推理。
它的超參數工具支持定制模型開發，在任何給定的分布式 GPU 集群配置上，自動搜索用于訓練和推理的最佳超參數配置。
使用張量、數據、流水線并行和序列并行等技術，以及選擇性激活重新計算，大規模模型變得實用，提供了高訓練效率。它還配備了快速學習技術，可以用最少的數據定制不同的數據集，極大地提高性能，完成較少的任務。
立即申請 use NeMo Megatron in open beta 。
加入 GTC 2022 會議 Efficient At-Scale Training and Deployment of Large Language Models (GPT-3 and T5) ，了解更多最新進展。
?
