使用 NVIDIA 檢索 QA 嵌入模型構建企業檢索增強生成應用

Thu, 30 Nov 2023 06:31:11 +0000

大型語言模型 (LLM) 對人類語言和編程語言的深刻理解正在改變 AI 格局。對于新一代企業生產力應用程序而言，它們至關重要，可提高用戶在編程、文案編輯、頭腦風暴和回答各種主題的問題等任務中的效率。然而，這些模型通常難以處理實時事件和特定知識領域，從而導致不準確之處。微調這些模型可以增強其知識，但成本高昂，并且需要定期更新。檢索增強生成（RAG）通過將信息檢索與 LLM 結合，為開放領域的問答應用提供解決方案。RAG 為 LLM 提供大量可更新的知識，有效解決了這些限制（圖 1）。NVIDIA NeMo 框架中的 NVIDIA NeMo Retriever 優化了 RAG 的嵌入和檢索部分，以提供更高的準確性和更高效的響應。本文概述了 RAG 工作流組件的工作原理，以及與創建支持 RAG 的 AI 應用相關的企業挑戰(例如商業可行性)。

Source

]]>

像 AI 專家一樣使用 NVIDIA TAO AutoML 進行訓練

Tue, 13 Dec 2022 06:25:00 +0000

這些年來，人工智能有了巨大的增長。隨之而來的是對人工智能模型和應用程序的更大需求。創造高質量的人工智能需要人工智能和數據科學方面的專業知識，對許多開發人員來說，這仍然是一種威脅。為了開發準確的人工智能，您必須選擇要使用的模型架構、要收集的數據，以及最后如何調整模型以滿足期望的 KPI 。有成千上萬的模型架構和超參數組合，您必須嘗試為您的特定用例獲得最佳模型。這個過程非常費力，需要模型架構專業知識來調整超參數。自動機器學習（ AutoML ）自動執行手動任務，為所需 KPI 找到最佳模型和超參數。它可以從算法上為給定的 KPI 導出最佳模型，并抽象出 AI 模型創建和優化的許多復雜性。 AutoML 使得即使是新手開發人員也很容易創建高度精確的 AI 模型。 TAO 中的 AutoML 完全可配置，用于自動優化模型的超參數，這減少了手動調整的需要。

Source

]]>

Chankyu Lee – NVIDIA 技術博客

使用 NVIDIA 檢索 QA 嵌入模型構建企業檢索增強生成應用

像 AI 專家 一樣使用 NVIDIA TAO AutoML 進行訓練

像 AI 專家一樣使用 NVIDIA TAO AutoML 進行訓練