隨著企業越來越多地采用 AI 技術，他們面臨著高效開發、保護和持續改進 AI 應用以利用其數據資產的復雜挑戰。他們需要一個統一的端到端解決方案來簡化 AI 開發、增強安全性并實現持續優化，從而使組織能夠充分利用數據的全部潛力實現 AI 驅動的創新。
這就是 DataStax 與 NVIDIA 合作創建 DataStax AI 平臺 的原因，該平臺現已與 NVIDIA NeMo 和 NIM （ NVIDIA AI Enterprise 軟件的一部分）集成。該平臺提供統一的堆棧，使企業能夠更輕松地構建 AI 應用，利用其數據和必要的工具來不斷調整和提高應用性能和相關性，并將性能 吞吐量提高 19 倍 。該平臺基于 DataStax 現有的與 NVIDIA AI Enterprise 平臺的集成，這是在今年早些時候宣布的。
在本博文中，我們將調查生成式 AI 應用生命周期中的多個點，并分享使用 NVIDIA 構建的 DataStax AI 平臺如何簡化流程：從使用 NVIDIA NIM Agent 藍圖 和 Langflow 創建初始應用，到使用 NVIDIA NeMo Guardrails 增強 LLM 響應 ，再到進一步提高應用性能和相關性與客戶數據和微調。
快速開始使用 NIM 代理藍圖和 Langflow
NVIDIA NIM Agent Blueprints 為特定的 AI 應用場景提供了參考架構，顯著降低了 AI 應用程序開發的門檻。這些藍圖與 Langflow 的集成創造了強大的協同效應，解決了 AI 開發生命周期中的關鍵挑戰，并可將開發時間縮短高達 60%。
以多模態 PDF 數據提取 NIM Agent 藍圖 為例，該藍圖可協調各種 NIM 微服務（包括 NeMo Retriever），用于提取、嵌入和重新排序，并以最佳方式運行 LLM。該藍圖解決了構建檢索增強生成（RAG）應用時最復雜的一個方面：文檔提取和處理。通過簡化這些復雜的工作流程，開發者可以專注于創新，而不是技術障礙。
借助 Langflow 的視覺開發界面，您可以輕松地將 NIM Agent 藍圖表示為可執行流。這允許快速進行原型設計和實驗，使開發者能夠：
- 使用關鍵的 NeMo 檢索器嵌入、提取和 LLM NIM 組件，以可視化方式構建 AI 工作流程
- 混合搭配 NVIDIA 和 Langflow 組件
- 輕松整合自定義文檔和模型
- 利用 DataStax Astra DB 進行矢量存儲
- 將流作為 API 端點提供，實現無縫部署。
這種組合不僅簡化了開發流程，而且彌合了原型設計和生產之間的差距。它還促進了團隊協作，使多個用戶（即使沒有技術背景）能夠理解、測試和調整應用程序。通過使高級人工智能功能更易于使用，它促進了創新，并為各行各業的人工智能應用程序開辟了新的可能性。
使用 NeMo Guardrails 增強 AI 安全性和控制力
基于 NIM Agent Blueprints 在 Langflow 中實現的快速開發，通過高級安全功能增強 AI 應用變得非常直接。Langflow 基于組件的方法已經支持快速實現 PDF 提取藍圖，現在促進了 NeMo Guardrails 的無縫集成。
NeMo Guardrails 為負責任的人工智能部署提供關鍵功能，例如：
- 越獄和幻境防護
- 主題邊界設置
- 自定義策略實施
這種集成的強大之處在于它的簡單性。正如開發者可以使用 Langflow 的視覺界面快速創建初始應用程序一樣，他們現在可以拖放 NeMo Guardrails 組件來增強安全性。這種方法支持快速實驗和迭代，使開發者能夠：
- 輕松將內容審核添加到現有流程中
- 快速配置閾值并測試各種安全規則
- 通過添加更多的防護措施并盡可能減少代碼更改，無縫集成高級安全技
通過利用 Langflow 與 NeMo Guardrails 的預構建集成，開發者可以專注于微調 AI 行為，而不是處理復雜的安全實現。這種集成不僅縮短了開發時間，而且促進了在 AI 應用中采用穩健的安全措施，將組織定位在負責任的 AI 創新的前沿。
通過持續改進推動 AI 發展?
在快速發展的 AI 領域，靜態模型（甚至是 LLM）很快就過時了。NVIDIA NeMo 微調工具、 Astra DB 的搜索/檢索可調節性和 Langflow 的集成創造了強大的生態系統，確保應用程序在每次迭代中實現更高的相關性和性能。
這種集成方法使用三個關鍵組件進行模型訓練和微調：
- NeMo Curator ：優化和準備來自 Astra DB 和其他來源的運營和客戶交互數據，為微調創建最佳數據集。
- NeMo Customizer ：利用這些精選數據集微調 LLMs、SLMs 或嵌入模型，并根據特定的組織需求對其進行定制。
- NeMo Evaluator： 根據各種指標嚴格評估經過微調的模型，以確保在部署前提高性能。
通過在 Langflow 中對這種微調管道進行可視化建模，組織可以創建無縫的迭代 AI 改進流程。這種方法具有以下戰略優勢：
- 數據驅動型優化 ：利用 Astra DB 的真實交互數據，可確保模型改進基于實際使用模式和客戶需求。
- 敏捷的模型演進 ：Langflow 中的可視化工作流允許快速調整精調過程，從而實現快速實驗和優化。
- 定制的 AI 解決方案 ：根據組織特定數據進行微調，可生成針對特定行業需求或用例量身定制的 AI 模型。
- 持續性能提升 ：定期評估和微調可確保 AI 應用程序在相關性和有效性方面隨著時間的推移而不斷提高。
此集成式生態系統將人工智能開發從時間點部署轉變為持續改進周期，使組織能夠保持先進的人工智能能力，這些能力會隨著業務需求不斷發展。
由 NVIDIA 構建的 DataStax AI 平臺整合了 NVIDIA AI Enterprise 中包含的高級 AI 工具、DataStax 強大的數據管理功能、搜索靈活性和 Langflow 直觀的視覺界面，為企業 AI 開發創建了一個全面的生態系統。這一集成使組織能夠快速原型化、安全部署和持續優化 AI 應用，將復雜數據轉化為可操作的智能，同時顯著縮短價值實現時間。
?
?
