Nathan Stephens – NVIDIA 技術博客

借助 NVIDIA NIM 和 NVIDIA cuVS 加速 Oracle 數據庫生成式 AI 工作負載

Tue, 17 Sep 2024 07:17:25 +0000

全球絕大多數數據仍未得到充分利用，企業希望通過創建新一波生成式AI應用程序來從這些數據中創造價值，從而產生變革性的業務影響。檢索增強生成（RAG）流程是其中的關鍵部分，使用戶能夠與大量數據對話，并將手冊、政策文檔等轉換為交互式生成式 AI 應用程序。然而，企業在實施 RAG 流程時面臨一些常見挑戰。同時處理結構化和非結構化數據很難，而且處理和檢索數據需要大量計算。在 RAG 流程中構建隱私和安全性也很重要。為了解決這一問題，NVIDIA 和 Oracle 攜手合作，展示了 RAG 工作流的多個部分如何利用 Oracle 云基礎設施（OCI）上的 NVIDIA 加速計算平臺。這項方法可以幫助企業更有效地利用結構化和非結構化數據，從而提高生成式 AI 輸出的質量和可靠性。本文將深入探討最近在 Oracle CloudWorld 2024 上演示的 RAG 管道的每個組件：

Source

]]>

Cyborg 和 RAPIDS cuVS 實現矢量搜索機密性保護

Thu, 15 Aug 2024 09:04:13 +0000

在生成式 AI 時代，向量數據庫對于高效存儲和查詢高維數據已變得不可或缺。但是，與所有數據庫一樣，向量數據庫容易受到一系列攻擊，包括網絡威脅、網絡釣魚嘗試和未經授權的訪問。鑒于這些數據庫通常包含敏感和機密信息，這一漏洞尤其重要。為了解決這一關鍵問題，Cyborg 與 NVIDIA 合作，使用 RAPIDS cuVS 庫增強向量數據庫的安全性。RAPIDS cuVS 庫是一個開源工具包，可使用先進的算法加速向量搜索。這項合作旨在為 Cyborg 的加密向量搜索引擎提供 NVIDIA 的 GPU 加速，在不影響性能的情況下確保強大的安全性。向量數據庫是現代數據密集型應用程序的基石，為從檢索增強生成（RAG）流程到推薦系統的所有內容提供支持。這些數據庫的高性能索引構建和搜索功能使其對此類應用程序至關重要，但其存儲的數據的價值使其成為惡意攻擊和漏洞的熱門目標。

Source

]]>

開始使用 NVIDIA Instant NeRFs

Thu, 12 May 2022 04:43:00 +0000

新的 NVIDIA NGP Instant NeRFs 是一個很好的入門介紹，可以幫助你開始學習神經輻射領域。在短短的一個小時內，你就可以編譯代碼庫，準備你的圖像，并訓練你的第一個 NeRF 。與其他 NeRF 實現不同， Instant NeRF 只需幾分鐘就能訓練出好看的視覺效果。在我的實踐視頻（嵌入式）中，我會帶你了解制作第一個書呆子的來龍去脈。我將介紹幾個關鍵技巧，幫助您編譯代碼庫，并解釋如何捕獲好的輸入圖像。我將瀏覽 GUI 界面，并解釋如何優化場景參數。最后，我展示了你必須從你的場景中創建一個動畫。對于經驗豐富的程序員和數據科學家來說，代碼庫很容易編譯。初學者可以從 GitHub 的主存儲庫輕松地遵循 bycloudai 的 fork 中提供的詳細說明。以下是一些有助于安裝過程的附加提示：管道同時接受照片和視頻輸入，以產生即時 NeRF 。

Source

]]>