Rob Nertney – NVIDIA 技術博客 http://www.open-lab.net/zh-cn/blog 閱讀開發者創建的最新技術信息、頭條新聞 和內容。 Fri, 22 Nov 2024 07:09:46 +0000 zh-CN hourly 1 196178272 探索采用自主 AI 和 NVIDIA 機密計算的超級協議案例 http://www.open-lab.net/zh-cn/blog/exploring-the-case-of-super-protocol-with-self-sovereign-ai-and-nvidia-confidential-computing/ Thu, 14 Nov 2024 07:06:03 +0000 http://www.open-lab.net/zh-cn/blog/?p=12032 Continued]]> 機密和自主的 AI 是一種新的 AI 開發、訓練和推理方法，其中用戶的數據是去中心化的、私有的，并由用戶自己控制。本文將探討如何通過使用區塊鏈技術的去中心化來擴展 Confidential Computing（CC）的功能。 通過使用個人 AI 智能體，可以非常清楚地看到所解決的問題。這些服務可幫助用戶完成許多任務，包括撰寫電子郵件、準備報稅和查看醫療記錄。毋庸置疑，所處理的數據是敏感的個人數據。 在集中式系統中，這些數據由人工智能服務提供商在云中處理，通常不透明。當用戶的數據離開設備時，他們將失去對自己數據的控制，而這些數據可能會被用于訓練、泄露、出售或以其他方式被誤用。屆時無法追蹤個人數據。 這種信任問題阻礙了 AI 行業發展的某些特定方面，尤其是對于尚未獲得聲譽或證據來支持其真實意圖的初創公司和 AI 開發者而言。

Source

]]> 12032 Cyborg 和 RAPIDS cuVS 實現矢量搜索機密性保護 http://www.open-lab.net/zh-cn/blog/bringing-confidentiality-to-vector-search-with-cyborg-and-rapids-cuvs/ Thu, 15 Aug 2024 09:04:13 +0000 http://www.open-lab.net/zh-cn/blog/?p=11052 Continued]]> 在生成式 AI 時代，向量數據庫對于高效存儲和查詢高維數據已變得不可或缺。但是，與所有數據庫一樣，向量數據庫容易受到一系列攻擊，包括網絡威脅、網絡釣魚嘗試和未經授權的訪問。鑒于這些數據庫通常包含敏感和機密信息，這一漏洞尤其重要。 為了解決這一關鍵問題，Cyborg 與 NVIDIA 合作，使用 RAPIDS cuVS 庫增強向量數據庫的安全性。RAPIDS cuVS 庫是一個開源工具包，可使用先進的算法加速向量搜索。這項合作旨在為 Cyborg 的加密向量搜索引擎提供 NVIDIA 的 GPU 加速，在不影響性能的情況下確保強大的安全性。 向量數據庫是現代數據密集型應用程序的基石，為從檢索增強生成（RAG）流程到推薦系統的所有內容提供支持。 這些數據庫的高性能索引構建和搜索功能使其對此類應用程序至關重要，但其存儲的數據的價值使其成為惡意攻擊和漏洞的熱門目標。

Source

]]> 11052 CUDA 工具包 12.4 增強對 NVIDIA Grace Hopper 和機密計算的支持 http://www.open-lab.net/zh-cn/blog/cuda-toolkit-12-4-enhances-support-for-nvidia-grace-hopper-and-confidential-computing/ Wed, 06 Mar 2024 06:11:56 +0000 http://www.open-lab.net/zh-cn/blog/?p=9109 Continued]]> 最新版本的 CUDA 工具包，即 版本 12.4，繼續利用最新的 NVIDIA GPU 來推動加速計算性能。本文將介紹此版本中包含的新功能和增強功能： CUDA 和 CUDA 工具套件軟件為數據科學和分析、機器學習、使用大型語言模型 (LLM) 進行深度學習的所有 NVIDIA GPU 加速計算應用程序提供基礎 .CUDA 軟件堆棧和生態系統提供一個平臺，幫助開發者解決全球極為復雜的計算問題，尤其是在多 GPU 和多節點分布式架構中。 每個 CUDA 工具包版本都需要最低版本的 CUDA 驅動程序。CUDA 驅動程序具有向后兼容性，這意味著使用特定版本的 CUDA 編譯的應用程序將繼續在后續版本的驅動程序中運行。有關兼容性的更多信息，請參閱 CUDA C++最佳實踐指南。 此版本引入了一種新的內存遷移算法，適用于 NVIDIA Grace Hopper 系統。

Source

]]> 9109 NVIDIA CUDA 工具包 12 . 2 釋放強大功能，提升應用程序 http://www.open-lab.net/zh-cn/blog/nvidia-cuda-toolkit-12-2-unleashes-powerful-features-for-boosting-applications/ Thu, 06 Jul 2023 03:57:31 +0000 http://www.open-lab.net/zh-cn/blog/?p=7374 Continued]]> 最新發布的 NVIDIA CUDA Toolkit 12.2 引入了一系列重要的新功能，對編程模型進行了修改，并增強了對硬件功能的支持，加速了 CUDA 應用程序的發展。 現在，通過 通用可用性 來獲取 NVIDIA 的 CUDA Toolkit 12.2，其中包括許多新功能，包括主要功能和次要功能。 以下文章概述了許多關鍵功能，包括： 作為 加速計算，NVIDIA 為解決世界上最嚴峻的計算挑戰創造了解決方案。加速計算需要全棧優化，從芯片架構、系統和加速庫，到安全和網絡連接，這一切都始于 CUDA 工具包。 觀看以下 CUDA Toolkit12.2 YouTube 首映式網絡研討會。 新的 H100 現在，所有 GPU 的編程模型增強都支持 GPU 架構的功能，包括新的 PTX 指令以及通過更高級別的 C 和 C++ API 進行的公開。

Source

]]> 7374 CUDA 工具包 12.0 正式發布 http://www.open-lab.net/zh-cn/blog/cuda-toolkit-12-0-released-for-general-availability/ Mon, 12 Dec 2022 06:48:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=5955 Continued]]> NVIDIA 宣布最新的 CUDA 工具包軟件版本 12.0 。該版本是多年來的第一個主要版本，它專注于通過新的硬件功能實現新的編程模型和 CUDA 應用程序加速。 現在，您可以使用 CUDA 自定義代碼、增強的庫和開發人員工具，針對 NVIDIA Hopper 和 NVIDIA Ada Lovelace 架構中特定于架構的功能和指令。 CUDA 12.0 包括許多主要和次要的變化。這里并沒有列出所有更改，但本文概述了關鍵功能。 有關詳細信息，請參見 CUDA Toolkit 12.0 Release Notes 。 CUDA Toolkit 12.0 可供下載。 CUDA 應用程序可以立即受益于新 GPU 系列中增加的流式多處理器（ SM ）計數、更高的內存帶寬和更高的時鐘速率。 CUDA 和 CUDA 庫基于 GPU 硬件架構增強提供了新的性能優化。

Source

]]> 5955 CUDA Toolkit 11.8 揭示的新功能 http://www.open-lab.net/zh-cn/blog/cuda-toolkit-11-8-new-features-revealed/ Tue, 04 Oct 2022 07:45:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=5359 Continued]]> NVIDIA 發布了最新的 CUDA 工具包軟件版本 11.8 。該版本的重點是通過新的硬件功能增強編程模型和 CUDA 應用程序加速。 NVIDIA Hopper 和 Ada Lovelace 中新的特定于體系結構的功能最初通過庫和框架增強公開。 NVIDIA Hopper 體系結構的完整編程模型增強將從 CUDA Toolkit 12 系列開始發布。 CUDA 11.8 有幾個重要特性。本文概述了關鍵功能。 CUDA 應用程序可以立即從新的 GPU 系列中增加的流式多處理器（ SM ）計數、更高的內存帶寬和更高的時鐘頻率中受益。 CUDA 和 CUDA 庫公開了基于 GPU 硬件體系結構增強的新性能優化。 NVIDIA 基于 11.7 中的惰性內核加載特性，在 CPU 模塊端添加了惰性加載。這意味著函數和庫在 CPU 上的加載速度更快，

Source

]]> 5359 人人超碰97caoporen国产