NVIDIA BlueField-3 數據處理器 (DPUs) 現已全面投產， 已在 NVIDIA GTC 2023宣布 被 Oracle Cloud Infrastructure (OCI) 選擇實現更高的性能，更好的效率和更強的安全性。
作為一個 400 Gb / s 的基礎設施計算平臺， BlueField -3 使組織能夠大規模部署和運營數據中心。 NVIDIA DOCA 軟件框架現在支持 BlueField -3 ，使成千上萬的開發人員能夠利用第三代 DPU 平臺的力量，快速創建加速的應用程序和服務。
從數據中心到人工智能工廠
數據中心是新興的人工智能驅動經濟的核心，數據是原材料，人工智能算法是將數據轉化為有價值見解的處理引擎。 BlueField -3 是為世界數據中心提供動力的 NVIDIA 加速計算堆棧的基礎。通過卸載、加速和隔離數據中心控制平面， BlueField -3 DPU 創建了一個安全、加速和可持續的基礎設施，用于在節點集群中運行人工智能和其他現代工作負載，現在作為一個統一的計算平臺運行。
BlueField -3 專為數據中心規模的計算而設計，可提供 400 Gb / s 以太網和 InfiniBand 連接，比上一代多 4 倍的計算能力、高達 4 倍的加密加速速度、 2 倍的存儲處理速度和 4 倍的內存帶寬，同時通過 NVIDIA DOCA 軟件框架提供完全的向后兼容性。
NVIDIA DOCA 引領云服務加速發展
NVIDIA DOCA 是一個專門為 BlueField DPU 設計的 SDK 和加速框架。 DOCA 旨在通過為 BlueField DPU 快速創建和部署應用程序和服務來解鎖數據中心創新。
NVIDIA DOCA 擁有豐富的庫、驅動程序和 API ，是 BlueField DPU 開發人員的“一站式商店”，也是加速云基礎設施服務的關鍵。這使得 NVIDIA DOCA 成為 NVIDIA 人工智能云服務戰略的關鍵組件，該戰略旨在為加速數據中心工作負載和大規模部署人工智能應用程序提供一個靈活而強大的平臺。
超過4700名早期訪問開發人員已經在使用 NVIDIA DOCA 創建 BlueField 應用程序， NVIDIA 很高興宣布 NVIDIA DOCA 全面可用，這將向所有人開放訪問。
NVIDIA DOCA 2.0 支持新的 BlueField -3 個用例
最新發布的 NVIDIA DOCA 2.0 增加了對 BlueField -3 數據路徑加速器（ DPA ）編程子系統的支持，包括 DOCA IPsec 加密/解密庫、設備認證和 YARA 規則在內的多項安全增強。還包括對 DOCA Flow 庫的增強功能。
NVIDIA DOCA 針對 BlueField -3 DPA 的可編程性
NVIDIA DOCA 2.0 添加了增強功能，以利用 BlueField -3 DPA 編程子系統。 DPA 是一種高度可編程的嵌入式處理器，存在于 BlueField -3 DPU 中。它專為網絡密集型、低計算量任務而構建，如設備仿真、擁塞控制、自定義協議等。
NVIDIA DOCA DPA 是 NVIDIA DOCA SDK 包的一部分，它提供了一個用于卸載以網絡為中心的代碼以在 DPA 處理器上運行的編程模型。 DPA 有助于從 CPU 卸載更多類型的流量，并通過 DPU 加速提高性能。
將用于設備仿真的 VirtIO 卸載到 BlueField -3 DPA
在使用 VirtIO 網絡進行設備仿真時， NVIDIA DOCA 和帶有 DPA 的 BlueField -3 比以前的選項有了顯著的改進。在虛擬化環境中，虛擬機（ VM ）需要像物理機一樣訪問網絡。
在本例中，虛擬機通常調用 CPU 來處理特定任務，例如訪問 NIC 。將此任務從 CPU 卸載到 BlueField -3 上專門構建的 DPA 引擎，可以實現比 BlueField -2 高 2 倍的性能，并具有更高的效率，有助于降低數據中心功耗。這有效地消除了數據中心網絡稅，否則會使應用程序失去 CPU 個核心/周期。
與 NVIDIA DOCA IPsec 的安全通信
IPsec 是一種安全協議，提供加密、身份驗證和完整性服務，以保護 IP 數據包免受未經授權的訪問、篡改或竊聽。對安全和高速通信的日益增長的需求給傳統的基于 CPU 的 IPsec 處理帶來了壓力，使卸載成為一種有吸引力的解決方案。
在加速防火墻解決方案中，將 IPsec 卸載到 BlueField -3 DPU 可以優化安全性并加速性能。通過防火墻的流量可以卸載到 DPU ，并通過 IPsec 隧道發送到接收主機，例如，提供具有 200 Gbps 雙向流量的 32K 并發 IPsec 隧道。 這降低了 CPU 的利用率，并通過快速、高效的方法管理可信流量。需要進行威脅檢查的剩余流量通過主機和 CPU 進行路由。此過程現已優化：由于 CPU 不再管理 IPsec 流量，因此防火墻應用程序可提供更好的性能。
DOCA IPsec 庫的添加為下一代防火墻（NGFW）應用程序提供了顯著的好處。庫中包含的資源池，包括消息模板、預先編寫的代碼和子例程，有助于簡化整個開發過程并減少TTM。 DOCA IPsec 庫與 DOCA Flow庫互操作，使開發人員能夠將多個 DOCA Flow 管道鏈接在一起，用于各種網絡管道設計（例如，DOCA Flow NAT管道）。
最后， NVIDIA DOCA 現在能夠以更高的速率對新路由和 NAT 表進行編程，使以近線速率進行 IPsec 加密和解密既可行又實用，同時消除了 CPU 的負擔。
5G 工作負載的高效 GPU 通信
NVIDIA Aerial 是一個用于構建高性能、軟件定義的 5G L1 堆棧的 SDK ，該堆棧在 GPU 上通過并行處理進行了優化。? 具體而言， NVIDIA Aerial SDK 可用于構建基帶單元（ BBU ）軟件，該軟件負責通過無線電單元（ RU ）發送（下行鏈路）或接收（上行鏈路）拆分為多個以太網數據包的無線客戶端數據幀。?
在上行鏈路中， BBU 接收分組，驗證它們，并在觸發信號處理之前重建每個 RU 的原始數據幀。使用 NVIDIA Aerial SDK ，這種情況發生在 GPU 中， CUDA 內核專用于每個時隙的每個 RU ?. 然而，隨著信元數量的增加，網卡和 GPU 之間的 CPU 功能成為瓶頸。?
NVIDIA DOCA 軟件框架提供了一種將 CPU 從關鍵路徑中刪除并實現 NIC 和 CUDA 內核之間的直接通信的方法（ GPU 直接異步內核啟動技術）。新的 DOCA GPU NetIO 庫提供了 CUDA 設備功能，應用程序可以在 CUDA kernel 內調用這些功能，以便在不需要 CPU 內核或內存的情況下直接向 GPU 發送和接收數據包。
通過這種方式， NVIDIA Aerial BBU 軟件可以提供一種高度并行化和可擴展的方法，每個單元專用一個 CUDA 內核來接收數據包。這使系統容量提高了 4 倍（從以 CPU 為中心的 4 個單元到以 GPU 為中心通過 DOCA GPU NetIO 的 16 個單元）。
CPU 不再需要與 GPU 通信來提供數據包信息，使 CPU 能夠專注于應用程序處理，而不是管理網絡開銷。? 注冊 NVIDIA DOCA GPUNetIO 搶先體驗。
加速人工智能服務
為了充分發揮人工智能的潛力，數據中心正轉向加速計算，以滿足日益增長的計算需求。 BlueField -3 是第三代基礎設施計算平臺，支持 400 Gb / s 連接，并提供前所未有的計算和加速能力。在 NVIDIA DOCA 2.0 版本的支持下， BlueField -3 正在為人工智能時代改造云、超級計算和企業數據中心。
加入 NVIDIA 創始人兼首席執行官黃仁勛（ Jensen Huang ）的 NVIDIA GTC 2023 keynote ，了解 NVIDIA BlueField DPU?和 NVIDIA DOCA 的更多信息。
?
