向現代分布式工作負載的轉變，以及更高的網絡速度，增加了基礎設施服務的開銷。為企業提供動力的應用程序可用的 CPU 周期較少。部署數據處理器（ DPU ）來卸載和加速這些基礎設施服務可以提供更快的性能、更低的 CPU 利用率和更好的能源效率。
許多現代工作負載是分布式的，這意味著它們不再只適用于一臺服務器。相反，它們在多個服務器上同時運行，以實現更大的可擴展性和可用性。此類工作負載包括網絡和電子商務應用程序，如 NoSQL 數據庫、分析、人工智能和 Redis 等關鍵價值商店。
許多公司在 vSphere 企業工作負載平臺上運行這些分布式工作負載。隨著應用程序的不同部分在虛擬機和主機之間進行通信， vSphere 必須投入越來越多的 CPU 功率來管理數據移動和網絡等基礎架構工作負載。
在 CPU 和 DPU 上運行網絡和安全基礎設施服務，為業務應用程序釋放了 CPU Core ，還大大減少了 CPU 緩存污染和上下文切換等問題，從而形成了一個高效的系統。
vSphere 軟件
vSphere on DPUs（前身為 Project Monterey ）與vSphere 8。與 NVIDIA BlueField DPU 一起，它為應用程序工作負載流量提供了通過虛擬機監控程序快速聯網的能力。在直通模式下運行 BlueField DPU 可以將網絡處理卸載并隔離到 DPU 。這將顯著提高應用程序的性能。
為了測試這一理論， NVIDIA 和 VMware 聯合展示了在 DPU 上運行的 vSphere 8 如何提高可擴展性、效率和性能。
Redis 鍵值存儲數據庫
由于 Redis 作為多模型 NoSQL 數據庫服務器和緩存引擎的受歡迎程度，兩家公司的工程專家都選擇它在 NVIDIA 實驗室中用 BlueField DPU 在 vSphere 8 上測試 Redis 。
Redis 代表遠程字典服務器，是一個快速、開源、內存中的鍵值數據存儲。 Redis 超越了其他 NoSQL 數據庫，提供了現代應用程序所需的高級功能，包括內置復制的各種數據結構，通過 Redis Sentinel 提供高可用性的能力，以及 Redis Cluster 的自動分區。
測試的指標包括以下內容：
- Redis 每秒事務數（ TPS ）
- 平均應用程序延遲
- 網絡吞吐量
- 服務器 CPU 用于網絡的利用率
- 能源效率
Redis 基準
測試包括運行多個工作負載，網絡設置使用 Geneve 覆蓋網絡VMware NSX以及 NSX 分布式防火墻。測試比較了三種網絡選項：
- 增強型數據路徑（ EDP ）標準，帶有常規 NIC ，無 DPU 卸載
- 帶有部分 DPU 卸載的 EDP 標準（默認模式）
- EDP 標準，帶完全 DPU 卸載和加速
DPU 卸載并隔離網絡處理，從而產生使用 DPU 上的加速器和緩存的網絡處理。這釋放了主機上用于應用程序邏輯的緩存，從而顯著提高了吞吐量和延遲方面的應用程序性能。有兩種使用 DPU 的方法：
- 加速模式：可以通過實現類似 SR IOV 的高網絡性能來實現最佳效果，而不會失去 vSphere 所支持的工作負載移動服務。
- 默認模式：為網絡處理提供基于 DPU 的卸載和加速，但也會在主機上產生一些 CPU 開銷。它釋放的內核數量不如 UPTv2 模式那么多。
基準結果
為白皮書進行的測試在 NSX 上使用了網絡加速，使用了 L4 分布式防火墻的覆蓋網絡。該結果在 80 個 Redis 實例中使用完全 DPU 加速（ UPTv2 的 EDP 標準）實現了近 20M 的 TPS 。
我們還使用默認的 DPU 卸載模式實現了其中的很大一部分（ 17 . 74M TPS ）。使用標準的 ConnectX-5 NIC ，在沒有任何 DPU 卸載或加速的情況下，我們在僅運行 30 個 Redis 實例的情況下達到了 1275M TPS 左右的峰值。
我們還觀察到，與使用常規 NIC 相比，使用 DPU 卸載和 DPU 完全加速時的應用程序延遲顯著降低。使用 DPU 卸載和加速 VMware ESXi 網絡，與使用常規 NIC 相比，延遲更低。隨著 Redis 實例數量的增加， DPU 的延遲優勢更加顯著。
從吞吐量和帶寬來看，我們發現使用 DPU 卸載時的吞吐量高于標準 NIC 。 DPU 全加速顯示最高吞吐量。由于 CPU 核心無法處理任何額外的網絡任務，標準 NIC 吞吐量穩定在 30 個實例。隨著 Redis 實例數量的增加， DPU 卸載和全加速模式繼續提高吞吐量
對于 10-30 個實例， DPU 的功耗略低，對于 40-80 個實例，功耗略高。然而，服務器使用 DPU 完成了相當多的工作，從而提高了電源效率。
使用 DPU 卸載仍然消耗了一些 x86 處理周期，但程度要小得多，因為部分網絡處理從 CPU 轉移到了 DPU 。這帶來了更好的能源效率。當使用覆蓋網絡和 EDP 標準時，與常規 NIC 相比，完全 DPU 加速每百萬 TPS 使用的瓦數減少了 6%-40% 。
通過減少 ESXi 網絡所需的 CPU 內核數量， DPU 釋放這些內核以運行額外的虛擬機和應用程序。這使得更多的工作負載能夠在相同數量的服務器上運行。您還可以使用更少的服務器來支持在沒有 DPU 卸載的情況下運行的相同工作負載。
價值主張
基準測試結果確定，啟用 BlueField DPU 的主機可以實現比未啟用 DPU 主機更好的事務延遲，同時使用的 CPU 內核也減少了 20% 。啟用 DPU 的主機的吞吐量提高了 30% 以上，事務延遲減少了 25% 以上。
DPU 全加速還提高了能源效率，每次交易的瓦特數減少了 35% ，每瓦特的性能提高了 50% 。該基準測試證明，在 BlueField DPU 上運行 vSphere 分布式服務引擎可以使數據中心將 Redis 服務器的數量減少 14-18% 。
最大限度地提高投資回報率
由于在 DPU 加速（ UPTv2 ）模式下保存了 CPU 內核，而在 Z1KO 卸載（默認）模式下則保存了較少的 CPU cores ，因此您需要減少 4-15 個 CPU ‘內核來支持相同的 Redis 工作負載。這使您能夠將服務器數量減少 14 – 18% ，假設每個 ESX 主機的工作負載為 30 – 80 個 Redis 實例。這使得購買更少的服務器和支付更少的數據中心基礎設施可以節省資本支出。它還節省了 OpEx ，因為服務器數量的減少消耗了更少的電力以及相關的配電和冷卻電力。
對于最初需要 10K 服務器的 Redis on vSphere 部署，一個簡單的 TCO 分析，其中 BlueField 完全加速模式將所需服務器數量減少 14-18% ，將在 3 年內節省 830 萬至 1060 萬美元。其中大約一半用于節省資本支出（減少服務器），一半用于節省運營支出（減少電力消耗以及相關的冷卻和配電成本降低）。
如果您只部署幾個 ESX 主機， Redis 服務器仍然可以從提高的應用程序性能中獲益。隨著應用程序需求的增長，加速的服務器可能會推遲購買或升級服務器，從而避免未來的成本。
這些指定的結果和成本節約是針對所使用的 25G DPU 的，因為我們受到此處測試的最大規模下加速模式下 DPU 的線路速率的限制。
使用 VMware VSphere 8 和 NVIDIA BlueField DPU 加速 Redis 性能
這個Accelerating Redis performance using VMware vSphere 8 and NVIDIA BlueField DPU白皮書記錄了測試和結果。本文揭示了將 vSphere 與 BlueField DPU 的硬件加速網絡卸載一起使用，可以顯著提高應用程序性能，提供更高的吞吐量，并實現更快的響應時間。
它還展示了卸載到 DPU 可以釋放服務器 CPU 內核來運行應用程序并提高操作效率。 DPU 卸載和加速還降低了每個應用程序事務所使用的功率，從而實現了更高效的數據中心，并通過降低功耗顯著節省了成本。
通過 NVIDIA LaunchPad 在 BlueField DPU 上體驗 VMware
為了體驗 BlueField DPU 的優勢， NVIDIA 提供LaunchPad，一個非常適合展示優勢的演示區。您可以申請測試在 vSphere 和 BlueField 上運行的各種應用程序和庫，而無需在數據中心購買和部署硬件。
LaunchPad 包括幾個精心策劃的實驗室，可以指導您完成在多個用例中運行的部署和性能基準測試，包括帶有 BlueField DPU 的 vSphere 上的 Redis 。
本實驗室指導您逐步完成在 vSphere 8 環境中安裝、配置和部署 Redis 的過程。它使您能夠比較有 BlueField DPU 加速和沒有 BlueField 加速的 Redis 測試，以驗證性能提升。
LaunchPad 為開發人員、設計師和 IT 專業人員提供了快速訪問所需硬件和工具的機會，以熟悉新技術并確定他們如何從 DPU 加速中受益。企業團隊可以使用 LaunchPad 加快創建和部署現代數據密集型應用程序的速度。在 LaunchPad 上進行快速測試和原型制作后，可以為其生產工作流部署相同的完整堆棧。
總結
DPU 已經廣泛部署在超大型機中，以解決基礎設施功能，并為創收工作負載騰出 CPU 周期。每個安裝了 vSphere 分布式服務引擎和 BlueField DPU 的節點都可以使用 DPU 卸載來提高性能。它為企業提供了一個有效的解決方案，以解決新工作負載給服務器帶來的壓力。
根據 NVIDIA 與 VMware 和 NVIDIA LaunchPad 實驗室的測試結果，在 VMware 服務器中添加 DPU 可以降低 TCO ，同時改善整體工作負載處理。將基礎設施進程卸載到 DPU ，通過在 CPU 和基礎設施之間添加隔離來提高整體安全性。
有關更多信息，請參閱以下資源：
- vSphere on DPUs Behind the Scenes: A Technical Deep Dive（ GTC 會話）
- Redis on VMware with BlueField DPU（白皮書）
- Benchmarking Redis Workloads Lab | VMware vSphere on NVIDIA BlueField DPU（視頻）
- vSphere on DPUs
加入我們Hybrid Cloud Architecture with VMware vSphere on NVIDIA BlueField DPU網絡研討會（點播）。
?
