• <xmp id="om0om">
  • <table id="om0om"><noscript id="om0om"></noscript></table>
  • 3 月 19 日下午 2 點,鎖定 NVIDIA AI 網絡中文專場。立即注冊觀看
    數據科學

    借助 NVIDIA Grace CPU 提升數學優化性能和能效

    數學優化是一種功能強大的工具,可以幫助企業和人們做出更明智的決策,并實現任意數量的目標。這些目標包括提高運營效率、降低成本和提高客戶滿意度。許多日常用例都可以應用數學優化,例如調度航班、定價酒店房間、選擇 GPS 路線和規劃貨運卡車路線等。

    然而,數學優化計算需求很高。模型復雜性和數據集大小需要復雜的 AI 算法和高性能計算。由于對更快、更好的數學優化解決方案的需求不斷增長,從系統、軟件平臺到加速庫,全棧創新是必需的。

    Gurobi 成立于 2008 年,是一家數學優化求解器,可解決復雜問題,并在數秒內向全球各行各業的 1200 多家客戶提供優化解決方案。該公司獲得了一臺基于 Supermicro NVIDIA MGX 的系統,由 NVIDIA GH200 Grace Hopper 超級芯片提供支持,該系統能夠以低功耗實現快速性能。

    這篇博客文章探討了使用基于 Arm 的 NVIDIA Grace CPU 的基準測試結果和用例,這些用例表明了效率的提高。

    為混合整數編程庫設置計算優化測試環境

    測試平臺由 Supermicro 的單個 NVIDIA Grace Hopper 超級芯片服務器、四臺 AMD EPYC 7313P 服務器組成的集群(每臺服務器均具有 16 個核心和 256 GB 的 DDR4 內存)以及在 Ubuntu 22.04 上的 Gurobi Optimizer 11.0 組成。

    NVIDIA Grace Hopper 超級芯片通過高帶寬、一致性 NVIDIA NVLink-C2C(芯片到芯片)互連技術,將基于 Arm 的 NVIDIA Grace CPU 與 NVIDIA Hopper GPU 相結合。Grace CPU 具有 72 個核心和 480 GB 的高性能、低功耗雙數據速率 5 倍(LPDDR5X)內存。

    為了評估性能,Gurobi 使用混合整數編程庫 (MIPLIB) 2017 中的代表性基準集進行了一系列實驗,該集包含 240 個真實世界優化實例。然后,將 NVIDIA Grace CPU 在 Grace Hopper 超級芯片上的結果與客戶常用的 AMD EPYC 服務器集群進行了比較。

    初步結果

    第一個圖形顯示了 MIPLIB 基準集中的硬模型的運行時間。

    Grace Hopper 在大多數困難模型上表現優于 EPYC,平均運行時間約為 80 秒,相比之下 AMD 的平均運行時間為 130 秒,提高了 38%。

    A bar graph showing AMD EPYC 7313P on the left compared to the NVIDIA Grace CPU on the right with red bars showing runtime and dark blue bars showing PAR10 performance. Results show the NVIDIA Grace CPU outperforms AMD EPYC 7313P with lower runtime.
    圖 1. NVIDIA Grace CPU 上運行時的幾何平均值與 AMD EPYC 7313P 的比較

    下圖顯示了整個 MIPLIB 基準測試集的吞吐量和能耗。時間和能耗越低,性能越好。這意味著,性能好的系統應該具有較低的時間和能耗。同樣,在這兩個指標上,NVIDIA Grace CPU 的性能都優于 AMD EPYC 7313P,具體來說,運行速度提高了近 23%,而能耗降低了 46%。

    A bar graph showing AMD EPYC 7313P with 16 threads on the left, 12x NVIDIA Grace CPU with 12 threads in the middle, and 16x NVIDIA Grace CPU with 8 threads on the right. Red bars show elapsed time in hours and light blue bars show energy usage in kWh.
    圖 2. NVIDIA Grace CPU 的吞吐量和能耗與 AMD EPYC 7313P 的比較

    圖 3 顯示了 MIPLIB 基準測試集的能耗,以千瓦時為單位。對于每種配置,Grace Hopper 在兩個線程數量上消耗的能耗均低于 AMD EPYC 7313P,結果是:Grace Hopper 消耗的能耗少于 AMD EPYC 7313P,無論是哪種線程數量。

    • 在 8 個線程的情況下,NVIDIA Grace CPU 的功耗約為 1.4 kWh,比 AMD 的 1.75 kWh 低 20%。
    • 對于 12 個線程,NVIDIA Grace CPU 的耗電量約為 1.6 千瓦時,而 AMD 的耗電量為 2.6 千瓦時,相比之下提高了 38%。
    A bar graph showing AMD EPYC 7313P with 16 threads, 12x NVIDIA Grace CPU with 12 threads, 16x NVIDIA Grace CPU with 8 threads, and AMD EPYC 7313P with 8 threads. Blue bars show relative performance on the MIPLIB Benchmark set with the Grace CPU outperforming AMD EPYC 7313P.
    圖 3. NVIDIA Grace CPU 上的 MIPLIB 基準集能耗(千瓦時),與 AMD EPYC 7313P 的比較。

    這些結果表明,NVIDIA Grace CPU 上的 Gurobi Optimizer 在解決具有挑戰性的 MIP 模型方面比 AMD EPYC 7313P 實現了顯著的加速和節能。

    這歸功于 NVIDIA Grace CPU 出色的多處理能力,它能夠高效地處理優化器的高計算和內存需求。

    借助 NVIDIA Grace Hopper 超級芯片,我們可以快速、高效地解決問題

    初步基準測試表明,Gurobi Optimizer 和 NVIDIA Grace Hopper 超級芯片支持更快的計算性能,同時也具有更低的能耗。他們計劃通過額外的調整和測試來改進其結果。

    對于希望提高能效,同時以更出色的性能應對復雜業務挑戰的各行各業的公司而言,這為他們提供了廣闊的前景。為了更好地了解測試和結果,請觀看 NVIDIA GTC 的點播會議。同時,如果您想了解數學優化如何幫助解決最復雜的挑戰,請查看 Gurobi 資源中心

    ?

    0

    標簽

    人人超碰97caoporen国产