在最近的 DC Anti-Conference Live 演示中,NVIDIA 首席數據中心杰出工程師 Wade Vinson 分享了基于 NVIDIA 自 2016 年以來設計、構建和運營 NVIDIA DGX SuperPOD 多兆瓦級數據中心所取得的工作成果的見解。
NVIDIA 致力于使數據中心更易于訪問、更節約資源、更節能、更高效地開展業務,并可擴展到全球任何規模和地點。數據中心向 AI 數據中心的演進不僅是一種趨勢,也是 AI 工作流日益增長的計算需求所驅動的必然趨勢。
GPU 革命?
這一轉型的核心在于 GPU 的強大功能。自 2012 年引入數據中心以來,GPU 實現了并行處理,并顯著縮短了密集型任務所需的時間,從而徹底改變了整個行業。這一轉變帶來了顯著的改進,與基于 CPU 的傳統系統相比,每瓦性能提高了 30 倍,每美元性能提高了 60 倍。
GPU 的影響不僅限于性能增強;它們正在重塑數據中心運營的基礎,為更高效、更經濟高效的 AI 驅動型基礎設施鋪平道路。
能效:新領域
推動可持續計算 發展是推動數據中心向 AI 工廠轉型的關鍵因素。最近的進展導致訓練和推斷大型語言模型的能源效率大幅提高。曾經需要 40 吉瓦時的電力現在只需要 3 吉瓦時,這標志著效率的顯著提高。
隨著大型語言模型構建器的數量不斷增長,這一進展至關重要。此外,效率還擴展到日常應用程序,典型的 ChatGPT 查詢每小時僅消耗 0.4 瓦。
隨著數據中心的發展,對每瓦特性能和每美元性能的關注將繼續推動整個平臺的創新,包括 GPU、CPU、互連、電源和冷卻系統,最終打造出效率超高的 AI 工廠。
切莫錯過 Wade Vinson 關于將數據中心轉變為 AI 工廠的演講,這是向第 5 次工業革命邁出的關鍵一步。立即觀看 DC AC 直播主題演講視頻 ,掌握引領您的組織邁向 AI 驅動的數據中心未來所需的知識。