人工智能是 2023 年全世界討論的話題。它正迅速被包括媒體、娛樂和廣播在內的所有行業所采用。為了在 2023 年及以后取得成功,公司和機構必須比以往任何時候都更快地接受和部署人工智能。視頻分析、 ChatGPT 、推薦器、語音識別和客戶服務等新人工智能程序的能力遠遠超過了幾年前認為可能的任何東西。
然而,根據研究,由于成本原因,只有不到一半的公司或機構成功部署了人工智能應用程序。另一半正在爭先恐后地確定如何準確地利用這種有點神秘的新軟件,這種軟件有望在世界上的每個行業提供競爭優勢。
2023 年 4 月,Supermicro推出了一個新系統,以幫助加快開發人員、新用戶和老用戶的人工智能工作負載部署。這個液冷開發平臺被稱為 Supermicro SYS-751GE-TRT-NV1 ,在當今世界上沒有類似的產品
硬件和軟件系統配有全套NVIDIA AI 企業框架、模型和工具以及 Ubuntu 22 . 04 操作系統。這個新的革命性系統的美妙之處在于,它以比大型超級計算機便宜得多的入門級成本分散了人工智能的開發。
- 通常情況下,研究人員必須預訂使用超級計算機的時間段并排隊等候。
- 他們運行一個應用程序(例如,機器學習培訓)并接收結果。
- 當他們對軟件進行更改時,他們必須通過預訂另一個時間段并在隊列中等待來再次運行培訓。
這太耗時了。它需要很長時間才能獲得所需的結果,并增加了總體擁有成本( TCO )。
有了新的人工智能開發平臺,所有這些問題都得到了解決,總體擁有成本大幅下降。您可以運行 ML 測試,快速獲得結果,然后無需等待即可再次運行測試。隨著新系統接近實際的人工智能開發人員,延遲降低,這對許多人工智能工作負載來說至關重要。
為 AI 企業軟件優化硬件
使這種 Supermicro 產品獨特的技術是能夠對這種溶液進行液體冷卻。內部閉環散熱器和冷卻系統,即安靜又高效節能,并且比大多數人工智能硬件便宜。它幾乎不發熱。
除了這項新的革命性硬件技術外, AI 開發平臺還針對可下載的 NVIDIA AI Enterprise 軟件程序進行了完美優化。這包括 50 多個工作流、框架、預訓練模型和基礎設施優化,這些都可以在VMware vSphere.
最重要的是,這個人工智能開發平臺實際上是即插即用的。開箱即用,打開它,連接到網絡,下載您選擇的人工智能軟件,然后開始運行這些人工智能應用程序!
這里的技術進步是將硬件系統與特定的 NVIDIA AI Enterprise 軟件應用程序完美配對和優化,最大限度地提高軟件能力,以利用人工智能的內在優勢。
根據 NVIDIA AI Enterprise 軟件應用程序的獨特要求優化 Supermicro 硬件,消除了有關您需要多少內存、需要多少 GPU 或必須安裝何種處理器的所有問題。坦率地說,這個系統只是開箱即用
以下是由此給客戶帶來的一些好處:
- 成本效益:隨著價格接近工作站,您可以比以往任何時候都更經濟高效地部署人工智能,而無需試圖弄清楚運行應用程序需要哪些技術硬件組件。
- 靜音系統:它比許多家用電器更安靜,非常適合在數據柜、遠程位置、辦公桌下甚至家中使用。
- 超級強大的系統:該平臺包括四個NVIDIA A100 GPU以及兩個英特爾 CPU ,可以運行目前可用的任何人工智能應用程序。
- 降低具有顯著節能的 TCO :獨立的液體冷卻系統幾乎完全冷卻自己,而不需要外部交流或連接到任何建筑冷凍水系統。
- 提高了安全性:該平臺可以在本地數據中心運行,無論是否依賴云,并且在任何一個位置都是安全的。
- 顯著節省時間:您可以擁有一個專用的、去中心化的系統,使您能夠運行 ML 測試、獲取結果并在不等待的情況下重新運行。
節能安靜的冷卻
Supermicro 的新人工智能開發平臺采用了一種新穎的液體冷卻解決方案,提供了無與倫比的性能和客戶體驗。
液體冷卻解決方案是獨立的,用戶看不見。該系統可以像任何其他風冷系統一樣使用,并為任何類型的用戶提供無問題的液體冷卻體驗。
經過優化的 Supermicro 冷板為兩個第四代 Intel Xeon Scalable CPU ( 270 W TDP )和最多四個 NVIDIA A100 GPU ( 300 W TDP 。
N + 1 冗余泵送系統模塊將液體移動通過冷板,以冷卻 CPU 和 GPU 。它的冗余使泵在故障情況下能夠連續運行,從而實現高系統正常運行時間。
熱量通過高性能散熱器和低功率風扇傳遞到周圍的空氣中。
Supermicro 設計的創新液體冷卻系統可有效冷卻系統,其功耗不到總功耗的 3% ,而標準風冷產品的功耗為 15% 。
最后,該系統在怠速時以極低的噪音水平(約 30 dB )運行,非常適合安靜的辦公環境。
有關詳細信息,請參閱液冷開發平臺。
?