]]>12907NVIDIA Air 簡要介紹
http://www.open-lab.net/zh-cn/blog/an-introduction-to-nvidia-air/
Thu, 12 Dec 2024 09:14:16 +0000http://www.open-lab.net/zh-cn/blog/?p=12325Continued]]>AI 的出現帶來了一種新型數據中心,即 AI 工廠 ,專門用于處理 AI 工作負載。AI 工作負載的范圍和規模可能會有很大差異,但在每種情況下,網絡都是確保高性能和更快實現價值的關鍵。 為縮短 AI 部署時間并提高投資回報率, NVIDIA Air 助力企業組織構建網絡基礎設施的數字孿生。在基于云的 NVIDIA Air 界面中,您可以對 AI 工廠中的每個交換機、適配器和電纜進行建模。 此數字孿生提供了一個虛擬環境,用于測試和驗證網絡調配、自動化、安全策略等。網絡管理員可以在單個硬件交付之前開始執行這些第 0 天操作。 NVIDIA Air 專門面向模擬真實的數據中心環境。它提供了執行此類壯舉所需的巨大速度、資源和網絡功能。您可以在幾秒鐘內啟動新服務器,幾分鐘內即可啟動數十甚至數百臺。 它還提供了多種版本的不同網絡操作系統,可安裝在您的交換機上,
]]>12325探索采用自主 AI 和 NVIDIA 機密計算的超級協議案例
http://www.open-lab.net/zh-cn/blog/exploring-the-case-of-super-protocol-with-self-sovereign-ai-and-nvidia-confidential-computing/
Thu, 14 Nov 2024 07:06:03 +0000http://www.open-lab.net/zh-cn/blog/?p=12032Continued]]>機密和自主的 AI 是一種新的 AI 開發、訓練和推理方法,其中用戶的數據是去中心化的、私有的,并由用戶自己控制。本文將探討如何通過使用區塊鏈技術的去中心化來擴展 Confidential Computing(CC)的功能。 通過使用個人 AI 智能體,可以非常清楚地看到所解決的問題。這些服務可幫助用戶完成許多任務,包括撰寫電子郵件、準備報稅和查看醫療記錄。毋庸置疑,所處理的數據是敏感的個人數據。 在集中式系統中,這些數據由人工智能服務提供商在云中處理,通常不透明。當用戶的數據離開設備時,他們將失去對自己數據的控制,而這些數據可能會被用于訓練、泄露、出售或以其他方式被誤用。屆時無法追蹤個人數據。 這種信任問題阻礙了 AI 行業發展的某些特定方面,尤其是對于尚未獲得聲譽或證據來支持其真實意圖的初創公司和 AI 開發者而言。
]]>11688NVIDIA Grace CPU 實現全球頂級數據中心性能和突破性能效優勢
http://www.open-lab.net/zh-cn/blog/nvidia-grace-cpu-delivers-world-class-data-center-performance-and-breakthrough-energy-efficiency/
Wed, 09 Oct 2024 05:11:03 +0000http://www.open-lab.net/zh-cn/blog/?p=11758Continued]]>NVIDIA 將 NVIDIA Grace CPU 設計為一種新型高性能數據中心 CPU,旨在提供突破性的 能效 ,并針對數據中心規模的性能進行了優化。 與傳統 CPU 計算相比,加速計算在性能和能效方面實現了巨大的飛躍。為了實現這些加速,需要數據中心規模的全棧創新,涵蓋芯片、系統、軟件和算法。為適合的工作負載選擇合適的架構并提供出色的節能性能對于最大限度地提高數據中心的性能和最小化占用空間至關重要。 隨著工作負載的加速程度不斷提高,目前仍有一些用例主要在傳統 CPU 上運行,尤其是圖形分析等稀疏和“分支”序列化任務的代碼。與此同時,數據中心受到越來越多的電力限制,限制了其能力的增長。這意味著所有可以加速的工作負載都應該加速。那些無法加速的工作負載必須在盡可能高效的計算上運行,而 CPU 必須針對這些工作負載進行優化。
]]>11758在電路設計中使用生成式 AI 模型
http://www.open-lab.net/zh-cn/blog/using-generative-ai-models-in-circuit-design/
Fri, 06 Sep 2024 09:07:48 +0000http://www.open-lab.net/zh-cn/blog/?p=11314Continued]]>從智能文本生成大語言模型(LLMs)到創意圖像和視頻生成模型,生成式模型在過去幾年中掀起了巨大的浪潮。在 NVIDIA,我們正在探索使用生成式 AI 模型來加速電路設計流程,并提供更好的設計,以滿足對計算能力不斷增長的需求。 電路設計是一個具有挑戰性的優化問題。設計師通常需要平衡功率和面積等多個相互沖突的目標,并滿足特定時間等約束條件。設計空間通常是組合的,因此很難找到最優設計。之前對前綴電路設計的研究使用手工制作的啟發式和強化學習來探索廣闊的設計空間。有關更多詳細信息,請參閱《Towards Optimal Performance-Area Trade-Off in Adders by Synthesis of Parallel Prefix Structures and Cross-Layer Optimization for High Speed Adders: A…
]]>10670在 NVIDIA Air 上探索 SONiC
http://www.open-lab.net/zh-cn/blog/exploring-sonic-on-nvidia-air/
Mon, 24 Jun 2024 05:45:21 +0000http://www.open-lab.net/zh-cn/blog/?p=10438Continued]]>測試網絡基礎設施和為新環境構建可工作的 PoC,往好了說可能很棘手,往壞了說可能非常可怕。你可能會遇到無法滿足的許可要求,或者為高級虛擬機軟件支付昂貴的費用。專有網絡系統可能花費數百或數千美元,只是為了建立一個可供使用的測試環境。你甚至可能會被迫在物理、可能過時的硬件上進行測試,你必須自己連接,如果你需要用更多的硬件進行測試,你必須找到并購買更多。 進入SONiC(云中開放網絡軟件),這是一個免費的、社區開發的、基于 Linux 的網絡操作系統(NOS),它在一些最大的云服務提供商的數據中心得到了加強 SONiC 是尋求低成本、可擴展和完全可控的 NOS 而又不犧牲靈活性或安全性的中心的理想選擇,它提供了開發人員所需的所有標準網絡功能,并隨著新功能和更新不斷發展。 Community SONiC 是開源的,與專有的 NOS 相比,它消除了許可和供應商鎖定墻,并顯著降低了成本,