端到端人工智能 – NVIDIA 技術博客 http://www.open-lab.net/zh-cn/blog 閱讀開發者創建的最新技術信息、頭條新聞 和內容。 Thu, 25 May 2023 05:33:32 +0000 zh-CN hourly 1 196178272 最大化數據中心能源效率的策略 http://www.open-lab.net/zh-cn/blog/strategies-for-maximizing-data-center-energy-efficiency/ Tue, 23 May 2023 05:29:52 +0000 http://www.open-lab.net/zh-cn/blog/?p=7024 Continued]]> 數據中心是現代企業的重要組成部分,但它們需要高昂的能源成本。更為復雜的是,能源成本正在上升,對數據中心的需求持續擴大,預計從 2023 年到 2030 年,市場規模將增長 25% 。 在全球范圍內,能源成本已經對數據中心和高性能計算( HPC )系統。為了減輕能源成本負擔,數據中心管理人員正在推遲購買新系統,限制當前系統的功能,甚至減少運營時間。由于成本和需求的復合增長,必須盡快找到替代能源或盡可能經濟高效地提高能源效率。 在這篇文章中,我們討論了降低數據中心能耗的四種實用策略。通過實施這些策略,您可以降低能源成本,提高數據中心的性能和可靠性。最終,這些策略只是提高您的環境、社會和治理( ESG )投資吸引力的第一步,這是全球投資者日益重視的問題。 在深入研究之前,我們要注意的是,能源效率只是實現可持續發展的一步。目前,數據中心的能源效率處于可持續性計算,計算機、

Source

]]>
7024
基于 NVIDIA 的 PC 端到端人工智能:從 FP32 過渡到 FP16 優化人工智能 http://www.open-lab.net/zh-cn/blog/end-to-end-ai-for-nvidia-based-pcs-optimizing-ai-by-transitioning-from-fp32-to-fp16/ Thu, 27 Apr 2023 03:07:59 +0000 http://www.open-lab.net/zh-cn/blog/?p=6864 Continued]]> 這篇文章是關于人工智能端到端優化。 人工智能模型的性能在很大程度上受到所使用計算資源的精度的影響。較低的精度可以提高處理速度和減少內存使用,而較高的精度可以獲得更準確的結果。在精度和性能之間找到正確的平衡對于優化人工智能應用程序至關重要。 NVIDIA GPU 配備了 Tensor Core 等專用硬件,已成為加速人工智能工作負載的關鍵組件。為了充分利用它們的功能,重要的是要滿足某些限制,并基于特定的人工智能應用程序優化硬件。 在這篇文章中,我們討論了如何通過從 FP32 (單精度浮點格式)轉換到 FP16 (半精度浮點數格式)來優化 AI 的 GPU 。我們介紹了使用 FP16 的優勢、轉換模型的方法,以及這種轉換對人工智能應用程序的質量和性能的影響。 從 ONNX 格式的簡單未優化模型開始。 Nsight Systems 的配置文件顯示,

Source

]]>
6864
人人超碰97caoporen国产