Kevin Klues – NVIDIA 技術博客
http://www.open-lab.net/zh-cn/blog
閱讀開發者創建的最新技術信息、頭條新聞 和內容。
Fri, 17 Jun 2022 06:19:35 +0000
zh-CN
hourly
1
196178272 -
提高 Kubernetes 的 GPU 利用率
http://www.open-lab.net/zh-cn/blog/improving-gpu-utilization-in-kubernetes/
Thu, 16 Jun 2022 06:14:00 +0000
http://www.open-lab.net/zh-cn/blog/?p=4331
Continued]]>
為了實現可擴展的數據中心性能， NVIDIA GPU 已成為必備產品。 NVIDIA GPU 由數千個計算核支持的并行處理能力對于加速不同行業的各種應用至關重要。目前，跨多個行業的計算密集型應用程序使用 GPU ： 此范圍內的不同應用程序可能有不同的計算要求。訓練巨型人工智能模型，其中 GPU 批處理并行處理數百個數據樣本，使 GPU 在訓練過程中得到充分利用。然而，許多其他應用程序類型可能只需要 GPU 計算的一小部分，從而導致大量計算能力的利用不足。 在這種情況下，為每個工作負載提供適當大小的 GPU 加速是提高利用率和降低部署運營成本的關鍵，無論是在本地還是在云中。 為了解決 Kubernetes （ K8s ）集群中 GPU 利用率的挑戰， NVIDIA 提供了多種 GPU 并發和共享機制，以適應廣泛的用例。最新添加的是新的 GPU 時間切片 API ，
Source
]]>
4331
人人超碰97caoporen国产