Google Cloud – NVIDIA 技術博客 http://www.open-lab.net/zh-cn/blog 閱讀開發者創建的最新技術信息、頭條新聞 和內容。 Thu, 22 Aug 2024 09:31:12 +0000 zh-CN hourly 1 196178272 Google Cloud Run 現已支持 NVIDIA L4 GPU、NVIDIA NIM 及大規模無服務器 AI 推理部署 http://www.open-lab.net/zh-cn/blog/google-cloud-run-adds-support-for-nvidia-l4-gpus-nvidia-nim-and-serverless-ai-inference-deployments-at-scale/ Wed, 21 Aug 2024 09:24:43 +0000 http://www.open-lab.net/zh-cn/blog/?p=11018 Continued]]> 部署 AI 賦能的應用和服務給企業帶來了重大的挑戰： 應對這些挑戰需要一種全棧方法，該方法可以優化性能、有效管理可擴展性并駕部署的復雜性，使組織能夠在保持運營效率和成本效益的同時最大限度地發揮AI的全部潛力。 Google Cloud 和 NVIDIA 攜手合作，通過結合 NVIDIA AI 平臺的性能和云端無服務器計算的易用性，應對這些挑戰并簡化 AI 推理部署。 Google Cloud 的完全托管式無服務器容器運行時 Cloud Run 增加了對 NVIDIA L4 Tensor Core GPU 的支持（可在預覽版中獲取）。現在，您可以按需運行大規模加速的實時 AI 應用程序，而無需擔心基礎設施管理。結合 NVIDIA NIM 微服務的強大功能，Cloud Run 能夠顯著簡化生產優化和服務 AI 模型的復雜性，同時更大限度地提高應用程序性能。

Source

]]> 11018 在 NVIDIA AI 推理平臺上使用 Stable Diffusion XL 生成令人驚嘆的圖像 http://www.open-lab.net/zh-cn/blog/generate-stunning-images-with-stable-diffusion-xl-on-the-nvidia-ai-inference-platform-2/ Thu, 07 Mar 2024 08:39:43 +0000 http://www.open-lab.net/zh-cn/blog/?p=9245 Continued]]> 擴散模型正在各行各業中改變創意工作流程。這些模型通過采用降噪擴散技術，將隨機噪聲逐步塑造為 AI 生成的藝術，從而根據簡單的文本或圖像輸入生成令人驚嘆的圖像。這些模型可用于許多企業用例，例如為營銷創建個性化內容、為照片中的物體生成想象力的背景、為游戲設計動態高質量環境和角色等。 雖然擴散模型是增強工作流程的有用工具，但在大規模部署時，這些模型會非常計算密集。在非專用硬件 (如 CPU) 上生成一批四張圖像可能需要幾分鐘時間，這可能會阻礙創意流程，并且成為許多開發者滿足嚴格服務級別協議 (SLA) 的障礙。 在本文中，我們將向您展示 NVIDIA AI 推理平臺 可以專注于解決這些挑戰，穩定 Diffusion XL(SDXL)。我們首先探討企業在生產環境中部署 SDXL 時面臨的常見挑戰，然后深入探討如何 Google Cloud 的 G2 實例 由NVIDIA L4 Tensor…

Source

]]> 9245 在 NVIDIA AI 推理平臺上使用 Stable Diffusion XL 生成令人驚嘆的圖像 http://www.open-lab.net/zh-cn/blog/generate-stunning-images-with-stable-diffusion-xl-on-the-nvidia-ai-inference-platform/ Wed, 06 Mar 2024 06:25:59 +0000 http://www.open-lab.net/zh-cn/blog/?p=9121 Continued]]> 擴散模型正在各行各業中改變創意工作流程。這些模型通過采用降噪擴散技術，將隨機噪聲逐步塑造為 AI 生成的藝術，從而根據簡單的文本或圖像輸入生成令人驚嘆的圖像。這些模型可用于許多企業用例，例如為營銷創建個性化內容、為照片中的物體生成想象力的背景、為游戲設計動態高質量環境和角色等。 雖然擴散模型是增強工作流程的有用工具，但在大規模部署時，這些模型會非常計算密集。在非專用硬件 (如 CPU) 上生成一批四張圖像可能需要幾分鐘時間，這可能會阻礙創意流程，并且成為許多開發者滿足嚴格服務級別協議 (SLA) 的障礙。 在本文中，我們將向您展示 NVIDIA AI 推理平臺 可以專注于解決這些挑戰，穩定 Diffusion XL(SDXL)。我們首先探討企業在生產環境中部署 SDXL 時面臨的常見挑戰，然后深入探討如何 Google Cloud 的 G2 實例 由NVIDIA L4 Tensor…

Source

]]> 9121 谷歌云 Dataproc 上使用 GPU 加速的 Apache Spark 工作負載實現更智能的零售數據分析 http://www.open-lab.net/zh-cn/blog/smarter-retail-data-analytics-with-gpu-accelerated-apache-spark-workloads-on-google-cloud-dataproc/ Wed, 15 Mar 2023 03:29:16 +0000 http://www.open-lab.net/zh-cn/blog/?p=6454 Continued]]> 零售商的供應鏈包括從供應商處采購原材料或成品；將其儲存在倉庫或配送中心；并將其運送至商店或顧客；管理銷售。他們還收集、存儲和分析數據，以優化供應鏈性能。 零售商有團隊負責管理供應鏈的每個階段，包括供應商管理、物流、庫存管理、銷售和數據分析。所有這些團隊和流程協同工作，以確保在正確的時間以正確的價格向客戶提供正確的產品。 通過收集、分析和解釋來自各種來源的數據，如銷售點（ POS ）系統、客戶數據庫和市場調查，對零售銷售和運營做出明智的決策是很重要的。 大數據處理是零售分析的一個關鍵組成部分，因為它使零售商能夠以低延遲處理和分析來自各種來源的大量數據。零售商可以獲得對客戶行為、市場趨勢和運營效率的寶貴見解。 這篇文章概述了可以從 Spark 加速的 Apache GPU 工作負載中受益的零售應用程序。我們通過一個示例零售用例提供了詳細的分步說明，

Source

]]> 6454 實踐中的機器學習：在 Google 云平臺上部署 ML 模型 http://www.open-lab.net/zh-cn/blog/machine-learning-in-practice-deploy-an-ml-model-on-google-cloud-platform/ Mon, 13 Feb 2023 03:31:28 +0000 http://www.open-lab.net/zh-cn/blog/?p=6292 Continued]]> 本系列介紹 開發和部署 ( M L ) 模型 。在本文中， 你將學習 如何部署 ML 模型到 Google 云平臺 . 第 1 部分給出了 ML 工作流概括 ，考慮了使用機器學習和數據科學來實現商業價值所涉及的各個階段。在第 2 部分中，您將學習 訓練并保存 ML 模型 并將其部署為 ML 系統的一部分。 在為 ML 系統構建端到端管道時，最后一步是將經過訓練的模型部署到生產環境中。成功的部署意味著 ML 模型已從研究環境中移出并集成到生產環境中，例如，作為一個實時應用程序。 在本文中，您將學習使用 Google 云平臺（ GCP ）將 ML 模型投入生產的三種方法。雖然您可以使用其他幾種環境，例如 AWS 、 Microsoft Azure 或本地硬件，但本教程使用 GCP 部署 web 服務。 通過您的 Google 帳戶注冊 Google Cloud…

Source

]]> 6292 實踐中的機器學習：構建 ML 模型 http://www.open-lab.net/zh-cn/blog/machine-learning-in-practice-build-an-ml-model/ Mon, 13 Feb 2023 03:27:31 +0000 http://www.open-lab.net/zh-cn/blog/?p=6290 Continued]]> 本系列介紹 開發和部署 ( M L ) 模型 。在這篇文章中，您 訓練并保存 ML 模型 ，因此它可以作為 ML 系統的一部分部署。 第 1 部分給出了一個 ML 工作流概括 ，考慮了使用機器學習和數據科學實現商業價值所涉及的各個階段。第 3 部分介紹 如何部署 ML 模型到 Google 云平臺 （ GCP ）。 培訓一個可以作為機器學習系統一部分的模型需要了解您的數據、業務目標以及許多其他技術和組織要求。 在本文中，您創建了一個 Python 腳本，當執行該腳本時，它訓練一個 ML 模型，然后將其保存以供將來使用。 首先，我強調了為應用程序訓練 ML 模型時的一些重要考慮事項。 從模型選擇到數據集的復雜性和大小，數據從業者必須戰略性地規劃資源和期望的需求。在培訓模型之前要考慮的因素包括： 您可以使用許多類 ML 模型來解決問題。

Source

]]> 6290 實踐中的機器學習： ML 工作流 http://www.open-lab.net/zh-cn/blog/machine-learning-in-practice-ml-workflows/ Mon, 13 Feb 2023 03:16:38 +0000 http://www.open-lab.net/zh-cn/blog/?p=6287 Continued]]> 本系列介紹 開發和部署 ( M L ) 模型 。本文概述了 ML 工作流，考慮到使用機器學習和數據科學來實現業務價值所涉及的各個階段。在第 2 部分中，訓練并保存 ML 模型 可以將其部署為 ML 系統的一部分。第 3 部分向您展示了 如何部署 ML 模型到 Google 云平臺 （ GCP ）。 當使用 machine learning 解決問題并提供業務價值時，您使用的技術、工具和模型會根據用例而變化。然而，當從一個想法轉移到一個已部署的模型時，需要經過一組通用的工作流階段。 之前，我討論過 如何搭建機器學習微服務 和 如何使用 Streamlit 和 FastAPI 構建即時機器學習 Web 應用程序 。在這兩個教程中， ML 模型僅在本地運行。這對于演示來說已經足夠了，但如果您的模型必須在互聯網上持續提供預測，則這是不切實際的。 ML 工作流包含以下主要組件：

Source

]]> 6287 人人超碰97caoporen国产