Cloud – NVIDIA 技術博客

Cloud – NVIDIA 技術博客 http://www.open-lab.net/zh-cn/blog 閱讀開發者創建的最新技術信息、頭條新聞和內容。 Thu, 09 Mar 2023 04:31:57 +0000 zh-CN hourly 1 196178272 新的 NVIDIA Metropolis 微服務快速跟蹤云原生視覺 AI 開發 http://www.open-lab.net/zh-cn/blog/new-nvidia-metropolis-microservices-fast-tracks-cloud-native-vision-ai-development/ Mon, 06 Mar 2023 04:30:14 +0000 http://www.open-lab.net/zh-cn/blog/?p=6409 Continued]]> 視覺 AI 驅動的應用程序在價值和行業采用率方面呈爆炸式增長。它們由成熟的人工智能開發人員和對人工智能完全陌生的開發人員開發。這兩類開發人員都面臨著更復雜的解決方案要求和更快的上市時間的挑戰。構建這些愿景 AI 解決方案需要一個可擴展的分布式架構和工具，以提高開發人員的生產力，并可供 AI 新手使用。基于云原生微服務的設計特別適合滿足這些需求，并提供巨大的好處，如可擴展性、可維護性，以及可在各種環境中進行適應性和可部署性。 NVIDIA Metropolis Microservices is now open for early access ，提供云原生、可定制的構建塊，以開發視覺 AI 應用程序和服務。 Metropolis 微服務提供抽象的、云不可知的企業級構建塊，您可以通過 API 和行業標準接口自定義這些構建塊并將其集成到應用程序中。您可以在任何地方部署微服務，

]]>

6409

云計算中的 RAN ：向 5G RAN 提供云經濟 http://www.open-lab.net/zh-cn/blog/ran-in-the-cloud-delivering-cloud-economics-to-5g-ran/ Mon, 13 Feb 2023 03:35:26 +0000 http://www.open-lab.net/zh-cn/blog/?p=6294 Continued]]> 5G 部署在全球范圍內不斷加快。許多電信運營商已經推出了 5G 服務，并且正在快速擴張。除電信運營商外，企業對使用 5G 建立專用網絡也非常感興趣，這些網絡利用更高的帶寬、更低的延遲、網絡切片、 mmWave 和 CBRS 頻譜。 5G 的崛起恰逢一個有趣的時刻。在過去二十年中，云計算已經成熟，成為開發人員構建應用程序的首選。云提供了許多優勢，包括成熟的軟件工具、自動化和編排、業務靈活性和較低的總體擁有成本（ TCO ）。此外，各個領域的應用（工業機器人、云游戲、智能城市、安全、零售、自動駕駛、智能農業）越來越多地使用人工智能（ AI ）來實現變革性體驗。 5G 、云計算和人工智能的融合將在未來十年推動許多創新。 NVIDIA Aerial SDK 是構建虛擬無線電接入網絡（ vRAN ）的關鍵技術基礎。它是一個由軟件定義的完整 5G 第 1 層（ L1 ）卸載，

]]>

6294

在 Google Cloud Dataproc 上節省 Apache Spark 大數據處理成本 http://www.open-lab.net/zh-cn/blog/saving-apache-spark-big-data-processing-costs-on-google-cloud-dataproc/ Wed, 14 Dec 2022 06:18:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=5933 Continued]]> 根據 IDC 的數據，每年生成的數據量呈指數級增長。 IDC 的全球 DataSphere 預測到 2026 年，世界將產生 221 ZB 的數據。這些數據包含了驚人的信息。但隨著數據量的增長，處理成本也會隨之增加。作為一名數據科學家或工程師，你肯定會感受到數據處理工作運行緩慢的痛苦。 Apache Spark 在 2010 年代以數千 TB 的規模解決了這個數據處理問題。然而，在 20 世紀 20 年代，需要處理的數據量已經超過了當前基于 CPU 的基礎設施計算能力。對于擁有數十萬 TB 的組織來說，這種基于 CPU 的基礎架構限制了它們，并增加了巨大的擴展成本。計算限制限制了他們利用數據擴展見解、獲取可用于訓練 AI / ML 管道的數據以及實驗新模型類型的能力。舊規則成立： 80% 的時間用于數據準備，而不是模型開發，這阻礙了數據科學的發展。為了解決這些挑戰，

]]>

5933

使用 NVIDIA Base 命令平臺簡化 AI 開發 http://www.open-lab.net/zh-cn/blog/simplifying-ai-development-with-base-command-platform/ Tue, 06 Dec 2022 04:11:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=5994 Continued]]> NVIDIA Base Command Platform 為 AI 應用程序提供直觀、功能齊全的開發體驗。它是為了滿足 NVIDIA 內部研究和產品開發團隊的需求而建造的。現在，它已經成為訪問按需計算資源以訓練神經網絡模型和執行其他加速計算實驗的基本方法。 Base Command Platform 通過提供集成用戶、作業和數據的內聚服務，簡化了人工智能實驗工作流程。它提供了對私有注冊表的輕松訪問，以托管自定義容器以及 NGC Catalog 中的廣泛軟件。它提供了所有這些功能，而不犧牲可靠的 NVIDIA 性能、靈活性和可擴展性。您可以使用 Base Command Platform 進行需要單個 GPU 或數據中心的實驗。 Base Command Platform 支持 CLI 、 API 和 web 界面，所有這些都內置在 NGC 門戶中。

]]>

5994

使用 NVIDIA Triton 推理服務器支持的 Amazon SageMaker 多模型端點在同一 GPU 上運行多個 AI 模型 http://www.open-lab.net/zh-cn/blog/run-multiple-ai-models-on-same-gpu-with-sagemaker-mme-powered-by-triton/ Tue, 25 Oct 2022 05:25:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=5560 Continued]]> 去年 11 月，AWS 在 Amazon SageMaker 中集成了開源推理服務軟件 NVIDIA Triton Inference Server。機器學習 (ML) 團隊可以使用 Amazon SageMaker 作為一項完全托管的服務來大規模構建和部署 ML 模型。通過這種集成，數據科學家和 ML 工程師可以輕松地使用 NVIDIA Triton 多框架、高性能推理，與 Amazon SageMaker 完全管理的模型部署一起使用。今天， AWS 在 Amazon 上宣布了 Amazon GPU 多模型端點（ MME ）。 MME 提供在 GPU 上運行多個深度學習或 ML 模型的能力，同時使用 Triton 推理服務器。有關詳細信息，請參見 Run Multiple Deep Learning Models on GPU with Amazon…

]]>

5560

通過 NVIDIA Spectrum Ethernet 和 Microsoft Azure Stack HCI 實現創新的超融合網絡 http://www.open-lab.net/zh-cn/blog/achieve-innovative-hyperconverged-networking-with-nvidia-spectrum-ethernet-and-microsoft-azure-stack-hci/ Tue, 25 Oct 2022 03:02:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=5536 Continued]]> 各種規模的企業越來越多地利用虛擬化和超連通基礎設施（ HCI ）。這項技術為運營提供可靠和安全的計算資源，同時減少數據中心占地面積。 HCI 集群依靠強大、功能豐富的網絡結構來提供能夠無縫連接到云的本地解決方案。 Microsoft Azure Stack HCI 是一個超融合基礎架構集群解決方案，可以運行容器化應用程序。它在混合環境中托管虛擬化的 Windows 和 Linux 工作負載和存儲，該混合環境將本地基礎設施與 Azure 云服務相結合。 Azure Stack HCI 的服務器組件可以使用支持適當驗證要求的設備進行互連。 NVIDIA Spectrum Ethernet switches 是專門構建的網絡解決方案，旨在支持 Microsoft Azure Stack HCI 的要求。這種內部部署解決方案使企業能夠利用云功能，有效地創建混合云解決方案。

]]>

5536

GTC 宣布為 NVIDIA Omniverse 開發者提供新的云應用程序、 SimReady 資產和工具 http://www.open-lab.net/zh-cn/blog/new-cloud-applications-simready-assets-and-tools-for-omniverse-developers-announced-at-gtc/ Wed, 21 Sep 2022 09:52:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=5228 Continued]]> 世界各地的開發者、創作者和企業都在使用 NVIDIA Omniverse 構建虛擬世界，并突破元宇宙的界限。Omniverse 是一個基于 Universal Scene Description（USD，一種用于描述虛擬世界的可擴展通用語言）的可擴展計算平臺，它適用于全保真設計 3D 模擬工作流，全球各行業的開發者都在使用它構建 3D 互聯網。在GTC 大會主題演講中，NVIDIA 宣布推出重要版本 Omniverse，其中新增了 Omniverse Cloud 托管服務和容器部署，并提供了新的開發者工具包以及面向開發者的開放式發布渠道。借助新版本及新增功能，開發者可以更輕松地構建、擴展 3D 工具和平臺，并將其連接到 Omniverse 生態系統中。作為 NVIDIA 的第一款軟件即服務（SaaS）產品，

]]>

5228

提高 Kubernetes 的 GPU 利用率 http://www.open-lab.net/zh-cn/blog/improving-gpu-utilization-in-kubernetes/ Thu, 16 Jun 2022 06:14:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=4331 Continued]]> 為了實現可擴展的數據中心性能， NVIDIA GPU 已成為必備產品。 NVIDIA GPU 由數千個計算核支持的并行處理能力對于加速不同行業的各種應用至關重要。目前，跨多個行業的計算密集型應用程序使用 GPU ：此范圍內的不同應用程序可能有不同的計算要求。訓練巨型人工智能模型，其中 GPU 批處理并行處理數百個數據樣本，使 GPU 在訓練過程中得到充分利用。然而，許多其他應用程序類型可能只需要 GPU 計算的一小部分，從而導致大量計算能力的利用不足。在這種情況下，為每個工作負載提供適當大小的 GPU 加速是提高利用率和降低部署運營成本的關鍵，無論是在本地還是在云中。為了解決 Kubernetes （ K8s ）集群中 GPU 利用率的挑戰， NVIDIA 提供了多種 GPU 并發和共享機制，以適應廣泛的用例。最新添加的是新的 GPU 時間切片 API ，

]]>

4331

計算機視覺的未來 http://www.open-lab.net/zh-cn/blog/the-future-of-computer-vision/ Mon, 23 May 2022 07:35:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=4166 Continued]]> Computer vision 是一個快速發展的研究和應用領域。計算機視覺研究的進展現在更直接、更直接地適用于商業世界。人工智能開發人員正在實施計算機視覺解決方案，以識別和分類對象，甚至對其作出實時反應。圖像分類、人臉檢測、姿態估計和光流是一些典型的任務。計算機視覺工程師是 deep learning （ DL ）或 machine learning （ ML ）工程師的子集，他們編寫計算機視覺算法來完成這些任務。 DL 算法的結構非常適合解決計算機視覺問題。卷積神經網絡（ CNN ）的體系結構特征能夠檢測和提取視覺數據中存在的空間模式和特征。計算機視覺領域正在迅速改變汽車、醫療保健和機器人等行業，很難跟上最新發現、趨勢和進展。這篇文章重點介紹了正在影響并將繼續影響 2022 年及以后計算機視覺發展未來的核心技術：

]]>

4166

NGC 的新功能：一鍵部署、語音和計算機視覺的人工智能模型，等等 http://www.open-lab.net/zh-cn/blog/new-on-ngc-one-click-deploy-ai-models-for-speech-and-computer-vision-and-more/ Wed, 04 May 2022 09:47:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=3851 Continued]]> NVIDIA NGC catalog 是 GPU 優化的深度學習、機器學習和 HPC 應用程序的中心。通過高性能軟件 containers 、預訓練模型、特定于行業的 SDK 和 Jupyter 筆記本，這些內容有助于簡化和加速端到端工作流。幫助您簡化工作流程并在 NGC 上更快地構建解決方案的新功能、軟件和更新包括：使用你最喜歡的工具 Jupyter Notebook 開發人工智能，使用 NGC catalog 的新一鍵部署功能簡化了軟件部署。只需進入 NGC 目錄中的軟件頁面，點擊“部署到頂點 AI ”即可開始。在引擎蓋下，這個功能：以最佳配置在谷歌云頂點人工智能工作臺上啟動 JupyterLab 實例；預加載軟件依賴項；一次下載 NGC 筆記本。您還可以在啟動實例之前更改配置。

]]>

3851

通過新的 NVIDIA AI 企業集成擴展虛擬化數據中心中的混合云支持 http://www.open-lab.net/zh-cn/blog/expanding-hybrid-cloud-support-in-virtualized-data-centers-with-new-nvidia-ai-enterprise-integrations/ Mon, 14 Mar 2022 10:15:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=3314 Continued]]> 新的一年已經有了一個很好的開端， NVIDIA AI Enterprise 1.1 使用 VMware vSphere 與 Tanzu 7.0 Update 3c 為容器編排和 Kubernetes 群集管理提供生產支持，為 VMs 、容器或 Kubernetes 中的每個企業提供 AI / ML 工作負載。可在 NVIDIA LaunchPad 上獲得針對 IT 管理員和 MLOP 的新 NVIDIA AI 企業實驗室：通過免費的 LaunchPad 計劃，企業可以快速開始在 VMware vSphere 上與 Tanzu 一起運行 NVIDIA 人工智能企業，該計劃提供對運行在私有加速計算基礎設施上的 NVIDIA AI 的即時、短期訪問。一個新添加的 Calabor 實驗室提供了使用 VMware Tanguu KubNeNETGrand 服務的經驗，

]]>

3314

通過網絡數字孿生引領全球供應鏈 http://www.open-lab.net/zh-cn/blog/navigating-the-global-supply-chain-with-networking-digital-twins/ Mon, 06 Dec 2021 06:17:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=2550 Continued]]> 以太網交換機、跑車、家用電器和衛生紙有什么共同點？如果你讀了這篇博客的標題，并且經歷了過去一年半，你可能知道答案。這些產品的可用性都受到全球大流行造成的材料短缺的影響。在某些情況下，供應問題更像是一種不便——再多等幾個月才能得到那輛新的克爾維特不會是世界末日。對于其他產品（比如廁紙或替代冰箱），供應短缺過去是，現在也是一個大問題。這對消費者的影響顯而易見，但企業也感受到了交付周期過長的痛苦。考慮以太網交換機：以太網交換機構建將數據中心聯系在一起的網絡結構。以太網交換機短缺不僅僅意味著“機架 A 無法與機架 B 通信”。它們意味著總吞吐量降低，現有基礎設施上的負載增加，導致更多停機和計劃外停機；也就是說，對業務成果產生重大不利影響。這聽起來很糟糕，但沒有必要驚慌。你可以通過 NVIDIA Air 的數據中心數字孿生幫助您緩解這些挑戰，并轉變您的運營。那么，

]]>

2550

AWS 推出首款基于 NVIDIA GPU 加速引力子的 Amazon EC2 G5g 實例 http://www.open-lab.net/zh-cn/blog/aws-launches-first-nvidia-gpu-accelerated-graviton-based-instance-with-amazon-ec2-g5g/ Mon, 29 Nov 2021 04:38:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=2456 Continued]]> 今天，在 AWS re : Invent2021 大會上， AWS 宣布推出了 Amazon EC2 G5g 實例，將第一個基于 NVIDIA GPU 的 Arm 加速實例引入 AWS 云。新的 EC2 G5g 實例以基于 64 位 Arm Neoverse 內核的 AWS Graviton2 處理器和 NVIDIA T4G Tensor Core GPU 為特色，增強了圖形密集型應用。這種強大的組合為 Android 游戲內容創造了一個最佳的開發環境。它還帶來了更豐富的 Android 游戲體驗，可以流式傳輸到各種各樣的移動設備上。 EC2 G5g 實例使游戲開發人員能夠支持和優化游戲，以便在各種移動設備上實現高質量的流媒體傳輸。您可以在基于 Arm 的 Graviton2 處理器上開發 Android 游戲，使用 NVIDIA T4G GPU 加速圖形渲染和編碼，

]]>

2456

在 AWS re:Invent 上發現最新的機器學習、圖形、 HPC 和物聯網 http://www.open-lab.net/zh-cn/blog/discover-the-latest-in-machine-learning-graphics-hpc-and-iot-at-aws-reinvent/ Tue, 23 Nov 2021 02:16:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=2430 Continued]]> 在 AWS re : Invent 上查看從云到邊緣的最新創新。另外，了解更多關于英偉達 NGC 目錄 – GPU 優化軟件的全面收集。 NVIDIA 和 AWS 密切合作，開發了一個課程和研討會，重點學習更多關于 NVIDIA GPU 的知識，并提供 NVIDIA Jetson 模塊的實踐培訓。立即注冊虛擬 AWS re : Invent 。>> 獲取您需要的所有信息，以便在知情的情況下選擇使用 Amazon EC2 NVIDIA GPU 實例，以及如何通過使用 GPU 優化軟件為您的培訓和推理工作負載充分利用該實例。這個由 NVIDIA 贊助的會議由 AWS 的 AI 和 ML 傳道者 Shashank Prasanna 主持，重點幫助工程師、開發人員和數據科學家解決 ML 的挑戰性問題。在本研討會中，

]]>

2430

使用 NetQ 排除網絡故障 http://www.open-lab.net/zh-cn/blog/troubleshooting-networks-with-netq/ Tue, 19 Oct 2021 07:37:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=2060 Continued]]> EVPN已成為現代數據中心架構的標準解決方案。對于終端用戶來說，受益于基于BGP的控制平面所具有的穩定性，EVPN提供了擴展其廣播域的靈活性。但這些增加的益處是以提高配置的復雜性為代價的。當前所面對的不再是相對固定、簡單，可以通過維護人員直觀分析來發現錯誤的網絡配置。真正的生產性EVPN配置可能包括多個深度嵌套結構，而且隨網絡中的租戶數量成比例增長。 EVPN配置復雜性可以且必須通過適當的自動化解決方案予以解決，這可以減少人為出錯的可能性，而NVIDIA Cumulus Linux正是解決該問題的合適解決方案。但僅有自動化還不夠，錯誤仍然可以通過數據源引入系統，例如配置管理數據庫（CMDB）的人為錯誤。這就是為什么對于任何具有合理復雜程度的基礎設施，用戶應該有辦法來采集各類日志、指標，并且調試、輸出、匯總、關聯和處理這些信息，從而嘗試推斷系統的內部狀態。

]]>

2060

人人超碰97caoporen国产