Business / Executive – NVIDIA 技術博客

Business / Executive – NVIDIA 技術博客 http://www.open-lab.net/zh-cn/blog 閱讀開發者創建的最新技術信息、頭條新聞和內容。 Fri, 22 Nov 2024 08:20:32 +0000 zh-CN hourly 1 196178272 轉變電信網絡以管理和優化 AI 工作負載 http://www.open-lab.net/zh-cn/blog/transforming-telecom-networks-to-manage-and-optimize-ai-workloads/ Fri, 08 Nov 2024 08:18:31 +0000 http://www.open-lab.net/zh-cn/blog/?p=12072 Continued]]> 今年年初，5G 全球連接數量接近 20 億，預計到 2028 年將達到 77 億。雖然 5G 帶來了更快的速度、更高的容量和更低的延遲，特別是在視頻和數據流量方面，但網絡運營商創造新收入的初步承諾仍然未能實現。大多數移動應用程序現在都已路由到云端。與此同時，基于傳統設計的無線接入網（RAN）和數據包核心解決方案隨著軟件增強和更高效的硬件不斷改進。這些運行傳統語音、數據和視頻工作負載的單一用途系統并沒有顯著增加電信公司的每個用戶的平均收入。相反，這些系統主要支持連接，并被視為運營支出，從而降低了投資回報。然而，這種方法即將改變。 ChatGPT 和快速大語言模型（LLM）創新讓我們初步了解了一種需要加速計算的新型應用，這就需要不同類型的多用途網絡來優化 AI 和生成式 AI 工作負載。最初，AI 網絡部署側重于繁重的訓練工作負載，這些工作負載是集中式的，并且需要大型數據中心。

]]>

12072

使用 OpenUSD 和 NVIDIA Omniverse 開發虛擬工廠解決方案 http://www.open-lab.net/zh-cn/blog/developing-virtual-factory-solutions-with-openusd-and-nvidia-omniverse/ Mon, 22 Apr 2024 04:46:23 +0000 http://www.open-lab.net/zh-cn/blog/?p=9634 Continued]]> 與 NVIDIA AI、Omniverse 和通用場景描述 (OpenUSD) 等平臺一起，業界開發者正在構建虛擬工廠解決方案。這些解決方案可以優化流程，加快上市時間，提高產能，并降低新建和新建項目開發的成本。構建數字孿生工廠是一個具有挑戰性的工程任務。它涉及眾多移動部件，需要整合傳統的孤立業務功能和數據，并采用新技術。為了幫助您入門，NVIDIA 發布了虛擬工廠參考架構。該架構基于與半導體行業全球領導者的合作，例如臺達電子、Pegatron 和 Wistron，并概述了開發者在開發虛擬工廠解決方案時應考慮的組件和功能。設計和部署必要的 IT 基礎設施以支持虛擬工廠解決方案至關重要。IT 基礎設施必須保持安全，同時支持本地和虛擬工作站，并互連各種來源的數據。工廠數字孿生需要將工廠建設模型和工廠生產模型集成。

Source

]]>

9634

借助 NVIDIA AI Enterprise 推進生產級 AI 發展 http://www.open-lab.net/zh-cn/blog/advancing-production-ai-with-nvidia-ai-enterprise/ Thu, 25 Jan 2024 04:22:00 +0000 http://www.open-lab.net/zh-cn/blog/?p=8872 Continued]]> 盡管許多企業將利用人工智能的潛力作為優先事項，但開發和部署人工智能模型需要時間和精力。通常，必須克服將模型投入生產的挑戰，這對于任務關鍵型業務運營尤為重要。根據IDC 研究，只有 18% 的受訪企業能夠在一個月內將 AI 模型投入生產。本文探討了降低 AI 部署速度的挑戰，并介紹了使用一致、安全且可靠的平臺加速將 AI 投入生產之旅的優勢。開源軟件（OSS）在推動人工智能（AI）的采用方面發揮著至關重要的作用。根據2023 年 10 月的現狀報告，與生成式 AI 相關的公共 GitHub 項目在 2023 年達到了 65000 個，同比增長了 249%。盡管開源社區推動了 AI 時代的發展，但在構建 AI 應用程序中使用的各種 OSS 使得維護可靠的企業級 AI 軟件堆棧成為一項復雜且資源密集型的工作，類似于維護開源操作系統的難度。例如，

]]>

8872

借助 NVIDIA AI 軟件構建企業級 AI http://www.open-lab.net/zh-cn/blog/build-enterprise-grade-ai-with-nvidia-ai-software/ Wed, 24 Jan 2024 03:57:48 +0000 http://www.open-lab.net/zh-cn/blog/?p=8792 Continued]]> 在推出 ChatGPT 后，全球各地的企業開始意識到 AI 的優勢和功能，并競相將其應用到工作流程中。隨著這種采用的加速，企業不僅必須跟上 AI 的快速發展，而且還必須解決優化、可擴展性和安全性等相關挑戰。企業 AI 開發之旅通常從數據 ETL (提取、轉換、加載)階段開始，在此期間準備用于訓練的數據。接下來是訓練 AI 模型。模型完成訓練后，接下來的步驟包括部署和運行推理。企業需要在每個階段使用經過優化的安全軟件來構建生產就緒型 AI 應用。 NVIDIA NGC 目錄通過以容器形式提供一系列 GPU 優化的軟件和 SDK，幫助企業加速其 AI 開發。目錄中的一些熱門容器包括用于數據 ETL 階段的 RAPIDS，以及用于模型開發階段的 TensorFlow 和 PyTorch。此外，還有用于模型部署階段的 NVIDIA TensorRT 和…

]]>

8792

借助 NVIDIA TAO 為數萬億臺設備開發和優化視覺 AI 模型 http://www.open-lab.net/zh-cn/blog/develop-and-optimize-vision-ai-models-for-trillions-of-devices-with-nvidia-tao/ Wed, 06 Dec 2023 05:18:42 +0000 http://www.open-lab.net/zh-cn/blog/?p=8409 Continued]]> 全球的開發者正在利用 NVIDIA TAO 工具套件構建 AI 驅動的視覺感知和計算機視覺應用程序。現在，得益于該平臺的顯著增強和強大的生態系統支持，這一過程變得比以往更快、更簡單。 NVIDIA TAO 工具套件支持超過 10 種計算機視覺和視覺 AI 模型，包括圖像分類、物體檢測、三種類型的分割、光學字符識別 (OCR)、動作識別、關鍵點估計、身體姿態估計、嵌入模型、連體網絡等。 TAO 工具套件的入門速度比以往更快，支持超過 NVIDIA NGC 上的 40 個預訓練模型。利用 TAO 的方法可以隨著用于調整各行各業模型的工作流而不斷擴展。如需了解詳情，請參閱借助 NVIDIA TAO 和視覺 AI 模型變革工業缺陷檢測和自定義 AI 模型：使用 NVIDIA TAO 訓練角色檢測和識別模型。 TAO 的下載量已超過 10 萬次，

]]>

8409

借助 RAPIDS 和 Prometheux Vadalog Parallel 加速神經符號 AI http://www.open-lab.net/zh-cn/blog/accelerating-neurosymbolic-ai-with-rapids-and-vadalog-parallel/ Thu, 09 Nov 2023 07:48:30 +0000 http://www.open-lab.net/zh-cn/blog/?p=8278 Continued]]> 隨著可用數據規模的不斷增長，對可擴展的智能數據處理系統的需求也在不斷增長，以快速利用有用的知識。尤其是在生命科學和金融等高風險領域，數據驅動流程的可擴展性和透明度對于確保高度可信賴至關重要。 Prometheux 是一家 NVIDIA 初創加速計劃公司，由來自牛津大學知識圖譜實驗室和維也納工業大學的科學家創立，致力于構建能夠解釋其精確邏輯過程的 AI.從 AstraZeneca 的藥物再利用到意大利中央銀行應用研究團隊的金融數據處理，Prometheux 技術為一些世界上最大的知識圖提供高度可擴展和可解釋的推理。 Prometheux 已利用 NVIDIA GPU無縫集成適用于 Apache Spark 的 RAPIDS 加速器到他們專有的知識圖管理系統 Vadalog 并行處理引擎。在處理包含數億實體和數十億關系的大型知識圖時，他們為客戶實現了顯著的加速并節省了成本。

]]>

8278

開始使用適用于企業解決方案的大型語言模型 http://www.open-lab.net/zh-cn/blog/getting-started-with-large-language-models-for-enterprise-solutions/ Tue, 07 Nov 2023 04:19:12 +0000 http://www.open-lab.net/zh-cn/blog/?p=8156 Continued]]> 大型語言模型 (LLM)是在具有數千億參數的互聯網級數據集上進行訓練的深度學習算法。LLM 可以讀取、寫入、編碼、繪制和增強人類創造力，以提高各行各業的生產力，并解決世界上最棘手的問題。 LLM 被廣泛應用于各行各業，從零售到醫療健康，以及各種任務。它們學習蛋白質序列的語言，以生成新的可行化合物，從而幫助科學家開發創新的救命疫苗。它們幫助軟件程序員根據自然語言描述生成代碼并修復錯誤。它們還提供生產力 Co-Pilot，以便人類可以更好地完成他們擅長的工作 – 創建、提問和理解。要在企業應用程序和工作流中有效利用 LLM，需要了解模型選擇、自定義、優化和部署等關鍵主題。本文將探討以下企業 LLM 主題：無論您是希望構建自定義模型的數據科學家，還是探索 LLM 在組織中的潛力的首席數據官，請繼續閱讀以獲取寶貴見解和指導。 LLM 被用于各種跨行業應用，

]]>

8156

NVIDIA AI Enterprise 4.0 推出，助力企業構建生產就緒的生成式 AI 為業務賦能 http://www.open-lab.net/zh-cn/blog/power-your-business-with-nvidia-ai-enterprise-4-0-for-production-ready-generative-ai/ Tue, 12 Sep 2023 05:30:28 +0000 http://www.open-lab.net/zh-cn/blog/?p=7883 Continued]]> 生成式 AI 已經跨越鴻溝并達到“ iPhone 時刻”，現在必須能夠擴展以滿足指數級增長的需求。可靠性和正常運行時間對于打造企業級生成式 AI 至關重要，尤其是當 AI 成為業務運轉的核心時。NVIDIA 正在將專業知識投入到解決方案的開發過程中，助力企業實現這樣的飛躍。最新版 NVIDIA AI Enterprise 助力利用生成式 AI 進行創新的企業加速開發，為企業提供生產就緒型支持、可管理性、安全性和可靠性。生成式 AI 模型具有數十億個參數，需要高效的數據訓練管道。訓練模型的復雜性、針對特定領域任務進行定制以及大規模部署模型都需要專業知識和計算資源。 NVIDIA AI Enterprise 4.0 包括 NVIDIA NeMo，這是一個端到端云原生框架，用于大規模數據管理、大語言模型的加速訓練和定制，以及在用戶首選平臺上優化推理。

]]>

7883

使用 NVIDIA CloudXR 套件擴展 XR 工作流 http://www.open-lab.net/zh-cn/blog/scale-xr-workflows-with-nvidia-cloudxr-suite/ Wed, 09 Aug 2023 03:34:35 +0000 http://www.open-lab.net/zh-cn/blog/?p=7629 Continued]]> NVIDIA為開發者提供了一個先進的平臺，開發者可以在該平臺上使用全新NVIDIA CloudXR 套件來創建可擴展、品牌化的定制擴展現實（XR）產品。 NVIDIA CloudXR 套件基于全新架構而打造，是擴展XR生態的重要工具。它為開發者、專業人士和企業團隊提供了一個可以跨操作系統靈活編排并擴展XR工作負載的平臺，包括Windows中的虛擬機和基于Linux的系統（比如容器）。借助NVIDIA CloudXR流式傳輸堆棧，用戶可以構建靈活、高性能的云解決方案，以傳輸要求最嚴苛的沉浸式體驗。團隊還可以使用NVIDIA流式傳輸技術有效管理包括互聯網在內的大型公共和專用網絡上的流式傳輸質量。圖1. NVIDIA CloudXR 套件由CloudXR Essentials、CloudXR Server Extensions 和 CloudXR…

]]>

7629

利用 OpenUSD 和綜合數據開發智慧城市交通管理系統 http://www.open-lab.net/zh-cn/blog/developing-smart-city-traffic-management-systems-with-openusd-and-synthetic-data/ Tue, 01 Aug 2023 02:50:01 +0000 http://www.open-lab.net/zh-cn/blog/?p=7490 Continued]]> 智能城市代表了城市生活的未來。然而，它們可能會給城市規劃者帶來各種挑戰，尤其是在交通領域。為了取得成功，城市的各個方面——從環境和基礎設施到商業和教育——必須在功能上進行整合。這可能很困難，因為單獨管理交通流量是一個復雜的問題，充滿了擁堵、事故應急響應和排放等挑戰。為了應對這些挑戰，開發人員正在開發具有現場可編程性和靈活性的人工智能軟件。這些軟件定義的物聯網解決方案可以應用于實時環境，如交通管理，車牌識別，智能停車和事故檢測等。盡管如此，建立有效的人工智能模型說起來容易做起來難。遺漏值、重復示例、錯誤標簽和錯誤特征值是訓練數據的常見問題，這些問題可能導致模型不準確。在自動駕駛汽車的情況下，不準確的結果可能是危險的，也可能導致交通系統效率低下或城市規劃不佳。端到端人工智能工程公司 SmartCow，作為 NVIDIA Metropolis 的合作伙伴，

]]>

7490

利用 NVIDIA AI 企業在 Azure 機器學習上的力量 http://www.open-lab.net/zh-cn/blog/harnessing-the-power-of-nvidia-ai-enterprise-on-azure-machine-learning/ Fri, 02 Jun 2023 07:08:18 +0000 http://www.open-lab.net/zh-cn/blog/?p=7171 Continued]]> 人工智能正在改變行業，實現流程自動化，并在快速發展的技術格局中為創新開辟新的機會。隨著越來越多的企業認識到將人工智能融入運營的價值，他們面臨著高效、有效和可靠地實施這些技術的挑戰 NVIDIA AI Enterprise 是一個綜合軟件套件，旨在幫助組織大規模實施企業級 AI 、機器學習（ ML ）和數據分析，并提供安全性、可靠性、 API 穩定性和企業級支持。部署人工智能解決方案可能很復雜，需要專門的硬件和軟件，以及開發和維護這些系統的專業知識。 NVIDIA AI Enterprise 通過提供針對企業環境量身定制的工具、庫、框架和支持服務的完整生態系統來應對這些挑戰憑借 GPU – 加速計算能力， NVIDIA AI Enterprise 使企業能夠更高效、更經濟高效地大規模運行人工智能工作負載。 NVIDIA AI Enterprise 建立在…

]]>

7171

使用機密計算保護敏感數據和人工智能模型 http://www.open-lab.net/zh-cn/blog/protecting-sensitive-data-and-ai-models-with-confidential-computing/ Wed, 31 May 2023 05:03:37 +0000 http://www.open-lab.net/zh-cn/blog/?p=7076 Continued]]> 快速的數字化轉型導致整個企業生成的敏感數據激增。這些數據必須在本地、云中的數據中心中存儲和處理，或者在邊緣生成敏感和個人身份信息（ PII ）的活動示例包括信用卡交易、醫學成像或其他診斷測試、保險索賠和貸款申請。這些豐富的數據為企業提供了一個機會，可以提取可操作的見解，釋放新的收入來源，并改善客戶體驗。利用人工智能的力量可以在當今數據驅動的商業環境中獲得競爭優勢。然而，全球數據保護和隱私法的復雜性和不斷演變的性質可能會對尋求從人工智能中獲得價值的組織構成重大障礙：醫療保健、金融服務和公共部門的客戶必須遵守多種監管框架，并面臨因數據泄露而遭受嚴重財務損失的風險。除了數據，人工智能模型本身也是寶貴的知識產權。它們是模型所有者在構建、培訓和優化方面投入大量資源的結果。如果在使用中沒有得到充分保護，人工智能模型將面臨暴露敏感客戶數據、

]]>

7076

NVIDIA AX800 在一個通用云基礎設施上提供高性能 5G vRAN 和 AI 服務 http://www.open-lab.net/zh-cn/blog/nvidia-ax800-delivers-high-performance-5g-vran-and-ai-services-on-one-common-cloud-infrastructure/ Sun, 28 May 2023 06:10:50 +0000 http://www.open-lab.net/zh-cn/blog/?p=7119 Continued]]> 5G 投資和采用的步伐正在加快。根據GSMA Mobile Economy 2023報告稱， 2023 年至 2030 年間，近 1 . 4 萬億美元將用于 5G 資本支出。無線電接入網絡（ RAN ）可能占超過 60% 的支出。資本支出越來越多地從傳統的專有硬件方法轉向虛擬化 RAN （ vRAN ）和開放式 RAN 架構，這些架構可以從云經濟中受益，不需要專用硬件。盡管有這些好處，但開放式 RAN 的采用卻舉步維艱，因為現有技術尚未提供云經濟的好處，而且無法同時提供高性能和靈活性。 NVIDIA 通過NVIDIA AX800 融合加速器，在可以在任何云上運行的商品硬件上提供真正的云原生和高性能加速 5G 解決方案（圖 1 ）。為了從云經濟中受益，RAN 的未來會在云端（云中的 RAN ）。云經濟之路與克萊頓·克里斯滕森在其著作創新者的困境：

]]>

7119

為網絡管理員導航生成式人工智能 http://www.open-lab.net/zh-cn/blog/navigating-generative-ai-for-network-admins/ Thu, 25 May 2023 06:33:54 +0000 http://www.open-lab.net/zh-cn/blog/?p=7130 Continued]]> 我們都知道人工智能正在改變世界。對于網絡管理員來說，人工智能可以以一些驚人的方式改善日常運營：然而，人工智能無法取代經驗豐富的網絡管理員的專業知識。人工智能旨在增強你的能力，就像一個虛擬助理。因此，人工智能可能會成為你最好的朋友，但生成型人工智能也是一種新的數據中心工作負載，它帶來了新的范式轉變： NVIDIA 集體通信庫（ NCCL ）。網絡管理員不得不處理許多其他最近的更改：不久前，我們可能已經通過特定網絡命令行界面（ CLI ）的專業水平來衡量新網絡管理員的價值。隨著混合云計算和 DevOps 的出現，從 CLI 到 API 的轉變越來越大。 Ansible 、 SALT 和 Python 方面的技能現在比 Cisco 認證更有價值。甚至您監控和管理網絡的方式也發生了變化。您已經從使用 SNMP 和 NetFlow…

]]>

7130

最大化數據中心能源效率的策略 http://www.open-lab.net/zh-cn/blog/strategies-for-maximizing-data-center-energy-efficiency/ Tue, 23 May 2023 05:29:52 +0000 http://www.open-lab.net/zh-cn/blog/?p=7024 Continued]]> 數據中心是現代企業的重要組成部分，但它們需要高昂的能源成本。更為復雜的是，能源成本正在上升，對數據中心的需求持續擴大，預計從 2023 年到 2030 年，市場規模將增長 25% 。在全球范圍內，能源成本已經對數據中心和高性能計算（ HPC ）系統。為了減輕能源成本負擔，數據中心管理人員正在推遲購買新系統，限制當前系統的功能，甚至減少運營時間。由于成本和需求的復合增長，必須盡快找到替代能源或盡可能經濟高效地提高能源效率。在這篇文章中，我們討論了降低數據中心能耗的四種實用策略。通過實施這些策略，您可以降低能源成本，提高數據中心的性能和可靠性。最終，這些策略只是提高您的環境、社會和治理（ ESG ）投資吸引力的第一步，這是全球投資者日益重視的問題。在深入研究之前，我們要注意的是，能源效率只是實現可持續發展的一步。目前，數據中心的能源效率處于可持續性計算，計算機、

]]>

7024

人人超碰97caoporen国产