Ada Lovelace – NVIDIA 技術博客

2024 年熱門文章：NVIDIA NIM、語言模型突破和數據科學優化的精要

Mon, 16 Dec 2024 05:14:42 +0000

對于使用 NVIDIA 技術的開發者、研究人員和創新者來說，2024 年又是具有里程碑意義的一年。從 AI 推理領域的突破性進展到助力開源貢獻，這些博客文章重點介紹了最受讀者反響的突破性成果。 NVIDIA NIM 提供經過優化的推理微服務，用于大規模部署 AI 模型 NVIDIA NIM 于 2024 年推出，是一套易于使用的推理微服務，用于加速基礎模型的部署。開發者可以在盡可能減少配置更改的情況下優化推理工作流，從而實現無縫、高效的擴展。 NVIDIA NIM 現為開發者計劃成員免費開放為了普及 AI 部署，NVIDIA 為其開發者計劃成員提供 NIM 的免費訪問權限，使更多的開發者能夠試驗和實施 AI 解決方案。 NVIDIA GB200 NVL72 提供萬億參數 LLM 訓練和實時推理…

Source

]]>

實現可定制的 GPU 加速視頻轉碼流程

Wed, 11 Sep 2024 07:45:42 +0000

如今，視頻占據互聯網流量的80％以上。這些內容由各種設備生成并在各種設備上使用，包括IoT設備、智能手機、計算機和電視。隨著像素密度和連接設備數量的增長，在快速、高效、高質量的視頻編碼和解碼方面的持續投資至關重要。最新的 NVIDIA 數據中心 GPU（例如 NVIDIA L40S 和 NVIDIA L4 Tensor Core）可處理要求嚴苛的用例，包括 AI 訓練、推理、視覺計算、云游戲和視頻轉碼。通過將多個 NVIDIA 視頻解碼（NVDEC）和視頻編碼（NVENC）視頻引擎與高級計算能力相結合，這些 GPU 可幫助合作伙伴加速和定制轉碼流程。 V-Nova 已將 MPEG-5 第 2 部分低復雜度增強視頻編碼 (LCEVC) 標準的實施移植到 NVIDIA GPU 上。LCEVC 利用 NVENC 視頻引擎和 NVIDIA Ada 架構 GPU…

Source

]]>

采用分幀編碼和 NVIDIA Ada Lovelace 架構的 8K60 視頻編碼

Fri, 05 Jan 2024 06:03:51 +0000

得益于攝像頭和顯示技術的進步，現在可以在 8K 分辨率和每秒 60 幀 (FPS) 下截取視頻片段和玩游戲。RED Digital Cinema、Nikon 和 Canon 等主要的領先多媒體公司已經為消費者和專業市場推出了 8K60 攝像頭。在顯示器方面，8K60 采用最新的 HDMI 2.1 標準，現已得到廣泛應用，支持游戲顯示器和智能電視。雖然 8K60 提供驚人的畫質和清晰度，但在傳輸和存儲時消耗更多數據會帶來巨大的成本。因此，快速編解碼器在彌合傳感器和顯示器之間的差距方面至關重要。為了促進 8K60 的廣泛應用，NVIDIA Ada Lovelace GPU 架構提供了 NVENC 加速視頻編碼性能的引擎，同時保持高畫質。（NVIDIA RTX 4090 和 4080 分別提供兩個和三個 NVENC，而 NVIDIA RTX 6000 Ada…

Source

]]>

2023 年最熱門的 NVIDIA 技術博客文章：生成式 AI、LLM、機器人開發和虛擬世界的突破

Tue, 19 Dec 2023 04:58:25 +0000

在 NVIDIA 激動人心的又一年即將結束之際，是時候回顧 2023 年 NVIDIA 技術博客中最熱門的案例了。生成式 AI、大型語言模型 (LLM)、高性能計算 (HPC) 和機器人等領域的突破性研究和開發正在引領變革性 AI 解決方案的發展，并吸引了讀者的興趣。其他熱門文章探討了視頻技術和視頻會議領域的進步、增強用戶體驗以及 AI 安全方面的突破。以下是 2023 年的部分亮點。借助生成式 AI 快速生成虛擬世界的 3D 素材 NVIDIA Omniverse 上的新生成式 AI 技術增強了虛擬環境中的 3D 素材創建。這些進步旨在使元宇宙中的虛擬世界創建更快、更輕松。利用 NVIDIA Maxine 眼神交流功能，增強視頻會議中的人際互動 NVIDIA Maxine 眼神交流技術利用 AI 實時調整您對攝像頭的注視點，

Source

]]>

使用 NVIDIA Isaac ROS 開發人員預覽版 3 構建高性能機器人應用程序

Tue, 18 Apr 2023 03:11:56 +0000

機器人的復雜性正在增加，具有更高的自主性、更多的傳感器數量和多樣性，以及更多基于傳感器融合的算法。硬件加速對于運行這些日益復雜的工作負載至關重要，從而使機器人應用程序能夠以更高的速度和能效運行更大的工作負載。 NVIDIA Isaac ROS的使命一直致力于為 ROS 開發人員提供開發高性能、節能機器人應用所需的加速計算包和工具 NVIDIA 還在 ROS2 中開創了加速計算的先河，并在每個版本中不斷改進。在過去的兩年里，已經添加了 20 多個硬件加速 ROS 包，并支持最新的 ROS 2 分發。該團隊去年與 Open Robotics 合作，包括自適應和類型協商，以提高提供硬件加速器的計算平臺上的 ROS 性能。他們還實施了 ISAAC ROS 的適應和類型協商，稱為 NITROS (NVIDIA Isaac Transport for ROS).

Source

]]>

通過 AI 的全棧優化在 MLPerf 推理 v3.0 中創下新紀錄

Wed, 05 Apr 2023 03:03:51 +0000

目前最令人興奮的計算應用程序依賴于在復雜的人工智能模型上進行訓練和運行推理，通常是在要求苛刻的實時部署場景中。需要高性能、加速的人工智能平臺來滿足這些應用程序的需求，并提供最佳的用戶體驗新的人工智能模型不斷被發明，以實現新的功能，而人工智能驅動的應用程序往往依賴于許多這樣的模型協同工作。這意味著人工智能平臺必須能夠運行最廣泛的工作負載，并在所有工作負載上提供優異的性能。MLPerf Inference– 現在， v3.0 的第七版是一套值得信賴的、經過同行評審的標準化推理性能測試，代表了許多這樣的人工智能模型。人工智能應用程序無處不在，從最大的超大規模數據中心到緊湊的邊緣設備。 MLPerf 推理同時代表數據中心和邊緣環境。它還代表了一系列真實世界的場景，如離線（批處理）處理、延遲受限的服務器、單流和多流場景。

Source

]]>

NVIDIA 認證的人工智能、視頻和數據分析性能的下一代計算平臺

Wed, 22 Mar 2023 06:02:34 +0000

GPU – accelerated computing 的業務應用程序將在未來幾年大幅擴展。增長最快的趨勢之一是使用生成人工智能來創建類似人類的文本和所有類型的圖像。推動市場對生成人工智能興趣激增的是 transformer models 等技術，這些技術將人工智能帶入日常應用，從對話文本到蛋白質結構生成。可視化和 3D 計算也迅速引起人們的興趣，特別是在工業模擬和協作領域。隨著 Apache Spark 等核心應用程序的加速， GPU 有望成為數據分析、商業智能和機器學習效率和成本節約的重要驅動力。最后，在智能空間和工業自動化擴張的推動下，邊緣的人工智能推理部署是企業增長最快的領域之一。旨在解決這些日益復雜的計算需求的新一代計算技術正在出現。這包括 NVIDIA 的新 GPU 體系結構，以及 AMD 、 Intel 和 NVIDIA 新 CPU 。

Source

]]>

NVIDIA L4 GPU 實現 AI 視頻和 AI 推理性能的超級充電

Tue, 21 Mar 2023 06:59:15 +0000

NVIDIA T4 于 4 年前作為通用 GPU 引入主流服務器。 T4 GPU 已被廣泛采用，目前是 NVIDIA 數據中心中容量最大的 GPU s 。 T4 GPU 被部署到人工智能推理、云游戲、視頻和視覺計算的用例中。在 NVIDIA GTC 2023 主題演講中， NVIDIA 為人工智能工作負載推出了 several inference platforms ，包括 NVIDIA T4 的繼任者： NVIDIA L4 Tensor Core GPU 。 L4 GPU 現在是一款通用、節能的加速器，旨在滿足視頻、視覺計算、圖形、虛擬化、生成人工智能和邊緣計算的眾多應用的人工智能需求。在這篇文章中，我們介紹了與上一代（ T4 ）相比， L4 GPU 的主流服務器如何提供更多的 AI 視頻性能，并實現更多的視頻流。您將在從視頻流到藥物發現的各種用例中找到經過驗證的結果，

Source

]]>

使用 AV1 和 NVIDIA Ada Lovelace 架構提高視頻質量和性能

Wed, 18 Jan 2023 09:09:49 +0000

AV1 是新的黃金標準視頻格式，與舊的 H.264 和 H.265 格式相比具有更高的效率和質量。它是開放媒體聯盟標準化的最新免版稅高效視頻編碼器。 NVIDIA Ampere 架構引入了硬件加速 AV1 解碼。 NVIDIA Ada Lovelace 架構支持 AV1 編碼和解碼。 NVIDIA Ada 架構還恢復了對每個 GPU 多個編碼器的支持（每個 GPU 最多三個編碼器和四個解碼器），與前幾代相比實現了更高的吞吐量。與 H.264 和 HEVC 相比， NVIDIA NVENC AV1 提供了更高的壓縮效率和更好的性能。為了量化質量改進，我們研究了 AV1 和 H.264 的峰值信噪比（ PSNR ）和視頻多方法評估融合（ VMAF ）分數。 PSNR 和 VMAF 是經常用于衡量編碼質量的視頻質量度量。 PSNR 是量化圖像重建質量的分貝值。

Source

]]>

CUDA 工具包 12.0 正式發布

Mon, 12 Dec 2022 06:48:00 +0000

NVIDIA 宣布最新的 CUDA 工具包軟件版本 12.0 。該版本是多年來的第一個主要版本，它專注于通過新的硬件功能實現新的編程模型和 CUDA 應用程序加速。現在，您可以使用 CUDA 自定義代碼、增強的庫和開發人員工具，針對 NVIDIA Hopper 和 NVIDIA Ada Lovelace 架構中特定于架構的功能和指令。 CUDA 12.0 包括許多主要和次要的變化。這里并沒有列出所有更改，但本文概述了關鍵功能。有關詳細信息，請參見 CUDA Toolkit 12.0 Release Notes 。 CUDA Toolkit 12.0 可供下載。 CUDA 應用程序可以立即受益于新 GPU 系列中增加的流式多處理器（ SM ）計數、更高的內存帶寬和更高的時鐘速率。 CUDA 和 CUDA 庫基于 GPU 硬件架構增強提供了新的性能優化。

Source

]]>