DALI – NVIDIA 技術博客

研究揭示了用于理解神經活動和運動控制的突破性深度學習工具

Tue, 18 Jul 2023 05:56:17 +0000

神經科學領域的一個主要目標是了解大腦如何控制運動。通過改進姿勢估計，神經生物學家可以更精確地量化自然運動，進而更好地了解驅動自然運動的神經活動。這增強了科學家表征動物智力、社交和健康的能力。哥倫比亞大學的研究人員最近開發了一個以視頻為中心的深度學習包，可以從視頻中更有力地跟蹤動物的運動，這有助于： Lightning Pose 是一個工具，可以在 PyTorch Lightning 中用于訓練深度學習模型，以標記圖像和未標記視頻，并使用 NVIDIA 的 DALI 在 GPU 上對其進行解碼和處理。在這篇博客文章中，您將看到當代計算機視覺架構如何從開源的 GPU 加速視頻處理中受益。用于視頻中自動姿勢跟蹤的深度學習算法最近在神經科學中引起了廣泛關注。‌標準方法包括在一組注釋圖像上以完全監督的方法訓練卷積網絡。‌ 大多數卷積架構都是為處理單個圖像而構建的，

Source

]]>

為什么自動增強很重要

Fri, 05 May 2023 03:17:54 +0000

深度學習模型需要數百 GB 的數據才能在看不見的樣本上很好地泛化。數據擴充有助于增加數據集中示例的可變性。傳統的數據擴充方法可以追溯到統計學習，當時擴充的選擇依賴于建立模型訓練的工程師的領域知識、技能和直覺。自動增強出現了減少對手動數據預處理的依賴。它結合了應用自動調整和根據概率分布隨機選擇增強的思想。事實證明，使用 AutoAugment 和 RandAugment 等自動數據增強方法可以通過使模型在訓練中看到的樣本多樣化來提高模型的準確性。自動擴充使數據預處理更加復雜，因為一批中的每個樣本都可以用不同的隨機擴充進行處理。在這篇文章中，我們介紹了如何使用 NVIDIA DALI 實現和使用 GPU 加速自動增強來訓練，然后使用條件執行。自動增強是基于標準的圖像變換，如旋轉、剪切、模糊或亮度調整。大多數操作都接受一個稱為幅值的控制參數。幅度越大，

Source

]]>

NVIDIA Triton 助力騰訊PCG加速在線推理, 提高設備效能

Thu, 19 May 2022 09:14:03 +0000

騰訊平臺與內容事業群（簡稱騰訊PCG）負責公司互聯網平臺和內容文化生態融合發展，整合QQ、QQ空間等社交平臺，和應用寶、瀏覽器等流量平臺，以及新聞資訊、視頻、體育、直播、動漫、影業等內容業務，推動IP跨平臺、多形態發展，為更多用戶創造海量的優質數字內容體驗。騰訊PCG機器學習平臺部旨在構建和持續優化符合PCG技術中臺戰略的機器學習平臺和系統，提升PCG機器學習技術應用效率和價值。建設業務領先的模型訓練系統和算法框架；提供涵蓋數據標注、模型訓練、評測、上線的全流程平臺服務，實現高效率迭代；在內容理解和處理領域，輸出業界領先的元能力和智能策略庫。機器學習平臺部正服務于PCG所有業務產品。應用方案基于以上挑戰，騰訊PCG選擇了采用NVIDIA 的Triton推理服務器，以解決新場景下模型推理引擎面臨的挑戰，在提升用戶研效的同時，

Source

]]>

使用 NVIDIA DALI 加速醫學圖像處理

Tue, 18 Jan 2022 04:23:00 +0000

深度學習模型需要大量數據才能產生準確的預測，隨著模型規模和復雜性的增加，這種需求日益迫切。即使是大型數據集，例如擁有 100 多萬張圖像的著名 ImageNet ，也不足以在現代計算機視覺任務中實現最先進的結果。為此，需要使用數據增強技術，通過對數據引入隨機干擾（如幾何變形、顏色變換、噪聲添加等），人為地增加數據集的大小。這些干擾有助于生成預測更穩健的模型，避免過度擬合，并提供更好的精度。在醫學成像任務中，數據擴充至關重要，因為數據集最多只包含數百或數千個樣本。另一方面，模型往往會產生需要大量 GPU 內存的大激活，特別是在處理 CT 和 MRI 掃描等體積數據時。這通常會導致在小數據集上進行小批量的培訓。為了避免過度擬合，需要更精細的數據預處理和擴充技術。然而，預處理通常對系統的整體性能有重大影響。這在處理大輸入的應用程序中尤其如此，例如體積圖像。

Source

]]>

MLPerf HPC v1.0 ：深入研究優化，創造 NVIDIA 創紀錄的性能

Wed, 17 Nov 2021 07:10:00 +0000

在 MLPerf HPC v1 . 0 中， NVIDIA 供電系統贏得了五項新的行業指標中的四項，這些指標主要關注 HPC 中的人工智能性能。作為一個全行業人工智能聯盟， MLPerf HPC 評估了一套性能基準，涵蓋了廣泛使用的人工智能工作負載。在這一輪中，與 MLPerf 0 . 7 的強大擴展性結果相比， NVIDIA 在 CosmoFlow 上的性能提高了 5 倍，在 DeepCAM 上的性能提高了 7 倍。這一強大的表現得益于成熟的 NVIDIA AI 平臺和全套軟件。提供豐富多樣的庫、 SDK 、工具、編譯器和探查器，很難知道在正確的情況下何時何地應用正確的資產。這篇文章詳細介紹了各種場景的工具、技術和好處，并概述了 CosmoFlow 和 DeepCAM 基準測試所取得的成果。我們已經為 MLPerf Training v1.0…

Source

]]>

利用 NVIDIA DALI 實現快速數據預處理

Thu, 07 Oct 2021 06:36:00 +0000

這篇文章是對之前文章的更新. 深度學習模型需要使用大量數據進行培訓，以獲得準確的結果。由于各種原因，例如不同的存儲格式、壓縮、數據格式和大小，以及高質量數據的數量有限，原始數據通常無法直接輸入神經網絡。解決這些問題需要大量的數據準備和預處理步驟，從加載、解碼、解壓縮到調整大小、格式轉換和各種數據擴充。深度學習框架，如 TensorFlow 、 PyTorch 、 MXNet 等，為一些預處理步驟提供了本地實現。由于使用特定于框架的數據格式、轉換的可用性以及不同框架之間的實現差異，這通常會帶來可移植性問題。直到最近，深度學習工作負載的數據預處理才引起人們的關注，因為訓練復雜模型所需的巨大計算資源使其黯然失色。因此，由于 OpenCV 、 Pillow 或 Librosa 等庫的簡單性、靈活性和可用性，預處理任務通常用于在 CPU 上運行。

Source

]]>

NVIDIA 數據科學家在 MICCAI 2021 腦腫瘤分割挑戰賽中占據榜首

Thu, 30 Sep 2021 09:14:00 +0000

NVIDIA 數據科學家本周在享有盛譽的MICCAI 2021醫學成像會議上，在腦腫瘤分割挑戰驗證階段占據了前 10 名的三位。現在已經進入第十個年頭， BraTS 挑戰項目要求申請者提交最先進的人工智能模型，用于在多參數磁共振成像（ mpMRI ）研究中分割異質性腦膠質母細胞瘤亞區域，這是一項極具挑戰性的任務。參與者還可以關注分類方法的第二項任務，以預測 MGMT 啟動子甲基化狀態。 2000 多個 AI 模型被提交給了挑戰，該挑戰由醫學圖像計算和計算機輔助干預學會、北美放射學會和美國神經放射學會聯合組織。 NVIDIA 開發者在挑戰驗證階段排名第一、第二和第七，每個人都創建了不同類型的用于腫瘤分割的 AI 模型方法，包括優化的 U-Net 模型、具有自動超參數優化的 SegResNet 模型和基于 transformer 的計算機視覺方法的 Swin-UNETR…

Source

]]>