Sandeep Hiremath – NVIDIA 技術博客

NVIDIA 加速庫助力 Microsoft Bing 視覺搜索性能優化

Mon, 07 Oct 2024 08:04:27 +0000

Microsoft Bing 視覺搜索使全球用戶能夠使用照片作為查詢來查找內容。該功能的核心是 Microsoft 的 TuringMM 視覺嵌入模型，該模型可將圖像和文本映射到共享的高維空間中。在對網上數十億張圖像進行操作時，性能至關重要。本文詳細介紹了使用 NVIDIA TensorRT 和 NVIDIA 加速庫 (如 CV-CUDA 和 nvImageCodec) 優化 TuringMM 工作流的工作。這些工作將速度提高了 5.13 倍，并顯著降低了總體擁有成本（TCO）。我們分享了我們如何與 Microsoft Bing 團隊合作，解決其核心嵌入工作流的優化問題，從而為互聯網規模的視覺搜索提供支持。 Microsoft Bing 多媒體的博士生、高級數據和應用科學家 Andrew Stewart 表示：

Source

]]>

使用 CV-CUDA 提高基于人工智能的計算機視覺的吞吐量并降低成本

Thu, 04 May 2023 03:41:08 +0000

涉及基于人工智能的實時云規模應用程序計算機視覺正在迅速增長。用例包括圖像理解、內容創建、內容審核、映射、推薦系統和視頻會議。然而，由于對處理復雜性的需求增加，這些工作負載的計算成本也在增長。從靜止圖像到視頻的轉變現在也正在成為消費者互聯網流量的主要組成部分。鑒于這些趨勢，迫切需要構建高性能但具有成本效益的計算機視覺工作負載。基于人工智能的計算機視覺管道通常涉及圍繞人工智能推理模型的數據預處理和后處理步驟，這可能占整個工作負載的 50-80% 。這些步驟中常見的運算符包括以下內容：雖然開發人員可能會使用 NVIDIA GPU 來顯著加速他們管道中的人工智能模型推理，但預處理和后處理仍然通常使用基于 CPU 的庫來實現。這導致整個人工智能管道的性能出現瓶頸。通常是人工智能圖像或視頻處理管道一部分的解碼和編碼過程也可能在 CPU 上受到瓶頸，影響整體性能。

Source

]]>

改進了 VPI 和 PyTorch 之間的互操作性

Wed, 15 Jun 2022 02:46:00 +0000

NVIDIA Vision Programming Interface （ VPI ）是 NVIDIA 的一個計算機視覺和圖像處理軟件庫，使您能夠在 NVIDIA Jetson 嵌入式設備和離散 GPU 上提供的不同硬件后端上實現加速算法。庫中的一些算法包括濾波方法、透視扭曲、時間降噪、直方圖均衡化、立體視差和鏡頭畸變校正。 VPI 提供了易于使用的 Python 綁定，以及一個 C ++ API 。除了與 OpenCV 接口， VPI 還能夠與 PyTorch 和其他基于 Python 的庫進行互操作。在本文中，我們將通過一個基于 PyTorch 的對象檢測和跟蹤示例向您展示這種互操作性是如何工作的。有關更多信息，請參閱視覺編程接口（ VPI ）頁和 Vision 編程接口文檔。根據您在計算機視覺和深度學習管道中實現的應用程序，您可能必須使用多個庫。

Source

]]>

計算機視覺指南：為何重要以及它如何幫助解決問題

Mon, 21 Mar 2022 06:40:00 +0000

這篇文章是為了幫助初學者開發社區，尤其是那些對計算機視覺和計算機科學不熟悉的人。NVIDIA 認識到，通過計算機視覺和人工智能解決并受益于世界的視覺計算挑戰需要我們所有人。NVIDIA 很高興與人工智能中的黑人女性合作，并將此帖子獻給人工智能中的黑人女性。計算機視覺在現實世界中的應用越來越廣泛，其應用也越來越具有挑戰性，并且正在改變其意義。計算機視覺已經以某種形式存在了幾十年，它正在成為一個越來越常見的短語，遍布世界各地和各個行業：計算機視覺系統、計算機視覺軟件、計算機視覺硬件、計算機視覺開發、計算機視覺管道、計算機視覺技術。無論從字面上還是比喻上看，計算機視覺的術語和領域都超出了人們的想象。在特定的非人工智能實例中，計算機視覺也被稱為 vision AI 和傳統圖像處理，在制造業和工業用例中也被稱為 machine vision 。簡言之，

Source

]]>