Ayesha Asif – NVIDIA 技術博客

使用 NVIDIA TensorRT 加速的全新 Stable Diffusion 模型

Mon, 08 Jan 2024 05:41:51 +0000

在 CES 上， NVIDIA 分享道，SDXL Turbo、LCM-LoRA 和 Stable Video Diffusion 均由 NVIDIA TensorRT 加速。這些增強功能使 GeForce RTX GPU 用戶能夠實時生成圖像，并節省生成視頻的時間，從而大幅改善工作流程。 SDXL Turbo 利用新的蒸餾技術實現先進的性能，能夠實現單步圖像生成。由 Tensor Core 和 TensorRT 加速的 NVIDIA 硬件每秒可生成多達四張圖像，使您能夠首次體驗到實時 SDXL 圖像生成功能。有關非商業用途和商業用途的更多信息，請參閱 Stability AI 會員資格頁面。下載 SDXL Turbo 模型以生成面部表情。 Low-Rank Adaptation (LoRA) 是一種用于微調 Stable Diffusion…

Source

]]>

使用 Vision Transformers 和 NVIDIA TAO 提高視覺 AI 應用程序的準確性和穩健性

Tue, 25 Jul 2023 03:27:05 +0000

視覺轉換器（ ViT ）正在掀起計算機視覺的風暴，為具有挑戰性的現實世界場景提供了令人難以置信的準確性、強大的解決方案，并提高了可推廣性。這些算法在提升計算機視覺應用程序方面發揮著關鍵作用， NVIDIA 使用 NVIDIA TAO Toolkit 和 NVIDIA L4 GPU 可以輕松地將 ViT 集成到您的應用程序中。 ViT 是一種機器學習模型，它將最初為自然語言處理設計的 transformer 架構應用于視覺數據。與基于 CNN 的同類產品相比，它們有幾個優勢，并且能夠對大規模輸入進行并行處理。雖然 CNNs 使用的本地操作缺乏對圖像的全局理解，但 ViT 提供了長期依賴性和全局上下文。他們通過以并行和基于自我關注的方式處理圖像，實現所有圖像補丁之間的交互，從而有效地做到了這一點。圖 1 顯示了 ViT 模型中圖像的處理，

Source

]]>

基于 NVIDIA 的 PC 端到端人工智能：從 FP32 過渡到 FP16 優化人工智能

Thu, 27 Apr 2023 03:07:59 +0000

這篇文章是關于人工智能端到端優化。人工智能模型的性能在很大程度上受到所使用計算資源的精度的影響。較低的精度可以提高處理速度和減少內存使用，而較高的精度可以獲得更準確的結果。在精度和性能之間找到正確的平衡對于優化人工智能應用程序至關重要。 NVIDIA GPU 配備了 Tensor Core 等專用硬件，已成為加速人工智能工作負載的關鍵組件。為了充分利用它們的功能，重要的是要滿足某些限制，并基于特定的人工智能應用程序優化硬件。在這篇文章中，我們討論了如何通過從 FP32 （單精度浮點格式）轉換到 FP16 （半精度浮點數格式）來優化 AI 的 GPU 。我們介紹了使用 FP16 的優勢、轉換模型的方法，以及這種轉換對人工智能應用程序的質量和性能的影響。從 ONNX 格式的簡單未優化模型開始。 Nsight Systems 的配置文件顯示，

Source

]]>